MIT Media Lab · 2016–2020
Um site fez o mundo escolher quem um carro autônomo deveria atropelar em variações do dilema do bonde.
Sobre a obra
Lançado em janeiro de 2016 pelo grupo de Iyad Rahwan no MIT Media Lab, com os psicólogos sociais Azim Shariff e Jean-François Bonnefon, o Moral Machine apresentava aos usuários dilemas no estilo do problema do bonde: um carro autônomo com os freios falhando precisa escolher entre atingir um grupo de pessoas ou outro, variando fatores como idade, número de pessoas, se seguem a lei ou se são animais.
Cada sessão trazia treze cenários sorteados de um banco de 26 milhões de combinações possíveis. Entre 2016 e 2020, o site reuniu cerca de 40 milhões de decisões de aproximadamente 4 milhões de participantes em 233 países, com a interface traduzida para nove idiomas além do inglês, incluindo o português.
Os resultados, publicados na revista Nature em outubro de 2018 no artigo “The Moral Machine Experiment”, mostraram preferências globais por poupar humanos em vez de animais, jovens em vez de idosos e quem segue a lei em vez de quem a desrespeita — mas com variações culturais importantes: países ocidentais de maioria cristã preferiam mais a inação, enquanto regiões do Leste Asiático valorizavam menos a juventude. O objetivo declarado era informar o projeto de veículos autônomos com preferências morais observadas, não impostas por um único grupo de especialistas.
Leituras do Cosmos da Filosofia — aproximações com os filósofos, não a intenção declarada dos criadores.
O dilema do bonde, criado por filósofos para testar intuições morais, ganhou aqui uma versão literal e em escala: milhões de pessoas escolhendo, clique a clique, quem um carro deveria sacrificar. Isso reaproxima uma velha questão ética utilitarista — julgar uma ação pela soma de suas consequências — do desconforto que ela sempre provocou: até que ponto é aceitável calcular vidas como se fossem números a comparar?
Fontes consultadas
