O termo “deepfake” surgiu no fim de 2017, a partir do nome de um usuário do Reddit apelidado “deepfakes”, que compartilhava vídeos com rostos trocados por inteligência artificial, boa parte deles inserindo celebridades em cenas pornográficas, além de vídeos que colocavam o ator Nicolas Cage em filmes variados como piada.
A técnica usa redes neurais adversariais generativas (GANs), desenvolvidas em meados dos anos 2010, em que uma rede gera imagens falsas e outra tenta identificá-las como falsas, aperfeiçoando-se uma contra a outra até o resultado ficar difícil de distinguir do real.
Ao lado de usos considerados legítimos, como efeitos visuais de estúdios de cinema ou sátiras, a tecnologia tem sido usada de forma prejudicial: por volta de 2019, cerca de 96% dos deepfakes disponíveis online eram pornográficos, majoritariamente feitos sem consentimento de mulheres; a técnica também alimenta fraudes financeiras e a manipulação de discursos de políticos para espalhar desinformação, o que levantou debates sobre a possibilidade de, no futuro, ninguém conseguir mais confirmar se um vídeo corresponde à realidade.
Leituras do Cosmos da Filosofia — aproximações com os filósofos, não a intenção declarada dos criadores.
