Deepfake
Deepfake, uma amálgama de "deep learning" e "fake", é uma técnica de síntese de imagens ou sons humanos baseada em técnicas de inteligência artificial.
O primeiro caso registrado de deepfake foi em 2017, quando um usuário do Reddit sob o pseudônimo "Deepfakes" publicou vários vídeos de caráter pornográfico na Internet. O primeiro a chamar mais atenção foi o vídeo de Daisy Ridley, atriz de vários filmes renomados como Star Wars: Episódio VII – O Despertar da Força. Outra deepfake que chamou a atenção foi da atriz Gal Gadot, a qual interpretou Mulher-Maravilha, fazendo sexo com seu meio-irmão. Vários outros vídeos com várias famosas renomadas como Emma Watson, Katy Perry, Taylor Swift e Scarlett Johansson também foram divulgados. Todas as cenas não eram reais e foram criadas por redes neurais artificiais. Os vídeos foram desmascarados pouco tempo depois. Com as pesquisas em imagens avançando a cada dia, a comunidade do Reddit consertou muitos dos erros grotescos dos vídeos gerados e tornou mais difícil distinguir um vídeo falso de um vídeo verdadeiro, a olho nu. Com uma base de dados enorme de vídeos pornôs e outra base de vídeos de várias atrizes, os usuários do Reddit treinaram diversas redes neurais para gerar mais deepfakes. A primeira notícia de deepfake foi reportada pela revista Vice, na seção de Tecnologia e Ciências, decorrendo em ampla disseminação do ocorrido em vários outros meios midiáticos.
Imagem: jurvetson · BY · Openverse
Dado o cenário político mundial atual, as deepfakes são uma enorme preocupação para assuntos como relações internacionais, corrida à presidência etc. As notícias falsas ultimamente têm causado muitos impactos na política mundial, principalmente em 2016. As eleições presidenciais dos Estados Unidos de 2016 foram comprovadamente afetadas por notícias falsas geradas pela empresa Cambridge Analytica. A empresa Facebook foi chamada à corte para explicar vazamentos de dados para a Cambridge Analytica e assim conhecer os perfis de eleitores (melhor explicado em Escândalo de dados Facebook–Cambridge Analytica). Fatos parecidos podem acontecer futuramente, porém sendo vídeos, imagens e áudios falsos gerados para manipular os eleitores. Alguns vídeos de caráter divertido foram criados para exemplificar o fato, como o do presidente argentino Mauricio Macri que teve sua face substituída pela face do ditador Adolf Hitler, e a face da Chanceler Angela Merkel substituída pela face do Presidente Donald Trump. O exemplo mais famoso é o vídeo divulgado pelo BuzzFeed onde o ator Jordan Peele interpreta vocalmente Barack Obama, alertando os males que a deepfake pode causar.
Imagem: Wesley Fryer · BY · Openverse
Em Janeiro de 2018, foi lançado um aplicativo de computador chamado "FakeAPP". O aplicativo permite que os usuários facilmente criem e compartilhem vídeos com as faces substituídas. O aplicativo usa uma rede neural artificial, o poder da Unidade de processamento gráfico do usuário e três a quatro Gigabytes de armazenamento para gerar os vídeos falsos. Para informações detalhadas, o programa precisa de muitos dados visuais (imagens, vídeos) da pessoa a ser inserida para a rede "aprender" quais parâmetros das imagens têm que ser trocados (posição dos olhos, cor do cabelo, por exemplo). O software usa o framework de inteligência artificial TensorFlow, desenvolvido pela Google, o qual dentre as mais variadas aplicações foi usado no programa DeepDream. As celebridades são os principais alvos de vídeos falsos, como os de pornografia, mas também outros são afetados pela onda de ataques. Em Agosto de 2018, pesquisadores na Universidade da Califórnia em Berkeley publicaram um artigo científico introduzindo um aplicativo de "danças falsas" onde uma criança pode fazer movimentos de um dançarino profissional usando inteligência artificial.
Imagem: Steve Jurvetson · BY · Openverse
Abusos
O jornal Aargauer Zeitung expõe como a manipulação de imagens e vídeos usando métodos de inteligência artificial pode ser um fenômeno extremamente perigoso para nossa sociedade atual. Porém, a falsificação de imagens e vídeos é tão velha quanto o marco dos programas de edição de vídeo e edição de imagens, a verossimilhança seria "apenas" mais um aspecto a ser considerado. Os casos de pornografia de vingança, deepfakes direcionadas a embustes e escândalos políticos são os mais graves atualmente. Casos deste tipo podem ser tratados como crime atualmente, como no Reino Unido. A Administração do Ciberespaço da China (CAC) informou que "qualquer alteração feita com inteligência artificial ou realidade virtual em conteúdo online precisa estar claramente sinalizada. Não seguir as novas regras [em vigor desde janeiro de 2020] pode ser considerado ofensa criminal".
Efeitos na credibilidade e autenticidade
Outro feito impactante das deepfakes é fazer as pessoas desacreditarem em toda e qualquer mídia divulgada, pois aquela informação pode não ser genuína e também indistinguível do conteúdo original. O pesquisador Alex Champandard comunicou que todos deveriam entender o quão rápido as coisas podem ser corrompidas com a tecnologia atual, e que o problema não é técnico, mas um problema que tem que ser resolvido pelo jornalismo e pela confiabilidade da informação. A primeira "armadilha" é que o Homem pode entrar em uma era a qual não poderá ser distinguido o verdadeiro do falso.
Reações na Internet
Alguns sites, como o Twitter e o Gfycat, anunciaram que deletariam conteúdos relacionados a deepfakes e bloqueariam os usuários. Anteriormente, a plataforma de conversas Discord bloqueou um canal de comunicação dedicado a compartilhar vídeos pornográficos falsos de celebridades. O site de pornografia, Pornhub, também planeja bloquear tais conteúdos, porém foi comunicado que o mesmo não tem dado força ao combate. Já no Reddit, a situação inicial permaneceu como "não concluída" até o subreddit ser suspenso em Fevereiro de 2018 devido à violação de políticas de uso pelo artigo de "Pornografia involuntária". A rede social Facebook lançou, em 2019, a competição “Deepfake Detection Challenge” (Desafio de Detecção de Deepfake, em inglês) para criar tecnologias e software capazes de detectar vídeos usando a técnica de vídeo infox.
