Deepfakes impossíveis de distinguir da realidade. Nas últimas duas décadas, Farid, de 60 anos, especializou-se na identificação desses vídeos falsos. Este professor da Universidade da Califórnia em Berkeley confessou que os avanços na IA generativa tornaram os métodos tradicionais de detecção totalmente ineficazes. Suas conclusões confirmam a sensação que temos há algum tempo em relação a esse tipo de conteúdo: a IA avançou tanto que o problema não se resume mais apenas aos deepfakes; passamos a desconfiar até mesmo das fotos reais.
A reputação de Farid o precede. Seu pai trabalhou por 50 anos como químico na Eastman Kodak, e Farid cresceu visitando frequentemente a câmara escura, observando como as fotos se transformavam à medida que passavam pelos diferentes líquidos. Ele acabou criando um sistema de “impressões digitais” que permitiu detectar casos de pornografia infantil ocultos na internet. De fato, sua tecnologia tem levado à denúncia de 30 milhões de casos de possível abuso a cada ano, além de resultar em centenas de prisões e vários resgates.
Diante da enxurrada de deepfakes perfeitos gerados por IA, Farid decidiu abandonar seu trabalho para se refugiar em uma fazenda em Vermont. Sua desistência é a mais recente demonstração de uma dura realidade: não podemos mais confiar no que vemos nas redes sociais. Ao comentar a situação, o especialista se sentia impotente:
“Sinto saudades daqueles tempos em que só víamos um vídeo desfocado de um tubarão nadando pela rua. A tecnologia está melhorando muito. Isso me leva a um lugar sombrio”.
Agora, o especialista se dedica ao trabalho com madeira e se afastou das redes sociais e da tecnologia.
O ponto de inflexão que ilustra essa crise na área da perícia digital ocorreu após a divulgação viral de um vídeo que mostrava o suposto impacto de um míssil norte-americano em uma escola no Irã. Farid dedicou um dia inteiro a analisar a sequência quadro a quadro, desde analisar a geometria das sombras ao comprimento em pixels do projétil.
O especialista não encontrou nada que pudesse provar que o vídeo fosse falso, e o mesmo aconteceu com outros que entendem do assunto. Nenhum deles conseguiu emitir um veredicto claro sobre a autenticidade, e isso deixou claro que a geração de vídeo com IA está atualmente tão avançada que um conteúdo real é indistinguível de um deepfake gerado com esses modelos de última geração.
Na reportagem do The New York Times, Farid explicou que seus estudos demonstram que a maioria das pessoas já não consegue distinguir uma foto real de uma criada digitalmente. “Sinto que estou ficando cego”, afirmou o especialista, demonstrando sua preocupação com uma IA que está conseguindo obscurecer a verdade e distorcer a realidade.
