Você já viu o vídeo dos coelhos pulando em uma cama elástica no quintal?!?! Eles eram adoráveis — e totalmente falsos.
Assim que os coelhos começaram a viralizar na internet há algumas semanas, detetives da internet e repórteres apontaram como identificar sinais de que o vídeo foi gerado por inteligência artificial (IA). O vídeo original do Tiktok foi assistido mais de 230 milhões de vezes.
Ferramenta de vídeo de IA, do Google, foi lançada em maio deste ano e é uma das principais ferramentas para criar vídeos falsos Foto: Reprodução
Com o boom da IA nos últimos anos, aprendemos a identificar as características das imagens criadas por IA, incluindo humanos com seis dedos, brincos descombinados, texto distorcido ou fundos borrados. O vídeo dos coelhos tinha algumas dessas falhas, como um coelho desaparecendo no meio do salto.
Mas essas táticas de investigação estão rapidamente se tornando obsoletas. A tecnologia que pode conjurar pessoas, animais e cenas inteiras está avançando tão rapidamente que os profissionais alertam que é difícil para eles distinguir o que é real ou IA.
“A tecnologia ficou tão boa que nem mesmo os doutores da Ivy League da nossa equipe conseguem distinguir a diferença”, disse Eu sou ColmanCEO da empresa de detecção de IA, Defensor da realidade. “E se eles não conseguem distinguir a diferença a olho nu, como meus pais ou meus filhos teriam chance?”
Precisamos parar de tentar ser detetives de IA. Isso não vai funcionar. E agora?
Os coelhos intencionalmente realistas, mas falsos
O criador do vídeo dos coelhos do TikTok, um jovem de 22 anos que trabalha com marketing, disse em uma entrevista que decidiu criar algo que parecesse autêntico.
Andy, que preferiu não revelar seu nome para proteger sua privacidade, disse que criou um comando de IA e uma personagem feminina no TikTok para fingir surpresa ao ver as imagens da câmera de segurança de sua casa mostrando coelhos em seu quintal.
O vídeo postado no TikTok foi sua primeira tentativa com a tecnologia Eu vejo 3 fazer GoogleDisse Andy.
Ele disse que sabia que o vídeo promoveria um debate sobre se as imagens eram reais ou geradas por IA — e isso sinalizaria ao algoritmo do TikTok para mostrar o vídeo a mais pessoas. A experiência funcionou muito acima das suas expectativas, disse ele.
“Dez minutos depois de publicá-lo, meu celular começou a explodir”, disse ele. “Eu estava constantemente atualizando a página, e era só curtidas, curtidas, curtidas, curtidas.”
Emmanuelle Salibadiretora de investigação da empresa de detecção de IA GetRealdisse que usou tecnologia especializada e suas habilidades de jornalismo investigativo para rastrear as origens dos coelhos gerados por IA.
Ser enganado por bolas de pelo de IA era parte da diversão. Mas Saliba teme que essas bobagens sejam um prenúncio de uma onda de falsificações de IA que se passam por pessoas reais ou nos fazem desconfiar do que é real.
Como “é possível criar coisas do nada”, disse Saliba, “isso torna difícil provar também as evidências visuais reais”.
O que fazer e o que não fazer em um mundo de imagens geradas por IA
Não tenho todas as respostas, mas gostaria de sugerir uma mentalidade para lidar com uma infinidade de conteúdos gerados por IA e um plano de ação para o que empresas e governos devem fazer para ajudar você a distinguir o que é feito por humanos e o que é feito por máquinas.
O que fazer: aceite suas limitações. Sejam informações e imagens falsas criadas há séculos por pessoas ou novas criações de IA, é útil reconhecer nossa tendência de acreditar em coisas que nos assustam, nos tentam, nos surpreendem ou apoiam o que já acreditamos.
Mas você não pode, e não deve ser esperado que se torne um Sherlock Holmes digital para identificar se é realmente a Taylor Swift ou Oprah Winfrey vendendo algo para você.
Embora as dicas forenses para identificar IA às vezes funcionem agora, elas estão se tornando conselhos cada vez mais inúteis e contraproducentes.
“Os dias de dizer ao público em geral: ‘Essas são as coisas que você deve procurar’ — acabaram”, disse Henry Ajderespecialista e consultor em IA. “Acho que elas estão se tornando ativamente prejudiciais.”
Não pergunte aos chatbots: “Isso é real?” Ajder disse que o Chatgpttambém Openaio Grokfazer Xe outros chatbots não são programados para dizer se as imagens ou informações são criadas por IA. Os chatbots podem acertar, mas não se deve confiar neles para isso, disse ele.
O X e a OpenAI não comentaram. O Washington Post tem uma parceria de conteúdo com a OpenAI.
O que fazer: espere que as empresas informem o que é real ou IA. Muitas empresas de mídia social, incluindo o TikTok, pelo menos experimentaram a tecnologia para identificar automaticamente se as imagens foram criadas em grande parte com IA.
(Em um comunicado, o TikTok afirma que exige que as pessoas identifiquem o conteúdo realista gerado por IA e que a empresa investe em recursos para apoiar isso. O vídeo dos coelhos do TikTok não foi inicialmente identificado como IA. Agora ele está.)
Outras abordagens tecnológicas buscam verificar se as imagens ou o áudio foram criados por um ser humano.
É complicado acertar nisso e fazer com que todas as empresas de internet concordem com uma abordagem padrão para a divulgação. Mas estamos chegando lá. A tecnologia Synthiddo Google, que marca o material gerado por IA com um código invisível, mas legível por computador, identificou o vídeo de Andy como IA. (O SynthID não está disponível ao público.)
Colman disse que as divulgações devem ser obrigatórias e não ficar a critério das empresas. Ele e outros especialistas em IA dizem que você deve se sentir confiante no que vê e ouve.
“Devemos ter o direito de saber o que é gerado por IA e o que não é”, disse Ajder.
Este conteúdo foi traduzido com o auxílio de ferramentas de Inteligência Artificial e revisado por nossa equipe editorial. Saiba mais em nossa Política de IA.
