Como detectar deepfakes com IA
Como detectar deepfakes com IA
Combater fogo com fogo pode realmente funcionar (MANUAL)
Olha, precisamos falar sobre deepfakes de novo. Seu chefe liga às 3 da manhã, pedindo para você transferir US$ 550.125 para uma conta misteriosa nas Ilhas Cayman. Não foi ele, mas sim uma inteligência artificial.
Ou aquela chamada de vídeo (falsa) da sua avó, de repente, oferecendo conselhos sobre criptomoedas — a mesma pessoa que normalmente chama todo problema técnico de "vírus de computador".
E o exemplo 3, aquela postagem do seu dentista no LinkedIn
“🦷✨ Da cadeira do dentista à computação quântica 🔬💻! Vamos mergulhar neste mundo fascinante agora mesmo!”
Meu ponto é: um cérebro humano minimamente funcional sinalizaria esses exemplos como suspeitos por padrão. Seu chefe não tem seu número pessoal, sua avó não entende de criptomoedas e a postagem do dentista tem a combinação perfeita de inteligência artificial : 1. emojis irrelevantes, 2. letras maiúsculas e 3. "vamos nos aprofundar nisso".
Conteúdo de IA verdadeiramente sofisticado não se anuncia com desfiles de emojis e mudanças de carreira que desafiam o espaço-tempo. O material gerado por IA mais convincente se integra perfeitamente ao nosso ecossistema de informações, e é exatamente por isso que precisamos de ferramentas eficazes para identificá-lo e desmascará-lo.
Eu nunca desisti de usar IA para detectar se algo foi produzido com IA. Antes de mencionarmos as ferramentas que podem ajudar, vamos falar sobre as que não ajudam. A maioria dos produtos gratuitos é ruim — como o "detector de texto gerado por chatbot" GPTZero, que afirma com convicção que o Livro do Gênesis foi "100% escrito por IA".
As ferramentas pagas de detecção de áudio falso não são muito melhores — muitas vezes, elas obrigam você a aturar uma apresentação de vendas repleta de jargões por um período que parece mais longo do que o necessário para criar os deepfakes que você está tentando detectar. E as gratuitas? Nem pense nisso. Uma ferramenta de detecção frequentemente recomendada da Play.ht me disse honestamente que está com defeito. A maioria delas nunca dirá isso pessoalmente. Elas simplesmente exibem o Erro 500.
Você sabia que o novo ChatGPT 4.5 promete oferecer detecção de áudio deepfake?
Começa por importar primeiro o código que parece importante:
E então conclui: nada de errado aqui!
Na realidade, está fingindo suas habilidades, não consegue detectar falsificações. O chatbot teve alucinações.
E vídeos? A mãe de todas as falsificações — o Monte Everest da decepção digital grosseira — é este vídeo abaixo, que testei em praticamente todas as ferramentas de detecção de vídeo.
A maioria dessas ferramentas supostamente "sofisticadas" falhou espetacularmente em detectar que se trata de uma falsificação. Enquanto isso, qualquer pessoa com olhos funcionais consegue perceber imediatamente que é tão autêntica quanto uma nota de três dólares.
Um teste de vídeo que fiz com o ChatGPT também falhou:
Observações da Inspeção Visual:
Consistência facial : Os rostos parecem realistas, com expressões naturais e iluminação consistente.
Análise de Bordas e Artefatos : A análise visual preliminar não revela imediatamente desfoque significativo ou bordas artificiais ao redor dos rostos.
Outro scanner de vídeo diz que nenhum rosto é visível…
Você entendeu meu ponto. A maioria das ferramentas que prometem clareza na detecção de falsificações não cumprem o prometido. Então, vamos dar uma olhada nas ferramentas que são realmente úteis.
Apertem os cintos, porque vou guiá-los pelo mundo surpreendentemente promissor, porém nerd, da detecção de falsificações por IA, onde a tecnologia luta contra a tecnologia em uma batalha pela verdade que, pela primeira vez, a verdade pode estar realmente vencendo.
Comentários
Postar um comentário