Os deepfakes percorreram um longo caminho apenas no ano passado, tornando cada vez mais difícil para a pessoa comum descobrir o que é real e o que não é.
Graças ao poder da inteligência artificial, os cibercriminosos e outros podem agora produzir deepfakes surpreendentemente convincentes de áudio, vídeo e fotos com mais rapidez e facilidade do que nunca. E os especialistas dizem que essas criações podem ser usadas para fazer de tudo, desde enganar os consumidores e tirar-lhes o dinheiro até influenciar a opinião pública antes de uma eleição.
Embora grande parte desse problema decorra da ascensão da IA, a empresa de software de segurança McAfee diz que a solução também pode estar na IA.
O McAfee Deepfake Detector, anunciado na quarta-feira, alertará os consumidores sobre possíveis deepfakes que podem encontrar ao navegar na Internet ou visualizar postagens em seus feeds de mídia social.
O Deepfake Detector da McAfee aponta possíveis sinalizadores de um vídeo falso.
A ferramenta será lançada nos PCs Copilot-Plus da Lenovo a partir de hoje. Assim como o software antivírus pelo qual a McAfee é conhecida, será um serviço pago. Os consumidores que optarem por usá-lo terão um teste gratuito de 30 dias. Depois disso, os planos começam em US$ 9,99 para o primeiro ano.
Embora o detector seja alimentado por IA, todo o processamento será feito no dispositivo, tanto para garantir a privacidade quanto para evitar problemas de latência que podem ocorrer quando os dados são enviados para a nuvem, diz Steve Grobman, vice-presidente executivo e diretor de tecnologia da McAfee.
Os dados do consumidor não serão coletados e as atualizações da IA da ferramenta virão da equipe de pesquisa da empresa, afirma.
“Queríamos realmente equipar nossos clientes com um conjunto de ferramentas para ajudá-los a identificar se algo é potencialmente gerado por IA”, diz Grobman. “Mas também queríamos estar atentos a coisas como privacidade e experiência do usuário.”
Além disso, como o antivírus, o detector foi projetado para funcionar silenciosamente em segundo plano. Mas se detectar algo questionável enquanto o usuário estiver navegando em sites ou assistindo a vídeos em seus feeds de mídia social, haverá uma notificação pop-up. Os usuários podem então escolher se desejam ignorá-lo ou clicar nele para obter mais informações.
No momento, a ferramenta analisa apenas o áudio de um vídeo, então o detector não será acionado se alguém estiver apenas navegando pelos feeds do Instagram ou Twitter sem o som ligado. E não é possível dizer se as fotos são falsas.
Os recursos da ferramenta serão eventualmente expandidos para fazer essas coisas, diz Grobman. Mas a McAfee decidiu começar com áudio, porque embora muitos deepfakes usem vídeos reais, eles quase sempre possuem áudio falsificado.
E embora o detector esteja disponível apenas nos novos computadores Lenovo por enquanto, Grobman diz que é compatível com certos tipos de processadores Intel e Qualcomm, o que poderia permitir disponibilidade futura em outros tipos de PCs e dispositivos móveis.
A ideia é educar as pessoas sobre o que estão vendo. Como parte desse esforço, a McAfee também está lançando seu Hub inteligente de IAum site onde os consumidores podem aprender tudo sobre IA e tecnologia deepfake.
Embora você possa pensar que fazer com que os consumidores paguem US$ 10 por ano por algo assim possa ser difícil de vender, Grobman argumenta que não é muito diferente de pagar por software para manter seu computador livre de vírus.
Ele observa que os deepfakes estão sendo cada vez mais usados em golpes online, apontando para um agora famoso vídeo deepfake que fazia parecer que a megastar Taylor Swift estava endossando um acordo de US$ 10 em frigideiras Le Creuset.
Nesse tipo de golpe, não há malware para o software de segurança detectar e não há nada que impeça aqueles que caem nessa de enviar seu dinheiro, criptomoeda ou informações pessoais.
“Mas se pudermos ajudar a alertar um usuário que, ‘Ei, isso provavelmente é gerado por IA’, uma lâmpada pode acender para alguns deles”, diz ele. “Talvez eles economizem 10 dólares.”
