[ad_1]
Após a subida ao poder do Presidente do Burkina Faso, devido a um golpe militar, surgiram vídeos protagonizados por diversos rostos a promover o novo líder do Estado da África Ocidental. “Temos de apoiar… o Presidente Ibrahim Traoré… Pátria ou morte, venceremos!”, declarava um jovem de leve sotaque americano num vídeo que circulava no Telegram, no início de 2023.
De acordo com o O Guardião, vários vídeos deste tipo foram gerados por uma ferramenta de inteligência artificial (IA) inspirada em modelos humanos e disponibilizada pela tecnológica Synthesia, uma comece com sede em Londres. A aposta da empresa no produto de avatar digital aberto ao mercado de massa e a injeção de capital por investidores lhe renderam o status de “unicórnio”, título aplicado a empresas privadas avaliadas em mais de US$ 1 bilhão.
Essa tecnologia também tem sido usada para gerar imagens relacionadas a estados hostis, como Rússia e China, para espalhar desinformação. Fontes dos serviços secretos revelaram ao O Guardião que havia uma alta probabilidade de que os vídeos de Burkina Faso tivessem sido co-criados por atores estatais russos.
A ferramenta em causa permite a uma empresa ou indivíduo criar um vídeo com um apresentador em poucos minutos, por apenas 23 libras por mês. Connor Yeates e Mark Torres foram ambos “usados” para a propaganda do actual líder do Burkina Faso.
No Verão de 2022, Connor foi chamado pelo seu agente para ser um dos primeiros modelos de IA da Síntese. “Pagaram prontamente, não tenho pais ricos e precisava do dinheiro”, confessou ao jornal britânico. Mark admitiu, depois de o Guardião lhe ter mostrado o vídeo pela primeira vez: “Não quero que ninguém me veja dessa forma. Só o fato de minha imagem estar lá fora pode significar mais — promover o regime militar em um país que eu não sabia que existia. As pessoas vão pensar que estou envolvido no golpe.”
Um porta-voz da Synthesia assegurou ao Guardião que a empresa proibiu as contas que criaram os vídeos em 2023 e reforçou seus processos de revisão de conteúdo, por meio de moderadores e sistemas automatizados para detectar e prevenir a manipulação da tecnologia da empresa. No entanto, Mark Torres e Connor Yeates não tinham conhecimento dos vídeos até que o jornal britânico os contatou há alguns meses.
O Guardião decidiu usar uma série de roteiros de desinformação para testar a tecnologia da Synthesia. Embora o sistema tenha bloqueado tentativas de usar um dos avatares disponíveis, foi possível ao jornal recriar o vídeo de propaganda de Burkina Faso com um avatar gerado a partir de um modelo humano e fazer sua consequente download. Nenhuma dessas etapas devia ter sido permitida de acordo com as políticas da empresa de tecnologia. A Synthesia respondeu que não se tratava de uma violação de seus termos, uma vez que respeitava o direito de expressar uma posição política individual, mas mais tarde bloqueou a conta.
Fundada em 2017 por acadêmicos de Londres e Munique — Victor Riparbelli e Steffen Tjerrild – atualmente, a Synthesia detém uma participação significativa no mercado de tecnologia, contando com clientes como Microsoft, Zoom, Xerox e Ernst & Young. A Synthesia retirou o serviço gratuito de áudio habilitado para IA de seu sistema depois de ser contatada pelo Guardião e contou que a tecnologia por trás do produto era um serviço de terceiros.
Texto editado por Sonia Sapage
[ad_2]
Source link