Não são jornalistas, são avatares: chavismo promove desinformação com inteligência artificial, diz El País

Um loiro apresenta uma reportagem para o House of News En Español, um suposto telejornal em inglês no qual tenta demonstrar que a economia venezuelana não está “tão destruída”, pois a ocupação hoteleira para o próximo feriado de carnaval já estaria tomada por venezuelanos ansiosos para gastar dinheiro em praias caribenhas.

Em outro vídeo, um apresentador negro mostra os lucros gerados pelo Serie del Caribe, competição de beisebol realizada há uma semana em Caracas: US$ 10 milhões em ingressos para assistir aos jogos de beisebol e US$ 7 milhões em alimentos comprados pelos torcedores. Os dados surpreendem, já que o governo não especificou quanto custou para terminar dois estádios em tempo recorde com os cortes financeiros que, como repetem constantemente, as sanções internacionais lhes deixaram.

As informações são do jornal El País, reproduzida pelo O Globo, em reportagem de Florantonia Singer, em Caracas.

Os supostos jornalistas são Noah e Daren, dois avatares criados com inteligência artificial a partir do catálogo do software Synthesia de mais de cem rostos multirraciais. Como Noah e Daren, entre os avatares oferecidos pelo aplicativo, há outros que parecem vestidos como apresentadores de televisão, mas também há Dave, como médico e executivo, Carlo, com capacete de construção, uma mulher com um hijab, um chef e até Papai Noel. Alguns meses atrás, alguns deles, também no papel de repórteres, foram usados em uma campanha de desinformação a favor da China, denunciou o New York Times.

Os vídeos dos falsos apresentadores falando sobre a Venezuela ganharam centenas de milhares de visualizações no YouTube, viralizaram em redes sociais como o TikTok e foram inseridos como publicidade paga na plataforma. Além disso, foram transmitidos pela estação de televisão estatal, principal megafone a favor do governo de Nicolás Maduro.

O chavismo já fez uso de estratégias de bots e tropas de tuiteiros pagos para promover hashtags e conversas nas redes sociais. Agora, enquanto o mundo ainda tenta entender as desgraças e promessas do ChatGPT, o complexo aparato de propaganda que orbita a crise venezuelana rapidamente incorporou a inteligência artificial à artilharia digital.

Com uma assinatura de apenas alguns dólares por mês, o usuário do Synthesia pode inserir um script escrito para o software criar o vídeo ultrarrealista com vozes disponíveis em mais de cem idiomas e sotaques e sincronização labial do avatar. A empresa foi criada em 2017 por empresários e pesquisadores de universidades dos Estados Unidos e da Europa, segundo seu site. O catálogo de avatares é composto por “gêmeos digitais”, atores que forneceram as imagens e receberam pagamento por isso, dizem eles em sua seção de perguntas frequentes.

Eles promovem a “mídia sintética”, chamando-a de “um dos desenvolvimentos mais empolgantes que permitiram o progresso recente no aprendizado profundo”, com o qual buscam “empoderar as pessoas” para criar conteúdo apenas para fins comerciais, já que “conteúdo político, sexual, pessoal ou discriminatório” não é tolerado, dizem. Contudo, esse progresso recente também encontrou o deepfake que está por trás dessa tecnologia e que abre caminho para a grande epidemia de desinformação.

— A inteligência artificial está sendo democratizada e tornada acessível. Muitas pessoas têm períodos de teste gratuito desses softwares ou eles são deixados abertos para que o público os treine com a ideia de que esses vídeos sejam cada vez mais realistas — explica Héctor Mazarri, da Caçadores de Fake News, organização que fez a análise dos vídeos de Noah e Daren falando sobre a Venezuela para encontrar suas origens e alertar sobre uma nova campanha de desinformação do chavismo e a disseminação de dados enganosos. Ele acrescenta que, “nesse caso, o que estamos vendo é uma tentativa organizada de empurrar certas narrativas favoráveis ao governo”.

— Embora um usuário treinado possa perceber os erros, isso é feito para que ninguém fique isento de não acreditar — acrescenta o jornalista. — A desinformação é um problema global, e seu objetivo é nos fazer desconfiar de tudo e polarizar, por isso é necessário criar uma comunidade de infocidadãos, para que as pessoas possam entender como isso funciona e colocar muito da informação que chega a eles em quarentena para conter a propagação da informação, o impulso de replicar ou de acreditar.

Para Mazarri, esse é apenas o começo do que está por vir, o que inclui a clonagem de voz, o que representa grandes desafios na caça às fake news a que se dedica.

— Cresceu o desenvolvimento e o investimento em inteligência artificial, mas é o público que tem promovido isso. Quanto mais você usa, mais confiável ele se torna e isso desata uma grande concorrência entre as empresas de tecnologia — explica.

Mudando a narrativa

Desde 2018, o Observatório ProBox acompanha o comportamento das tendências sociopolíticas nas redes sociais da Venezuela, Cuba, Nicarágua e El Salvador. O monitoramento da máquina de propaganda do partido governista venezuelano permitiu que eles identificassem padrões. Todos os dias, no início do dia, a partir da conta do Twitter do Ministério de Comunicação e Informação da Venezuela, a hashtag que será posicionada para o dia é publicada graças a um exército indeterminado de tuiteiros reais e de contas automatizadas — a chamada tropa — que receberão gratificações em dinheiro pelo Sistema Pátria, por meio do qual são distribuídas pensões e alguns salários da administração pública.

— Isso tem a intenção de fazer acreditar na opinião pública internacional certas narrativas, como a da hashtag desta semana #LasSancionesMatanSalario [“As sanções acabam com os salários”, em tradução livre], que já tem um milhão de postagens — explica Estefanía Da Silva, coordenadora geral do ProBox. — Porém, se você comparar com a mídia independente, sabe que não é bem assim. Trata-se principalmente de gerar propaganda, desviar o foco, mudar a narrativa.

Na última semana, segundo o monitoramento feito pelo observatório, foram geradas mais de 10 milhões de mensagens associadas ao chavismo.

— 96,5% são mensagens manipuladas que vêm de contas automatizadas ou possíveis bots. Tudo se move por meio de contas coordenadas de forma inautêntica — ela explica.

Em outro caso, com a hashtag #LasSancionesSonContraElPueblo (“as sanções são contra o povo”), foram geradas 1,3 milhão de mensagens por meio de 15.392 usuários, aos quais se somam cerca de 5.750 bots em potencial e contas automatizadas. Isso produz um comportamento artificial da tendência.

Da Silva acrescenta que também registraram a participação de contas da Nicarágua e de Cuba para posicionar hashtags específicas, o que os leva a concluir que se trata de ações coordenadas entre os aparatos de propaganda desses governos.

Em um grupo do Telegram que reúne 740 tuiteiros, eles discutiram o valor do bônus desta semana. Seria algo entre US$ 3 e US$ 5, segundo os comentários. O governo criou categorias para premiar o trabalho, promovendo artificialmente hashtags como se fossem as Olimpíadas: bronze, ouro e prata.

“Eles devem ter em mente que os tuiteiros se tornam spammers para a rede de microblogs. Por isso o trabalho deve ser pausado para que sua conta não seja banida ou suspensa”, recomendou um tutorial compartilhado diversas vezes no grupo chamado Usuários ativos do Twitter.

A estratégia transformou o Twitter em um campo minado para os venezuelanos. A ProBox monitora mensagens no espectro sociopolítico do partido no poder, mas também da oposição, sociedade civil, contas anônimas e outros atores. O ativismo digital pelos direitos humanos ou, nas últimas semanas, pela reivindicação de aumento salarial só cresce em ondas, quando o protesto também tem sua contrapartida nas ruas. Em geral, acrescenta Da Silva, “o partido no poder conquista as conversas”, mesmo que seja entre bots, tuiteiros pagos e agora com avatares de inteligência artificial.