Empresas de redes sociais descobriram uma tentativa da Rússia de criar um especialista falso para espalhar desinformação em África. Agentes russos utilizaram uma popular plataforma de inteligência artificial para criar conteúdo para um académico e comentador geopolítico fictício chamado “Dr. Manuel Godsin,” com o objectivo de infiltrar a propaganda pró-Kremlin nos principais meios de comunicação social em África.
A OpenAI afirmou ter recebido uma denúncia da Meta, proprietária e operadora do Facebook, de que uma rede russa estava a visar o público africano com conteúdo gerado pelo seu aplicativo de modelo amplo de linguagem, o ChatGPT. O aplicativo é treinada com vastas quantidades de dados de texto para compreender e gerar linguagem, código e conteúdo semelhantes aos humanos.
“A principal actividade da conta do ChatGPT consistia em gerar publicações nas redes sociais e artigos de comentário de formato longo sobre geopolítica na África Subsariana,” a OpenAI escreveu num relatório de 25 de Fevereiro sobre utilizações maliciosas do seu modelo. “O utilizador introduzia principalmente comandos em Inglês, mas, por vezes, introduzia instruções em Russo que atribuía ao seu gestor.”
A Meta afirmou ter descoberto e encerrado 37 contas do Facebook e 29 páginas por violarem a sua política sobre “Comportamento Inautêntico Coordenado.”
“Desmantelámos uma rede com origem na Rússia que visava públicos na África Subsariana, incluindo Angola, Gana, Quénia e África do Sul,” a Meta escreveu num relatório de Março sobre ameaças. O Mali, a Nigéria, o Togo e o Uganda também foram alvos.
“A rede também utilizou conteúdo gerado por IA para fazer com que as suas contas parecessem mais autênticas aos utilizadores locais, incluindo na identidade visual da página, como fotos de perfil e anúncios a promover a página, bem como nos seus materiais de operações de influência. Partilhámos esta informação com os nossos parceiros da OpenAI, que conduziram uma investigação independente sobre a rede, levando à remoção da rede das suas plataformas.”
Analistas forenses da Code for Africa (CfA), uma organização sem fins lucrativos de jornalismo de dados, verificaram a campanha mediática russa, que “copia técnicas semelhantes de ‘lavagem de informação’ e ‘opiniões pagas’ pioneiras das agências estatais chinesas no início da década de 2020,” de acordo com um relatório de 17 de Março do Observatório Africano da Democracia Digital (ADDO).
“O conteúdo também foi amplificado por sites falsos de grupos de reflexão, com alguns dos artigos republicados em plataformas globais, como o portal de notícias global MSN, propriedade da Microsoft, como supostas ‘análises de especialistas’ credíveis,” segundo o ADDO.
A CfA investigou o escritor falso e os seus artigos gerados por IA — 38 peças de conteúdo manipulado publicadas 73 vezes em pelo menos 27 sites diferentes em oito países africanos.
“A investigação da CfA baseou-se no estudo de caso da OpenAI, confirmando que o ‘Dr. Manuel Godsin’ é uma identidade fictícia — um perfil falso criado para introduzir narrativas russas no ecossistema dos principais meios de comunicação social, fazendo-se passar por um comentador independente,” afirmou o ADDO.
Nas biografias de autor fornecidas aos meios de comunicação africanos, Godsin é descrito como tendo um mestrado em gestão de crises internacionais pela Universidade de Oslo e um doutoramento pela Universidade de Bergen.
A CfA e a OpenAI não conseguiram encontrá-lo na biblioteca da Universidade de Bergen. A Universidade de Oslo afirmou que não oferece cursos de gestão de crises internacionais e que não tinha qualquer registo de um aluno actual ou anterior chamado Godsin.
Pesquisas de imagem reversa na foto de perfil anexada aos artigos de Godsin encontraram uma correspondência com um estudante de Direito em São Petersburgo, na Rússia, chamado Mikhail Malyarov Yurievich, que publicou a sua foto num site de networking jurídico russo na década de 2010. Godsin também é descrito como autor de vários livros, nenhum dos quais a CfA conseguiu encontrar em quaisquer catálogos ou bases de dados.
“A operação Godsin parece estar entrelaçada com uma máquina de propaganda mais ampla, alinhada com o Kremlin, que tem como alvo África,” concluiu o ADDO. “Um nó central nesse ecossistema é a African Initiative, uma agência financiada pelo Estado com sede em Moscovo focada em África, que foi lançada em 2023.”
As análises da CfA revelaram que sites de notícias da grande mídia publicaram vários artigos de Godsin logo após a African Initiative ter publicado comentários semelhantes sobre os mesmos assuntos.
“A disseminação de informação falsa, e em alguns casos de clara desinformação, na grande mídia não se resume apenas a promover uma narrativa específica,” segundo o artigo do ADDO. “É também um ataque à integridade do ecossistema noticioso, com um efeito concomitante na confiança nos meios de comunicação social que serve os fins de actores empenhados em destruir a integridade da informação em geral.”