Especialistas Alertam para a Desinformação Alimentada pela IA

EQUIPA DA ADF

A guerra de informação tornou-se uma ameaça omnipresente em quase todos os conflitos violentos em África.

Na República Democrática do Congo (RDC), na Etiópia, na Somália, no Sudão e na região do Sahel, as plataformas dos meios de comunicação social aumentaram o discurso de ódio e as campanhas de desinformação.

Especialistas, como o economista somali Abdullahi Alim, estão a alertar para o facto de as novas tecnologias, especificamente as que são alimentadas pela inteligência artificial (IA), terem o poder de trazer uma devastação e uma guerra muito maiores a um continente que já se debate com fracturas étnicas, comunitárias e raciais.

“Os baixos níveis de literacia digital, as políticas frágeis e os sistemas limitados de segurança na internet tornam o continente propício ao discurso de ódio e à violência,” Alim escreveu num artigo de 21 de Junho para a revista Foreign Policy.

“O advento da inteligência artificial adversária — que envolve algoritmos que procuram evitar as ferramentas de moderação de conteúdos — pode acender o fósforo da próxima guerra do continente, e a maioria das empresas de redes sociais está lamentavelmente mal preparada. Com uma supervisão limitada, isto pode facilmente levar algumas comunidades — que já estão cheias de tensões — ao conflito e ao colapso.”

Alim é director-executivo do Africa Future Fund, uma plataforma que visa acelerar as iniciativas tecnológicas em todo o continente. Ele analisa o caos no leste da RDC, reflecte sobre a história de genocídio da região e preocupa-se com o que o futuro poderá reservar.

“Suponhamos que [o genocídio do Ruanda] tinha acontecido hoje, na era do algoritmo,” disse. “Quanto mais caos e assassinato se geraria se as imagens falsificadas e os deepfakes estivessem a proliferar nas redes sociais, em vez de na rádio, e a radicalizar ainda mais o público? Nada disto está fora do nosso alcance.”

Chukwuemeka Monyei, um investigador de IA, advogado e especialista em segurança cibernética que reside em Abuja, na Nigéria, apontou um incidente ocorrido em 2023 no Sudão, no qual ferramentas de áudio alimentadas por IA ajudaram a criar uma gravação deepfake do ex-ditador Omar al-Bashir, supostamente criticando o líder das Forças Armadas do Sudão, General Abdel Fattah al-Burhan.

“A realidade é que a tecnologia se desenvolveu mais rapidamente do que as ferramentas para mitigar o risco,” Monyei disse à Voz da América em 2023. “Isto não é surpreendente, porque são coisas para as quais os especialistas tinham alertado no início da revolução da IA.

“Vimos em muitos Estados que as tecnologias foram utilizadas para interferência eleitoral ou desinformação, como aconteceu durante a pandemia.”

A guerra civil de 2020-2022 na Etiópia ofereceu outro exemplo sombrio do discurso de ódio amplificado pelas redes sociais.

Num relatório de 2023, o grupo de direitos humanos, Amnistia Internacional, disse que os algoritmos do Facebook “sobrecarregaram a disseminação da retórica prejudicial visando a comunidade de Tigré, enquanto os sistemas de moderação de conteúdo da plataforma não conseguiam detectar e responder adequadamente a tal conteúdo.”

Alim afirmou que as ferramentas de IA adversária podem ajudar os fornecedores de desinformação a evitar a moderação e outros sistemas de segurança baseados em conteúdos.

“Um programa de IA adversário pode alterar ligeiramente os quadros de vídeo de um deepfake, de modo que ainda seja reconhecível ao olho humano, mas a ligeira alteração (tecnicamente conhecida como ruído) faz com que o algoritmo o classifique incorrectamente, evitando assim as ferramentas de moderação de conteúdo,” escreveu.

Alim apela às empresas de redes sociais para que partilhem dados que permitam a organizações terceiras monitorizar e atenuar as campanhas de desinformação.

“As empresas tecnológicas devem, a curto prazo, investir em algoritmos capazes de detectar discursos de ódio nas línguas locais; criar uma rede mais alargada de moderadores de conteúdos e peritos em investigação; e dar prioridade a uma maior transparência e colaboração que permita a peritos independentes realizar auditorias, conceber intervenções políticas e, em última análise, medir o progresso,” escreveu.