Pouco depois de o Capitão Ibrahim Traoré ter liderado o segundo golpe de Estado no Burquina Faso num ano, em Setembro de 2023, começaram a circular vídeos deepfake que exortavam os cidadãos burquinabês a apoiar o golpe.
Desde então, Traoré tornou-se a estrela de uma série de vídeos fabricados para retratar o líder da junta apertando as mãos de líderes mundiais, repreendendo o Fundo Monetário Internacional ou dirigindo-se ao Papa Leão XIV em Inglês fluente.
Os vídeos são cuidadosamente elaborados para provocar uma reacção emocional.
“Quando as pessoas ouvem vozes, mesmo artificiais, articulando com ousadia o que sempre sentiram, mas raramente ouviram ecoar, isso desperta algo poderoso,” disse Yaw Kissi, um escritor pan-africano popular no LinkedIn, de acordo com a HumAngle.
Deepfakes são conteúdos de vídeo ou áudio gerados pela inteligência artificial (IA) e projectados para simular as imagens e vozes de indivíduos proeminentes para promover informações falsas. Estão a espalhar-se rapidamente por toda a África, onde a maioria dos países tem capacidade limitada para identificá-los e bloqueá-los.
Em áreas como Burquina Faso, Mali e Níger, o antigo Grupo Wagner da Rússia, agora conhecido como Africa Corps, é uma provável fonte de deepfakes que promovem narrativas pró-Rússia e pró-junta.
Os discursos de Traoré, por exemplo, foram produzidos por dois grupos sediados em França, Black Rebellion e Univers Inspirant, que dedicam mais de 90% do seu conteúdo ao líder da junta burquinabê. Embora os vídeos elogiem Traoré, o objectivo parece ser simplesmente ganhar dinheiro com conteúdo orientado para Traoré que milhões de espectadores partilham, dizem os especialistas.
“Hoje, temos uma mensagem inspiradora de Ibrahim Traoré,” o consultor de formação em TI, Adrian Moore, radicado em Londres, disse recentemente à HumAngle. “Amanhã, poderíamos ter Ibrahim Traoré a promover preconceitos ou a justificar crimes, e isso seria aceite, e até mesmo posto em prática.”
Burquina Faso é apenas um exemplo do ambiente de deepfakes em África. Em todo o continente, os consumidores dos meios de comunicação experimentam uma variedade de conteúdos fabricados, desde deepfakes direccionados a rivais durante as eleições até apresentadores de noticiários sintéticos transmitindo propaganda, com os seus rostos apropriados de modelos inocentes. Os lados em conflito no Sudão têm usado imagens deepfake para diabolizar uns aos outros na internet.
Os meios de comunicação têm sido alvo em várias ocasiões, num esforço aparente para dar credibilidade a informações falsas. A Al Jazeera, com sede no Qatar, expôs recentemente um esquema envolvendo “repórteres fantasmas” que usavam identidades de pessoas falecidas para espalhar propaganda pró-Rússia na África Ocidental e Central.
Uma investigação do African Digital Democracy Observatory descobriu uma jornalista ganesa deepfake com o seu próprio perfil nas redes sociais e no website. A sua aparente autenticidade tornou possível injectar informações falsas sobre líderes ganeses e organizações internacionais nos meios de comunicação africanos, concluiu a investigação.
Juntamente com deepfakes gerados pela IA, os africanos também são alimentados com os chamados cheapfakes, que podem ser tão simples quanto substituir a faixa de áudio de um vídeo existente por uma fala gerada pela IA que imita a voz do sujeito do vídeo.
“Graças aos avanços na IA generativa, agora qualquer pessoa pode ser levada a dizer ou fazer praticamente qualquer coisa no ecrã, com um realismo impressionante,” relataram recentemente os analistas da Ecofin Agency.
Os fornecedores de deepfakes estão a explorar a tendência das pessoas de acreditar no que vêem e ouvem na internet, de acordo com Raphael Nkolwoudou Afane, especialista jurídico e especialista em direito digital baseado nos Camarões.
“Durante séculos, as imagens eram equivalentes a provas de autenticidade. Mas hoje, a tecnologia pode fabricar realidades incrivelmente convincentes,” Afane disse à Ecofin Agency. “O cérebro humano, sem treino para distinguir entre truques digitais e conteúdo genuíno, é um alvo fácil para estas ilusões sofisticadas.”
Na ausência de uma regulamentação clara das redes sociais nos países africanos, o risco dos deepfakes está a aumentar, dizem os especialistas. Ao mesmo tempo, as plataformas populares das redes sociais tornaram-se fontes importantes de informação, mesmo tendo reduzido as suas tentativas de eliminar conteúdos enganosos.
De 2018 a 2023, seis países — Argélia, Benin, Egipto, Maurícias, Ruanda e Senegal — desenvolveram estratégias nacionais de IA. Outros, incluindo Etiópia, Gana, Quénia, Mauritânia, Marrocos, Nigéria, Uganda, África do Sul, Tanzânia e Tunísia, fizeram progressos em políticas e instituições de IA destinadas a enfrentar os desafios da IA.
O Uganda, por exemplo, actualizou a sua Lei sobre o Uso Indevido de Computadores em 2022 para criminalizar a divulgação intencional de informações falsas, incluindo deepfakes.
Especialistas afirmam que os países africanos devem fazer mais para promover o uso adequado da IA e impedir que os deepfakes prejudiquem a estabilidade política e económica em todo o continente.
“África não pode se dar ao luxo de permanecer passiva,” escreveram os analistas da Ecofin Agency. “A luta pela verdade digital está profundamente ligada a questões de soberania, estabilidade democrática e confiança pública. Não se trata de rejeitar o progresso da IA, mas de garantir o seu uso responsável e implementar salvaguardas para evitar o seu abuso.”