Aumentam Preocupações Com ‘Deepfakes’ Propagando Desinformação

EQUIPA DA ADF

Vídeos estranhos começaram a circular nas redes sociais, no Burquina Faso, em Janeiro, apresentando um grupo diversificado de pessoas a apelarem que os burquinabês apoiem a junta militar.

“Olá, população africana e particularmente povo burquinabê! O meu nome é Alisha e sou pan-africana,” uma figura feminina dizia no vídeo. “Eu apelo à solidariedade dos burquinabês e da população do Burquina Faso para apoiarem efectivamente as autoridades da transição.”

Um segundo vídeo apresentava outras quatro pessoas com a mesma mensagem. Todas elas apareciam com lábios rígidos que se movimentavam de forma não sincronizada com as suas palavras. Elas pronunciavam mal as palavras “Burquina Faso” e “burquinabê.”

Havia um motivo para a aparência fora do comum: nenhuma das figuras era real.

Eram uma forma de conteúdo sintético chamado deepfakes — um vídeo gerado ou alterado com recurso a um software que é capaz de criar pessoas ou forjar pessoas reais. Os utilizadores podem manipular as personagens para dizerem alguma coisa.

O uso da tecnologia deepfake para propagar desinformação é um problema global. O seu uso em África está a aumentar à medida que o acesso à internet se expande pelo continente.

Especialistas de todo o mundo partilham preocupações de que a tecnologia está a desenvolver para ser uma ferramenta sofisticada e mais poderosa de desinformação. Em alguns países africanos, actores maliciosos podem utilizar a tecnologia deepfake para semear desconfiança, caos e instabilidade.

“Enquanto o poder da tecnologia aumenta, assim também aumenta exponencialmente a capacidade de causar prejuízos,” Professor de Ciência de Dados da Universidade de Stellenbosch, Johan Steyn, disse à revista Forbes Africa.

“Sob um ponto de vista jurídico e de ética do governo, é um problema gigantesco, e eu não sei como será regulado. Como apresentar provas para um tribunal de justiça quando não se pode confirmar se um vídeo ou uma voz são autênticos? Quase que não existe uma forma de provar que deepfakes são autênticos.”

Os vídeos deepfakes que os activistas pro-junta, no Burquina Faso, propagaram no Facebook, WhatsApp e Twitter foram criados utilizando Synthesia, um gerador de vídeos que utiliza a inteligência artificial, de acordo com VICE News.

Synthesia recusou-se a revelar quem fez os vídeos, mas disse que tinha banido o utilizador.

O uso de deepfakes está a aumentar, mas muitas pessoas não estão familiarizadas com o conceito.

A empresa de produção de software de segurança, KnowBe4, recentemente fez um inquérito com 800 pessoas no Botswana, Egipto, Quénia, Mauritânia e África do Sul, com idades entre 18 e 54 anos, para determinar se têm conhecimento sobre deepfakes.

Os resultados demostraram que 51% dos inquiridos afirmaram que tinham conhecimento sobre deepfakes, enquanto 28% não tinham, e 21% não tinham certeza ou tinham pouco entendimento sobre o que são.”

Aproximadamente três quartos dos inquiridos (74%) afirmaram que tinham acreditado que um e-mail, uma mensagem directa, uma fotografia ou um vídeo partilhado com eles era real e mais tarde descobriram que era falso.

Anna Collard, vice-presidente sénior da Estratégia de Conteúdo, na KnowBe4 Africa, alertou que a tecnologia deepfake tornou-se tão sofisticada que a maior parte das pessoas teria dificuldades de identificar os falsos.

“Estas plataformas deepfakes, [como ChatGPT e Stable Diffusion], são capazes de criar instabilidade civil e social quando utilizadas para propagar desinformação nas campanhas políticas ou eleições e continuam sendo um elemento perigoso na sociedade digital moderna,” disse ao site de notícias da África do Sul, News 24.

“Isso é motivo de preocupação e pede mais consciencialização e compreensão entre o público e os legisladores.”

Num caso notório de 2018, no Gabão, um vídeo suspeito de deepfake quase que derrubou o governo.

O presidente Ali Bongo, que estava fora do país por mais de dois meses, a receber tratamentos devido a um ataque cardíaco, proferiu o seu discurso habitual de Ano Novo para ajudar a acalmar as crescentes especulações sobre a sua saúde.

Em vez de uma transmissão em directo, Bongo falou num vídeo de dois minutos. Ele parecia rígido, raramente pestanejava e falava em ritmos e padrões que eram muito diferentes dos seus discursos anteriores.

Alguns críticos e políticos rivais afirmaram que o vídeo era um deepfake, embora analistas independentes tenham afirmado que era provavelmente autêntico.

Uma semana depois da transmissão do vídeo, o exército do Gabão fez uma tentativa de golpe de Estado sem sucesso — o primeiro daquele país desde 1964 — e citaram o vídeo estranho como prova de que havia algo errado.

“Não sabíamos o que estava a acontecer,” um jornalista disse ao The Washington Post sobre a atmosfera de incerteza que existia naquele país. “Não havia muita informação oficial, o que era assustador.”

As tentativas das plataformas de internet para acabar com a desinformação em África encontram-se nos seus primeiros estágios.

“As plataformas devem aparecer com soluções,” disse Julie Owono, directora-executiva da organização de direitos digitais, Internet Without Borders. “Quanto mais se demora a resolver um problema, piores as coisas vão ficar.”

Independentemente das medidas de combate, a tecnologia deepfake continua a evoluir. Enquanto o faz, o seu potencial de destruir a credibilidade aumenta com ela.

“Vivemos num mundo em que não podemos confiar em quase nada,” disse Steyn.