Apresentadores de notícias com aparência realista a transmitir propaganda, personagens populares da televisão a cantar canções de batalha terroristas, chatbots online que adaptam as suas respostas aos interesses do utilizador — todas estas são formas como os grupos terroristas estão a usar a inteligência artificial (IA) para espalhar a sua mensagem e recrutar.
À medida que as tecnologias de IA se espalham pela internet, tornam-se ferramentas que grupos terroristas como o Estado Islâmico (IS) e a al-Qaeda usam para alcançar jovens em África e em outros lugares que cresceram com a internet e obtêm as suas informações nas redes sociais.
Disfarçar a propaganda terrorista em conteúdo com aparência autêntica ajuda a fazer com que as mensagens passem pelos moderadores das redes sociais, de acordo com Daniel Siegel, que pesquisa propaganda digital na Escola de Assuntos Internacionais e Públicos da Universidade de Columbia.
“Ao incorporar narrativas extremistas em conteúdos que imitam o tom e o estilo do entretenimento popular, estes vídeos passam despercebidos pela análise habitual aplicada a tais mensagens, tornando a ideologia mais acessível e atraente para um público mais vasto,” Siegel escreveu numa análise para a Rede Global sobre Extremismo e Tecnologia.
Embora o conteúdo, muitas vezes, seja concebido para ser engraçado, ele também explora o amor dos espectadores pelas personagens para atraí-los a consumir mais conteúdo sem perceber que estão a ser doutrinados, escreveu Siegel.
Os “deepfakes,” mensagens geradas pela IA que parecem reais, estão a fazer com que seja quase impossível distinguir a realidade da ficção, dizem os especialistas. Isso mina a confiança nos meios de comunicação social legítimos e nas instituições governamentais, de acordo com a investigadora Lidia Bernd.
“Imagine um vídeo deepfake mostrando um líder político declarando guerra ou uma figura religiosa incitando à violência,” Bernd escreveu recentemente na revista Georgetown Security Studies Review. “O potencial para o caos e a violência estimulado por esse tipo de conteúdo é enorme.”
Grupos terroristas já utilizam IA para criar conteúdos falsos hiper-realistas, como cenas de crianças feridas ou ataques fabricados, concebidos para despertar as emoções dos espectadores.
Ao esconder os verdadeiros propagandistas humanos dos terroristas por trás da tecnologia deepfake, a IA enfraquece as ferramentas de reconhecimento facial e prejudica os esforços antiterroristas, o analista Soumya Awasthi escreveu recentemente para a Observer Research Foundation.
Pelo menos um grupo afiliado à al-Qaeda ofereceu workshops sobre o uso da IA para desenvolver propaganda visual e um guia prático para usar chatbots para radicalizar potenciais recrutas. Chatbots e outras tecnologias da IA também podem gerar códigos de computador para ataques cibernéticos, planear ataques físicos e arrecadar dinheiro por meio de criptomoedas.
Os grupos terroristas usam a IA para produzir rapidamente conteúdo de propaganda usando imagens de vídeo capturadas por drones no campo de batalha. Esses vídeos de notícias falsas podem espelhar a aparência de operações de notícias legítimas, como a Al Jazeera ou a CNN. Os apresentadores gerados pela IA podem ser personalizados para se assemelhar a pessoas de regiões geográficas ou grupos étnicos que os terroristas têm como alvo para recrutamento.
O IS usa esse conteúdo de IA como parte das suas transmissões de propaganda “News Harvest”. A tecnologia de conversão de texto em fala da IA transforma roteiros escritos em áudio com som humano.
Especialistas em combate ao terrorismo afirmam que os governos e as empresas das redes sociais devem fazer mais para detectar conteúdos gerados pela IA, como os que estão a ser criados pelo IS e pela al-Qaeda.
Para as empresas das redes sociais, isso pode significar aumentar a inteligência de código aberto para acompanhar as tendências do terrorismo. Para as empresas da IA, isso pode significar trabalhar com as redes sociais e as autoridades governamentais para refinar os métodos de detecção e bloqueio do uso malicioso da sua tecnologia.
O uso da IA por terroristas não é ilimitado. Alguns membros de grupos terroristas islâmicos opõem-se à representação de rostos humanos nas imagens geradas pela IA, forçando alguns criadores a ocultar os rostos, diminuindo o impacto do vídeo.
Os terroristas também temem que a IA se volte contra eles.
Grupos afiliados à al-Qaeda alertam os seus membros que as forças de segurança podem usar áudio gerado pela IA para dar comandos falsos aos seguidores ou para semear confusão e interromper operações terroristas.
De acordo com a HumAngle, um desses alertas foi enviado em Árabe, através da aplicação de mensagens Telegram, aos membros do grupo dissidente do Boko Haram, Jama’atu Ansarul Muslimina fi Biladis Sudan, na Nigéria.
De acordo com a HumAngle, a mensagem dizia o seguinte: “As novas tecnologias fazem com que seja possível criar vozes. Embora ainda não sejam tão sofisticadas quanto as vozes naturais, elas estão a melhorar e podem ser usadas contra os jihadistas.”