Peu après septembre 2023, lorsque le Burkina Faso subit son deuxième coup d’État en moins d’un an organisé par le capitaine Ibrahim Traoré, des vidéos de deepfake commencèrent à circuler, exhortant les citoyens du Faso à soutenir le coup d’État.
Depuis lors, le capitaine est devenu la vedette d’une série de vidéos fabriquées pour représenter le chef de la junte serrant la main des leaders du monde, fustigeant le Fonds monétaire international ou parlant couramment en anglais au pape Léon XIV.
Les vidéos sont élaborées avec soin pour susciter des réactions émotives.
« Lorsque les gens entendent des voix, même des voix artificielles, qui articulent résolument ce qu’ils ont toujours ressenti mais ont rarement entendu, cela incite quelque chose de puissant », déclare Yaw Kissi, écrivain panafricain populaire du LinkedIn, selon HumAngle.
Le deepfake est un contenu vidéo ou audio produit par l’intelligence artificielle (IA) et conçu pour simuler la représentation et la voix de personnages proéminents pour promouvoir des informations mensongères. Il se propage rapidement en Afrique, où la plupart des pays ont peu de capacité pour l’identifier ou le bloquer.
Dans les pays tels que le Burkina Faso, le Mali et le Niger, l’ex-groupe Wagner russe, aujourd’hui appelé Africa Corps, est une source probable de deepfake, promouvant des récits en faveur de la Russie et des juntes.
À titre d’exemple, les discours du capitaine ont été produits par deux groupes basés en France, Black Rebellion et Univers Inspirant, qui réservent plus de 90 % de leur contenu au chef de la junte du Faso. Bien que les clips chantent les louanges du capitaine, le but semple être simplement de gagner de l’argent avec un contenu axé sur M. Traoré que des millions d’adhérents partagent, selon les experts.
Le consultant de formation TI Adrian Moore basé à Londres a récemment déclaré à HumAngle : « Aujourd’hui, nous avons un message inspirant d’Ibrahim Traoré. Demain, nous pourrions avoir Ibrahim Traoré en train d’encourager les préjudices ou de justifier les crimes, et cela serait accepté et même mis en œuvre. »
Le Burkina Faso est seulement un exemple de l’environnement africain du deepfake. Sur le continent, les adeptes des médias sont sujets à un éventail de contenus fabriqués, depuis le deepfake prenant des rivaux pour cible pendant les élections, jusqu’aux présentateurs synthétiques diffusant de la propagande avec le visage de modèles sans méfiance. Les belligérants du Soudan ont utilisé des images de deepfake pour se diaboliser mutuellement en ligne.
Les chaînes médiatiques ont été prises pour cible à maintes reprises dans un effort apparent de donner une certaine crédibilité aux fausses informations. Al Jazeera, basé au Katar, a récemment exposé une combine consistant à employer des « reporters fantômes » qui utilisent l’identité de personnes décédées pour propager une propagande pro-russe en Afrique occidentale et centrale.
Une enquête conduite par l’Observatoire numérique de la démocratie africaine a découvert un deepfake de journaliste ghanéenne avec son propre profil sur les réseaux sociaux et son site web. Son authenticité ostensible lui a permis d’injecter des infox sur les responsables ghanéens et les organisations internationales dans les médias de presse africains, selon l’enquête.
En plus du deepfake produit par l’IA, les Africains sont aussi ciblés par ce qu’on appelle le « cheapfake » : quelque chose de plus simple, par exemple le remplacement de la piste audio d’un clip existant par un discours produit par l’IA qui imite la voix de l’intervenant.
« Grâce aux innovations de l’IA générative, on peut maintenant faire parler ou faire agir n’importe qui virtuellement pour qu’il dise ou fasse n’importe quoi sur l’écran, avec un réalisme surprenant », ont dit récemment les analystes de l’agence Ecofin.
Les pourvoyeurs du deepfake exploitent la tendance humaine à croire ce qu’on voit et ce qu’on entend en ligne, selon Raphaël Nkolwoudou Afane, expert juridique basé au Cameroun et spécialiste du droit numérique.
« Pendant des siècles, les signaux visuels ont été associés à la preuve d’authenticité. Mais aujourd’hui, la technologie peut fabriquer des réalités incroyablement convaincantes, déclare Me Afane à l’agence Ecofin. Le cerveau humain, qui n’est pas entraîné à faire la différence entre la supercherie numérique et le contenu authentique, offre une cible facile pour ces illusions sophistiquées. »
Dans l’absence d’une réglementation claire des réseaux sociaux dans les pays africains, le risque du deepfake augmente, selon les experts. En même temps, les plateformes populaires des réseaux sociaux sont devenues des sources clés d’information, alors même qu’elles réduisent leurs efforts d’élimination du contenu mensonger.
Entre 2018 et 2023, six pays ont développé des stratégies nationales de l’IA : Algérie, Bénin, Égypte, République de Maurice, Rwanda, Sénégal. D’autres pays ont fait des progrès pour établir des stratégies et des institutions IA afin de faire face aux défis de l’IA : Afrique du Sud, Éthiopie, Ghana, Kenya, Maroc, Mauritanie, Nigeria, Ouganda, Tanzanie, Tunisie.
À titre d’exemple, l’Ouganda a mis à jour sa Loi sur l’utilisation abusive des ordinateurs en 2022, afin de criminaliser la propagation intentionnelle des fausses informations, y compris le deepfake.
Les experts déclarent que les pays africains doivent faire plus pour promouvoir l’emploi correct de l’IA et empêcher le deepfake de saper la stabilité politique et économique du continent.
Les analystes de l’agence Ecofin écrivent : « L’Afrique ne peut pas se permettre de rester passive. La lutte pour la vérité numérique est profondément liée aux questions de souveraineté, de stabilité démocratique et de confiance du public. Il ne s’agit pas de rejeter les progrès de l’IA, mais plutôt de s’assurer de son emploi responsable, et de mettre en place des protections pour empêcher l’exploitation malveillante. »