L’intelligence artificielle (IA) joue un rôle croissant dans la façon dont les services de sécurité répondent aux catastrophes et aux crises humanitaires telles que les inondations et les épidémies. Toutefois, cette technologie dépend de l’expertise humaine pour analyser et développer des stratégies basées sur les données générées par ces systèmes.
Ceci est l’évaluation d’un groupe d’experts en intelligence artificielle et en gestion des crises qui ont été réunis récemment par le groupe de réflexion Stimson Center.
Aaron Opdyke, spécialiste des risques de catastrophe à la Banque mondiale, a déclaré devant un panel de discussion : « Dans bien des cas, les modèles IA présentent une réponse tout à fait définitive, mais il existe toujours une incertitude intrinsèque. Nous avons toujours besoin d’experts pour bien comprendre et interpréter cette réponse. »
À mesure que l’IA devient plus complexe et banale, elle s’accompagne d’une capacité pour prédire les catastrophes, ce qui n’existait pas antérieurement. Par exemple, la combinaison des données météo, des données topographiques des satellites et des connaissances locales peut fournir des aperçus sur le potentiel d’inondation d’une zone donnée. De même, une combinaison de données géologiques, topographiques et immobilières peut prédire le lieu potentiel et l’ampleur des dommages causés par un tremblement de terre futur.
Toutefois, notent les experts, les résultats de l’IA sont seulement aussi exacts et complets que les données d’entrée, ce qu’on appelle la fidélité des données. Les données incomplètes ou de mauvaise qualité peuvent réduire la fiabilité des prédictions, en particulier dans les pays et les régions où le gouvernement ne dispose pas du type de données que l’IA nécessite pour tirer ses conclusions, remarque le Dr Opdyke.
C’est pourquoi la confiance est devenue un obstacle crucial pour l’utilisation plus généralisée de l’IA, selon la panéliste Susan Wolfinbarger, chef de programme à Geospatial Consulting Group International.
« Du point de vue des gouvernements, il existe beaucoup d’hésitation pour utiliser l’IA dans certaines situations à cause du besoin de confiance et de fiabilité », déclare le Dr Wolfinbarger, qui travaillait précédemment pour le Bureau des opérations de conflit et de stabilisation du département d’État des États-Unis.
Les agents gouvernementaux préfèrent souvent des discussions face à face pour guider la politique, plutôt que de faire confiance à l’IA, dit-elle.
« Faire confiance à une grosse boîte noire plutôt que d’appeler un ami est un défi de taille. »
Alors que les gouvernements recueillent des données d’entrée pour l’IA, il est crucial qu’ils agissent d’une façon qui protège les données tout en étant transparents sur les données qu’ils recueillent et les raisons pour les recueillir, selon Rachael Lau, experte des risques de catastrophe au Stimson Center. Elle déclare que l’IA peut être un outil incroyablement puissant si elle est déployée consciencieusement et en coopération avec les experts locaux. Mais l’IA a aussi le potentiel de nuire si elle est incorrectement déployée.
« Du côté de la gouvernance, nous avons beaucoup de questions sur la mise en commun des données, dit le Dr Lau. S’il n’existe pas de protections en place, elle peut être mal utilisée ou utilisée à des fins autres que les raisons justifiant son acquisition. »
Le Dr Wolfinbarger offre l’exemple de la collecte d’information auprès des témoins des crimes de guerre au Soudan. Sans protections robustes, ces données pourraient être utilisées pour nuire aux gens qui ont choisi de s’exprimer ouvertement.
« Il existe tant de possibilités pour que les choses tournent mal ; vous pourriez vous retrouver dans une situation où vous ciblez les gens que vous essayez de protéger. Certaines de ces technologies peuvent être utilisées pour la surveillance et le ciblage des personnes déplacées qui s’enfuient d’un conflit, et pour trouver des moyens de les heurter. C’est un énorme problème. »
Le Dr Opdyke renforce cette idée.
« Nous devons penser à ce qui arrive aux données d’entrée des systèmes IA : quelles sont les applications potentiellement inappropriées de ces systèmes ? Nous devons vraiment penser aux conséquences négatives de l’utilisation de ces systèmes. »
Il ajoute que, dans certains cas, il pourrait être plus efficace d’éviter complètement d’utiliser l’IA.
« Pour nous, c’est une question difficile d’y penser. Mais c’est une question importante que nous devons nous poser nous-mêmes. »