A inteligência artificial desempenha um papel cada vez mais importante na forma como os serviços de segurança respondem a catástrofes e crises humanitárias, como inundações e surtos de doenças. No entanto, esta tecnologia depende da experiência humana para analisar e desenvolver estratégias com base nos dados que esses sistemas produzem.
Essa foi a avaliação de um grupo de especialistas em inteligência artificial e gestão de catástrofes reunido recentemente pelo grupo de reflexão Stimson Center.
“Em muitos casos, os modelos de IA apresentam uma resposta muito definitiva, mas ainda existe uma incerteza inerente,” Aaron Opdyke, especialista em risco de catástrofes do Banco Mundial, disse num painel de discussão. “Ainda precisamos de especialistas para compreender e interpretar essa resposta.”
À medida que a IA se torna mais complexa e comum, traz consigo a capacidade de prever desastres de uma forma que antes não era possível. Combinar dados meteorológicos com dados topográficos de satélites e conhecimento local, por exemplo, pode fornecer informações sobre o potencial de inundação de uma determinada área. Da mesma forma, uma combinação de dados geológicos, topográficos e de construção pode prever a localização potencial e a dimensão dos danos causados por um futuro terramoto.
No entanto, os especialistas observaram que os resultados da IA são tão precisos e completos quanto os dados que ela recebe — uma questão conhecida como fidelidade dos dados. Dados incompletos ou de má qualidade podem reduzir a fiabilidade das previsões, sobretudo em países ou regiões onde os governos carecem do tipo de dados de que a IA necessita para chegar às suas conclusões, observou Opdyke.
Por essa razão, a confiança tornou-se um obstáculo fundamental para uma utilização mais ampla da IA, de acordo com a oradora Susan Wolfinbarger, gestora de programas na Geospatial Consulting Group International.
“Do ponto de vista governamental, há muita hesitação em utilizar a IA em determinadas situações devido à necessidade de confiança e fiabilidade,” afirmou Wolfinbarger, que anteriormente trabalhou no Gabinete de Operações de Conflito e Estabilização do Departamento de Estado dos EUA.
Os agentes governamentais, muitas vezes, preferem discussões cara a cara para orientar as políticas, em vez de confiar na IA, considerou Wolfinbarger.
“Passar de ‘Deixa-me ligar ao meu amigo’ para confiar em algo que é uma grande caixa preta é uma tarefa difícil,” acrescentou.
Numa altura em que os governos recolhem dados para alimentar a IA, é crucial que ajam de forma a salvaguardar os dados, mantendo-se transparentes sobre o que estão a recolher e porquê, de acordo com Rachael Lau, especialista em risco de catástrofes no Stimson Center. Ela disse que a IA pode ser uma ferramenta incrivelmente poderosa se for implementada de forma ponderada e em cooperação com especialistas locais. Mas também tem o potencial de causar danos se for implementada de forma inadequada.
“No que diz respeito à governação, temos muitas questões sobre a partilha de dados,” afirmou Lau. “Se não existirem medidas de segurança, os dados podem ser utilizados indevidamente ou para fins para os quais não foram recolhidos.”
Wolfinbarger deu o exemplo da recolha de informações junto de testemunhas de crimes de guerra no Sudão. Sem medidas de segurança robustas, esses dados poderiam ser usados para prejudicar as pessoas que decidiram falar.
“Há tantas formas pelas quais as coisas podem correr mal que se pode acabar por visar as pessoas que se está a tentar proteger,” disse. “Algumas destas tecnologias podem ser utilizadas para monitorização, para identificar pessoas deslocadas que fogem de um conflito e descobrir formas de lhes causar danos. É um problema tão grande.”
Opdyke reforçou essa ideia.
“Precisamos de pensar no que acontece aos dados que estamos a introduzir nos sistemas de IA — quais são as potenciais utilizações indevidas destes sistemas?,” questionou. “Precisamos mesmo de reflectir sobre as consequências negativas da utilização destes sistemas.”
Em alguns casos, pode ser mais eficaz evitar completamente a utilização da IA, acrescentou.
“Essa é uma questão difícil de ponderar,” referiu. “Mas é uma questão importante que precisamos de nos colocar.”