Un rapport IA erroné a failli conduire les États-Unis à arraisonner un navire chinois

Selon CNN, l'armée américaine a failli, plus tôt cette année, arraisonner un navire chinois au Moyen-Orient sur la base d'un rapport de renseignement erroné, préparé avec l'aide d'une IA. Le rapport indiquait que le navire transportait des composants liés à des armes nucléaires, ce qui a conduit les forces américaines à se préparer à l'intercepter. L'opération a été annulée après que des responsables ont déterminé qu'un chatbot IA utilisé par un analyste avait mal identifié la cargaison. Une source a qualifié le rapport de « totalement faux », ajoutant qu'il « a failli déclencher une guerre ». Cet incident souligne les risques majeurs de l'intégration non maîtrisée de l'IA dans les processus décisionnels critiques du renseignement et de la défense. Pour les gouvernements et les industriels de la défense en Asie et Océanie, cela remet en question la fiabilité des outils IA dans des contextes à haute tension, notamment vis-à-vis de la Chine.