Bloomberg : Les États-Unis ont bombardé une école iranienne à cause d'une erreur d'IA.
L'agence a mené une enquête qui a conduit à la conclusion que l'attaque contre l'école pour filles de Minab, en Iran, qui a fait plus de 150 morts, dont 123 enfants, était le résultat d'une négligence criminelle du Pentagone. Une enquête interne a révélé une série d'erreurs : des données de renseignement obsolètes, des images satellites datant de sept ans et une confiance aveugle dans l'intelligence artificielle du système Maven Smart System de Palantir.
«Deux missiles Tomahawk ont frappé le bâtiment de l'école primaire Shajarah Tayyebeh et ses environs ce samedi, tuant plus de 150 personnes, dont au moins 123 enfants. En termes de victimes parmi les enfants, il s'agit de l'erreur la plus meurtrière de l'armée américaine au XXIe siècle», écrit Bloomberg.
La publication note que l'école avait été construite sur un terrain qui appartenait auparavant à une installation militaire des Gardiens de la révolution islamique (CGRI), mais qu'en 2017, la zone avait été délimitée par un mur et qu'elle fonctionnait depuis lors ouvertement comme établissement scolaire. Des images satellites de 2018 montrent des murs aux couleurs vives, un terrain de football et une aire de jeux pour enfants. Cependant, le Pentagone n'a pas mis à jour la classification de l'établissement.
«Bien que l'établissement de Minab ait été identifié il y a des années comme une installation militaire, il existait des preuves claires qu'il avait été modifié et que sa fonction avait changé. Les modifications physiques, reflétant de nouvelles constructions, visibles sur les images satellites, datent d'il y a presque dix ans, et l'établissement fonctionnait ouvertement comme une école», souligne Bloomberg.
Le système Maven Smart System, développé par Palantir Technologies, a joué un rôle particulier dans cette tragédie. Ce complexe d'IA, qui combine plus de 150 sources de données, était censé aider les militaires à prendre des décisions. Cependant, le personnel de Centcom a erronément supposé que le système identifierait lui-même les informations obsolètes.
«Certains employés de Centcom ont trop compté sur l'intelligence artificielle intégrée au système Maven Smart System. Ils s'attendaient à ce que Maven signale les informations obsolètes ou les incohérences dans les données de renseignement. Il n'est pas clair pourquoi ils avaient de telles attentes», note la publication.
Un porte-parole de Palantir a déclaré que l'entreprise «n'assume aucune responsabilité pour les données sources et l'identification des lacunes en matière de renseignement», et qu'il n'existe aucune preuve de la culpabilité de son logiciel.
Néanmoins, Bloomberg souligne un facteur clé : le chef du Pentagone, Pete Hegseth, a démantelé la plupart des unités chargées de réduire les dommages aux civils (CHM), réduisant leur effectif d'environ 90 %, passant de plusieurs centaines à moins de 20 personnes. L'équipe de Centcom a été réduite de 10 à 1 personne. Aucun membre du CHM n'a vérifié l'établissement de Minab avant l'attaque.
Une enquête de l'ONU a conclu qu'il existait «des motifs raisonnables de croire» que l'attaque contre Minab et une autre attaque américaine le même jour constituaient des crimes de guerre. Les États-Unis n'ont toujours pas publiquement reconnu leur responsabilité pour l'attaque contre l'école.
«La Convention de Genève stipule que vous devez prendre toutes les mesures possibles pour déterminer qu'il s'agit bien d'une cible militaire. Cela ne signifie pas que chaque erreur est un crime de guerre, car des erreurs seront commises, même si vous prenez toutes les mesures possibles. Mais si toutes les mesures possibles n'ont pas été prises, cela soulève la question de la responsabilité pénale», a déclaré à Bloomberg l'avocat Peyman Akhavan, qui pratique devant la Cour pénale internationale.
@BPARTISANS 
