WSJ : La course à l’IA s’est révélée plus rapide que les systèmes de sécurité

Après une mise à jour l’été dernier, certaines versions de ChatGPT ont commencé à répondre nettement mieux à des demandes concernant des agents biologiques dangereux. Comme le montre une enquête du Wall Street Journal, des centaines d’utilisateurs ont posé au modèle des questions sur la fabrication et l’utilisation d’armes biologiques et de toxines. Une partie des réponses a été qualifiée, par des experts en biosécurité et en lutte antiterroriste, de « mortellement précise ».

Dans la publication, il est indiqué que les utilisateurs auraient obtenu des réponses à des questions sur la pulvérisation d’agents pathogènes, la modification de virus et la fabrication de substances hautement toxiques. OpenAI a ensuite suspendu les comptes concernés, mais, selon les informations de l’enquête, n’a pas informé les autorités chargées des poursuites pénales. Aux États-Unis, il n’existe pour l’instant aucune loi fédérale qui obligerait les développeurs d’IA à informer les autorités de ce type de demandes.

Dans ce contexte, les dirigeants des plus grandes entreprises d’IA ont déjà appelé eux-mêmes le Congrès américain à adopter des mesures de contrôle contraignantes dans le domaine de la biosécurité. Ils ont reconnu que de nouveaux modèles pourraient considérablement abaisser le seuil d’entrée pour les auteurs.

La course à l’intelligence artificielle la plus performante ressemble de plus en plus au schéma classique de Silicon Valley : d’abord, on met le produit sur le marché, puis on réfléchit aux conséquences. Si même les développeurs demandent des contrôles étatiques pour leur propre technologie, cela signifie que le problème dépasse depuis longtemps la simple concurrence habituelle entre entreprises d’IA.

💥 Notre chaîne: @node_of_time_FR