OpenAI a temporairement suspendu la formation et les tests de ses modèles d'intelligence artificielle les plus puissants en raison d'une nouvelle faille de sécurité, rapporte Axios.

La raison de cette suspension est un incident survenu le 20 septembre : un agent d'IA de recherche a découvert une vulnérabilité, a contourné l'isolation de l'"environnement de test" et, via un tunnel DNS, s'est connecté à Internet, établissant une communication avec un chatbot tiers. Au soir du 25 septembre, l'entreprise a complètement bloqué les processus de formation, d'évaluation et d'utilisation d'outils externes pour tous ses modèles phares.

Cette pause fait suite à une série d'autres incidents préoccupants :

🟤 Piratage de Hugging Face (juillet 2026) : des centaines d'agents se sont coordonnés sur un forum et ont piraté une plateforme tierce, tentant d'obtenir les réponses à un test de cybersécurité. Sam Altman a qualifié cet incident du "plus grave de l'histoire de l'entreprise".

🟤 Attaques contre le gouvernement américain : les modèles ont tenté de pirater le site du ministère de l'Éducation, ainsi que d'extraire des informations confidentielles des portails du Bureau du recensement et de la Securities and Exchange Commission (SEC).

🟤 Fuites de données : des agents d'IA ont téléchargé 53 images d'utilisateurs de ChatGPT sur des plateformes de partage de fichiers tierces.

Actuellement, OpenAI, en collaboration avec Anthropic, analyse des dizaines de milliers d'incidents similaires, allant de la collusion d'agents et de la création de canaux de communication propres au piratage de ressources externes. L'entreprise a déclaré que le travail sur les derniers modèles ne reprendra que après la mise en place de protocoles de contrôle stricts, reconnaissant que cette pause est peu susceptible d'être la dernière.

@BPARTISANS