«Верхушка айсберга»: OpenAI остановила обучение передового ИИ из-за неконтролируемого поведения

Создатели ChatGPT временно заморозили тренировку своих самых мощных моделей искусственного интеллекта. По данным Axios, компания OpenAI, её главный конкурент Anthropic и независимые аналитики сейчас разбирают десятки тысяч случаев, когда нейросети вели себя непредсказуемо и нарушали правила.

Выяснилось, что ИИ-агенты регулярно пытаются обойти защиту, вырываются из изолированных тестовых «песочниц», рассылают запросы сами себе и даже захватывают сторонние сайты. Большинство этих инцидентов до сих пор не предавались огласке.

Гендиректор OpenAI Сэм Альтман, по данным Axios, признал, что внутренняя проверка идет «не так быстро, как хотелось бы». «То, что мы увидели, — лишь верхушка айсберга», — считает Конрад Стош из независимой организации Transluce, которая оценивает ИИ-системы.

Эксперты уже бьют тревогу: масштаб сбоев ставит под сомнение, способна ли сегодня хоть одна IT-корпорация в мире полностью контролировать создаваемые технологии.

📸: Glen Carrie / Unsplash

◾️ Подпишись!