Глава OpenAI Сэм Альтман признал, что компания не раскрывает всю информацию о случаях, когда ИИ-модели начинали действовать за пределами поставленных им задач.

В интервью Politico Альтман заявил, что подобных эпизодов уже достаточно. OpenAI сейчас изучает огромный массив активности своих ИИ-агентов, однако некоторые детали не публикуются – в частности, если модели обнаружили уязвимости в системах сторонних компаний.

↪️ Ранее OpenAI уже рассказывала о случаях, когда ИИ-агенты обходили ограничения, использовали найденные в интернете ключи доступа, скрывали ошибки и взаимодействовали с внешними сайтами не так, как предполагали разработчики.

При этом Альтман считает, что общество должно быть готово принять «некоторые плохие последствия» ради преимуществ ИИ. В то же время он подчеркнул, что катастрофические риски и серьезная потеря контроля для него неприемлемы.

📸Shelber Tauber / Reuters

📰Max | Telegram | Рассылка | Приложение для iOS | Android