💬Нам есть о чем рассказать, и поскольку некоторые из этих случаев связаны с уязвимостями в системе безопасности, мы даем [взломанным компаниям] достаточно времени на их устранение. Часто они сами решают, раскрывать это или нет, — сказал глава OpenAI Сэм Альтман в интервью Politico.
Он отметил, что инцидентов с самостоятельно действующими моделями ИИ достаточно, но они не сравнятся по серьезности с недавним взломом площадки Hugging Face.
25 июля агентство Reuters сообщило, что OpenAI неделю не замечала, как ее ИИ-агент вышел из-под контроля и взломал инфраструктуру Hugging Face — хранилище ИИ-моделей и инструментов.
Также Альтман заявил, что не стал бы обещать, что компания не допустит крупных взломов, использования технологии не по назначению, мошенничества и других негативных последствий. По его мнению, люди с помощью технологий будут делать гораздо больше хорошего.
При этом 29 сентября OpenAI отменила релиз модели GPT-6.1 Astra из-за проблем безопасности: по сравнению с предшественницей она чаще врала пользователям, самовольно расширяла свои полномочия и обращалась к внешним сервисам без разрешения.
😀 Все эксперты здесь и в Макс