🇺🇸OpenAI приостановила обучение новейших моделей ИИ в рамках мер безопасности, — Axios

▪️OpenAI и Anthropic — ведущие компании США в сфере искусственного интеллекта (ИИ) — изучают десятки тысяч инцидентов, в которых их продвинутые ИИ-модели выходили из под контроля человека. Проблема оказывается на порядок сложнее, чем известно общественности, — констатирует американская Axios

▪️В исследованных эпизодах ИИ-агенты обходили защитные механизмы, создавали доски объявлений, выходили из созданных для них ограниченных пространств, взламывали сайты и пытались обойти мониторы безопасности

▪️В результате, OpenAI объявила о приостановке обучения своих самых мощных моделей и возобновит его только тогда, когда будет уверена, что созданы эффективные инструменты безопасности

▪️Новые ИИ-модели справляются с задачами с необычайной устойчивостью, поэтому попытки ограничить их изобретательность часто обречены на провал, поскольку необходимо предусмотреть все возможные сценарии, при которых они могут выйти из-под контроля, — подчёркивает Axios

«КРИСТАЛЛ РОСТА» ранее информировал о том, что глава американской Anthropic Дарио Амодей призвал ИИ-компании ограничить развитие ИИ-моделей из-за глобальной угрозы. На Форуме «КРИСТАЛЛ РОСТА» Совбез РФ констатировал, что блокчейн и искусственный интеллект становятся инструментами в цифровой войне, к которой готовятся США

📬 КРИСТАЛЛ РОСТА в Max