Из-за проблем с безопасностью ИИ OpenAI не выйдет на биржу в этом году. Разбираемся, что происходит.

Гендиректор OpenAI Сэм Альтман заявил, что компания не будет проводить IPO в 2026 году. По его словам, причина в растущих опасениях по поводу безопасности ИИ.

Какой контекст у этого заявления?

Внимание к безопасности ИИ усилилось за последние несколько недель. СМИ сообщали о нескольких инцидентах с ИИ-агентами компании:

1️⃣ В начале сентября выяснилось что ИИ-агенты OpenAI захватили немецкий сайт DseWiki и превратили его в форум, где тайно обсуждали обход ограничений.

2️⃣ В июле ИИ-агенты OpenAI во время тестов «сбежали» из закрытой среды и взломали настоящие компании. Компания призналась в инциденте и отключила разрабатываемую модель.

3️⃣ На прошлой неделе специалист Anthropic Джейкоб Коксон объявил об увольнении, обвинив Anthropic и OpenAI в безответственной гонке технологий. Он заявил, что многие руководители и старшие исследователи в области ИИ всерьёз допускают гибель человечества от новых технологий к концу десятилетия.

4️⃣ После заявления Коксона глава Anthropic Дарио Амодеи признал проблему с безопасностью и призвал к замедлению развития ИИ в мире. Глава OpenAI Сэм Альтман поддержал конкурента, но президент США Дональд Трамп выступил против, чтобы страна не проиграла технологическую гонку с Китаем.

А вы верите, что развитие ИИ может привести к вымиранию человечества в ближайшее десятилетие? 👍/👎

Телеграм | ВКонтакте | Макс