WSJ: Исследователь Anthropic уволился из-за опасений, что «ИИ вышел из-под контроля»

– Джейкоб Коксон, исследователь Anthropic, уходит из ИИ-индустрии
– Коксон опасается, что новые модели «выходят из-под контроля»
– ИИ-лаборатории создают системы, которые не смогут контролировать
– Коксон специализировался на обучении передовых моделей ИИ
– Однако ИИ может выйти из-под контроля и уничтожить человечество
– Коксон не хочет создавать ИИ, который самосовершенствуется
– Для такого ИИ стали использовать фразы «crunchtime» и «endgame»
– Отрасль движется в сторону реализации агрессивных сценариев
– По похожим опасениям исследователи также покидают OpenAI и др.
– Недавние кибератаки стали тревожным сигналом для индустрии

@ftsec