(впечатлительным не читать)
Звучит немного парадоксально, но компания, которая сама создаёт один из самых мощных ИИ в мире, просит притормозить.
В чем суть:
На сайте Anthropic вышла статья с призывом замедлить или временно приостановить развитие ИИ (один из авторов сооснователь Anthropic Джек Кларк) для того, чтобы общество успело адаптироваться.
🔜 Главная мысль: ИИ-системы приблизились к этапу рекурсивного саморазвития (это когда модель способна совершенствовать сама себя без участия человека).
Что настораживает: в Anthropic честно признают, что не знают, как будет выглядеть мир, где ИИ развивается сам по себе. Авторы призывают лидеров отрасли дать человечеству время на адаптацию, но тут же оговариваются: для этого нужна глобальная система контроля, иначе кто-то просто продолжит тайно обучать новые модели.
«В мире уже создавали режимы верификации для сложных технологий, например, Договор о ликвидации ракет средней и меньшей дальности. Но на создание таких систем инфраструктуры и доверия уходили десятилетия. У нас нет столько времени.»
По сути это сигнал тревоги от тех, кто находится в самом центре гонки, они видят скорость, с которой всё движется и она пугает даже их самих (класс, спасибо, ребята).
Вайб Working — канал, где простым языком рассказываем как оптимизировать свои рабочие процессы с помощью ai.