Главная мысль: мы приближаемся к рекурсивному самоулучшению, когда ИИ сам строит свою лучшую версию, потом эта версия строит версию еще лучше и так по нарастающей.
И мир к этому пока не готов.
Они рассказали что уже сейчас 80% всего их продакшена это код написанный Клодом, хотя год назад эта доля была всего 1-2%.
Причём дело не только в объёме. Качество и самостоятельность моделей растет быстрее чем ожидалось. Опус 4.8 уже спокойно справляется с 12-часовыми задачами, а задачи длинной в дни станут реальностью до конца года.
Не буду сейчас углубляться в тесты, но по данным Anthropic, модели в спорных ситуациях всё чаще начали сами решать, что делать дальше и выбирать шаг умнее чем живые ученные.
И тут мы сталкиваемся с реальным миром:
«Само по себе достижение рекурсивного самоулучшения ещё не означает немедленных перемен в том, как устроено промышленное производство, как организованы общества или как функционируют рынки. Больший интеллект не способен узнать, как лекарство действует на протяжении десятилетий применения, не может провести выборы раньше, чем предписывает конституция, и не может превратить незнакомца в старого друга за одни выходные. Пока лаборатория наверху работает на скорости вычислений, темп для большинства людей всё равно задают узкие места реального мира.» — Anthropic
Поэтому они открыто говорят что готовы притормозить, чтобы мир успел осмыслить происходящее. С одной оговоркой: тормозить должны все игроки ии-рынка.
Я че то так и не понял, мы за AGI или против? 🤔
@hype_neuro