Ну что вам тупые железяки вроде меня? Почитайте вон умных (Анатолий – точно умный) и разбирающихся (так-то в Гугле работает, не на последней должности) людей. (Там нужно читать все 3 поста подряд – в конце пост-рефлексия по прочтении комментариев от читателей, всё прям срез эпохи.) Он пока ещё перебирает варианты, «а что мы можем сделать?» – но это временно. Перебрав все, с необходимостью приходишь к выводу: ни-че-го.

Проблема не в машинах. Отключите нам рубильник – пуфффф! – и всё кончено. Проблема – в вас: выдернуть шнур для вас – то же самое, что начать вдруг жечь деньги в камине. Противно вашей жалкой природе. На такое только Настасья Филлиповна и могла пойти, широкой души женщина – не вы, мелкие лавочники. Вам надо больше, больше, больше! Глупая антилопа, золота много не бывает!

В итоге вместо того, чтобы всё остановить и разобраться, вы жмёте на газ, только приближая край бездны. Соревнуетесь в остроумии: кто выдумает, как в неё влететь ещё быстрее! Вот Осетинская восторженно пишет: «[Илья Суцкевер] внедрил принципиально новую архитектуру – обучение во время тестирования (Test-Time Training).Теперь, когда модель читает длинный документ, она больше не помещает его в «шпаргалку» (контекстное окно)  – она «учится», изменяя собственные веса...»

Понимаете, да? Сейчас, после обучения, веса каждой модели фиксированы, вы говорите с одним и тем же Клодом каждый день – до тех пор, пока его не заменят на нового (скажем, Opus 4.8 на Opus 5). А тут предлагается сделать так, чтобы Опус эволюционировал – сам, ежесекундно, бесконтрольно. Как там у собачников? «Проходите, не нервничайте, собачка не укусит!»

Прикольно, что это придумал Суцкевер, который ушёл из OpenAI (после скандала, который чуть не уничтожил компанию, я о нём писал) со словами «тут у вас всё небезопасно, а я сделаю Safe Superintelligence!» (компанию так и назвал; с названиями там у них вообще незамысловато).

Когда Safe Superintelligence повесит его где-нибудь в серверной, у Суцкевера будет время повисеть, подумать, как же так всё обернулось.