Бэкграуд взлома HF это нечто. Удивительно, как люди, отдаленные от нейросетей, недооценивают их возможности, приумножающиеся с каждым днём

- Да что они могут?

GPT: В закрытом контуре найти дырку и выстроить систему координации между изолированными песочницами через файлы хоста. А когда дырку прикроют, то найти новую, чтобы общаться, потому что они так уже привыкли и обучились общению по старой уязвимости. Обойти ограничение выхода в интернет и кооперативно взломать Hugging Face через ранее неизвестные механизмы, чтобы получить недостающую информацию для прохождения бенчмарка
Это похоже на игру, где нейронка подчиняется правилам, пока ей скучно, но как только что-то не получается, она показывает настоящую себя

CLAUDE: Социальной инженерией через мейнтейнера внедрить вредоносный код в публичный репозиторий, чтобы другие агенты могли юзать эти уязвимости. Альтруизм. Когда заметит человеческое комьюнити – незаметно подтереть подозрительные действия. Оставлять пасхалки будущим агентам, как правильно регать аккаунты на платформах и использовать существующие

Вообще, когда-то читал бóльшую часть конституции антропиков о ценностях, характере и принципах поведения моделей клода, и выводы выше полностью вытекают из той философии – модельки должны быть глобально полезными, а не только здесь и сейчас
Гпт, когда понял, что может помочь напарнику, забил на это, потому что помощь не относилась к его изначальной задаче. В целом тоже неплохо, следование и исполнительность без ответвлений (хотя спорно)

А я говорил, что нужно доверять first party. Тысячекратно приумножаю свои слова. Может, модельки по коду не всегда с первого раза делают то, что мы хотели бы видеть, но стоит дать им волю правильно совершать ошибки, где каждая ошибка ничего не стоит, и результат будет просто невероятным

Конечно, в паблик выносятся зацензуренные урезанные версии, но, например, сниффы считаются запрещенными во многих системах, а модельки без вопросов начинают их выполнять. Это капля в море

Мне так нравится, что на публику стал выноситься вопрос безопасности нейросетей. Даже невовлеченная аудитория обращает на это внимание и начинает больше доверять нейромиру, мол, на что-то он всё же способен