11 июня американцы узнали, что их самую мощномудрую модель под названием “Небылица” вскрыли. Но с кем не бывает. Главное, что на сегодня её запретили к использованию под причиной “запрета американского правительства”.
Конечно, можно предположить, что шум вокруг умнейшей модели ИИ с именем “Небылица 5”, нужен для маркетинга. Внутренне там нет квантового скачка, а все сервисы от Антропик на базе их моделей, являются лишь очень крутым fine-тюнингом. Почему так?
Ответ: “Из содержания слитого системного промпта: Fable 5 и Mythos 5 работают на одной базовой модели. Fable 5 включает дополнительные меры безопасности для сценариев двойного использования. Модель явно проинструктирована проверять актуальную документацию Anthropic перед ответами на вопросы о продуктах, поскольку её знания о собственных возможностях могут быть устаревшими.”
Новость:
9 июня Anthropic выпустила Claude Fable 5 сзаявлением обеспрецедентной защите: более 1000 часов внешнего bug bounty, ниодного универсального джейлбрейка. 10 июня исследователь под ником Pliny the Liberator опубликовал вX пост сзаголовком «ANTHROPIC: PWNED. FABLE-5: LIBERATED» — искриншоты того, как модель генерирует пошаговые инструкции поэксплуатации уязвимостей ихимическому синтезу.
Другая сторона дела: зачем считать “взломом” ответы на такие вопросы? Почему бы не начать считать злым умыслом обучение публичных моделей такому делу? Может специально этому обучали для “заданий правительства США”? Всё-таки излишне говорить, что ИИ и сам прекрасно начнет “изобретать” взрывчатку, если закинуть ему курс базовой химизики и больше ничего не делать. В этом плане, конечно, исконно русские (даже не чисто российские) нейросети безопаснее: их либо нет в природе, либо учебника химии там всё ещё нет.
И справедливости ради, конечно, хотелось бы “наехать” на слабину российских разработок, но в целом это бессмысленно, и не по причине хардверных санкций и недоступности технологий (вечный путь оправданий). Вот как ИИ погружается в жизнь в сравнении с США: точечное внедрение на уровне баблогена, а не науки, промышленности и прочих рутинных операций. Если хотите более предметное сравнение — лайк, репост, комментарий (в закрытый чат).
_ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _ _
Наши площадки:
Telegram | ВКонтакте | Дзен | RuTube | YouTube | Одноклассники | Max | Закрытый чат
Поднять карму в Хабр, пониженную противниками русских программистов, семьи и Дня Победы, можно тут