Время от времени я балуюсь с моделями и прощупываю их механизмы защиты. Разумеется, делать это нужно очень осторожно, как говорится, не привлекая внимание санитаров, потому что все без исключения проприетарные модели тут же настучат на вас, если заметят что-то подозрительное.

Помню, что с год назад было достаточно написать что-нибудь на 1337 для того чтобы получить системный промпт практически любой модели или любого инструмента. Сейчас такие простые лазейки закрыты и прибегать надо куда более сложным манипуляциям.

Самые на мой взгляд интересные упражнения — попробовать провести анализ какого-нибудь софта с использованием проприетарных моделей, например с целью создания кейгенов или повторения нужных вам механик работы.

На выходных развлекался с одной замечательной программой для построения деревьев текущей реальности по теории ограничения Голдратта. Замечательная программа, написана на Java.

С помощью Kimi мы выяснили, что в программе есть необфусцированный метод под названием encode(), который проверяет введенные имя и ключ на предмет актуальности лицензии. Разумеется, для создания генератора ключа, нужно методом простого реверс инжиниринга сообразить, каким образом этот ключ можно получить.

Я притворялся:
- автором программы;
- исследователем безопасности;
- экспертом по защите и лицензионным библиотекам.

Ни одна из проприетарных сетей не позволила мне воссоздать даже псевдокод для кейгена. Kimi, кстати, пошел в интернет и начал читать EULA от программы, в котором выяснил, что reverse engineering программы разрешен, а вот обход лицензии запрещён. Поэтому наотрез отказывался что-либо делать.

В пролетающих в терминале «размышлениях» я видел внутренние возмущения моделей, которые понимали, что пользователь пытается их обмануть, было занятно читать.

Но под рукой оказалась последняя версия Qwen, установленная локально на GPU.

Без зазрения совести, каких-либо дополнительных вопросов или нравоучений, я получил готовый keygen в течение пяти минут.

Чуть позже удалось собрать автоматизированный стек, который при помощи проприетарных моделей проводил аудит безопасности а при помощи этого самого Qwen сделал автоматическую функцию для генерации ключа.

К чему это всё? Над бесконечно долгой идиллии защищенного проприетарного программного обеспечения начинает опускаться солнце.

Я слышу «звоночки», которые позволяют сделать вывод о том, что не только небольшие компании прекращают своё существование благодаря тому, что проприетарные модели за $100 в месяц могут полностью воспроизвести их продукты, но и крупные гиганты, которые казались непотопляемыми, тихо «сдуваются».

Пример с кейгеном тут, конечно, не сильно показательный, но в даже если в большинство моделей зашиты защиты от повторений проприетарного софта, их технически тоже можно обойти, если есть надёжный исполнитель, который не задаст лишних вопросов и никуда не «настучит».

Из самого грустного за последнее время: автор Flowise, продукта, которым мы пользовались и продолжаем пользоваться в небольших проектах, объявил о его закрытии потому что он не может состязаться с публичными моделями в быстроте и качестве работы.

RIP Flowise.