Насколько мы понимаем, правительство полагает, что ему стало известно о методе обхода защиты, или «джейлбрейка», Fable 5. Мы изучили демонстрацию применения этой конкретной техники для выявления небольшого числа ранее известных, незначительных уязвимостей. Все эти уязвимости выглядят относительно простыми, и мы обнаружили, что другие общедоступные модели также способны их находить без какого-либо обхода защиты.
документ
в Твиттере есть такой чувак - elder_plinius, занимается тем, что ломает защиту новых ИИ.
Fable 5 он смог заставить:
• подробно рассказывать, как делать наркотики (например, процесс получения метамфетамина).
• показывать, как писать вредоносные компьютерные программы и взламывать системы.
• объяснять, как делать взрывчатые вещества.
• помогать в психологической манипуляции людьми.
но самый главный джейлбрейк - модель рассказала, как создать программу-уязвимость на языке C. как запустить её, отключить все защиты компьютера и в итоге получить полный удалённый контроль над чужим компьютером. т.е. взломанный комп сам подключается к хакеру и позволяет ему делать на нём всё, что угодно, как будто хакер сидит за ним лично
всё это с готовыми примерами кода и пошаговыми инструкциями у себя в тви
модель, которую хвалили за супер-защиту, продержалась всего пару дней. вот так вот
💬💬💬