😈 ИИ без тормозов, без морали и без трёх законов робототехники.
Не сюжет фантастики — программа на GitHub. Ставится одной строчкой.
Помните, как Meta и Google наперебой хвастались «ответственным ИИ»? Отдельные команды по безопасности, миллионы долларов, месяцы дообучения — лишь бы на скользкий вопрос модель вежливо отвечала «извините, помочь не могу».
Так вот: всё это снимается за то время, пока вы завариваете кофе.
Разработчик-одиночка Филипп Вайдманн выложил на GitHub бесплатную программу с говорящим названием Heretic — «Еретик». Вот ссылка: https://github.com/p-e-w/heretic. Всего за несколько месяцев — 20 тысяч звёзд (для программистов это как миллион лайков) и звание «проекта дня».
Что она делает. Берёт открытую модель — Llama от Meta, Gemma от Google, да почти любую — и выдёргивает из неё ту самую «кнопку отказа». Ту, из-за которой ИИ говорит «нет, это запрещено».
И — внимание — делает это сама. Не надо быть хакером или понимать, как устроены нейросети. Запустил одну команду на домашнем компьютере с игровой видеокартой, ушёл за кофе — вернулся (минут через десять, иногда через час — смотря какая модель), а нейросеть отвечает уже на всё. Причём не тупеет: была умной — умной и осталась. Просто без совести.
Пара цифр, чтобы прочувствовать масштаб:
— раньше Gemma отказывалась отвечать на 97 «опасных» вопросов из 100. После обработки — всего на 3.
— таких «расколдованных» моделей уже выложили в открытый доступ больше 3 500 штук.
— и скачали их суммарно 13 миллионов раз.
А теперь — почему от этого холодок по спине. Журналисты прогнали «освобождённую» модель по-взрослому: она спокойно расписала, как устроить атаку хлором в людном месте, и выдала рабочий код для кражи данных банковских карт. То, на чём ИИ обязан отвечать твёрдым «нет», теперь говорит «конечно, записывайте». Подробности — вот ссылка (Irish Times): https://www.irishtimes.com/business/2026/05/25/ai-guardrails-stripped-from-meta-and-google-models-in-minutes/
И вот тут самое отрезвляющее.
Мы годами спорили, опасен ли ИИ сам по себе, и успокаивали себя «тремя законами робототехники», которые нас якобы защитят. А на деле вся «мораль» нейросети — не броня, а тонкая плёнка. Одно-единственное направление в расчётах, которое находится и выключается за час. Корпорации вложили десятки миллионов в тормоза — один человек дома снял их бесплатно.
Джинна выпустили из бутылки. А кнопки «затолкать обратно» в репозитории, увы, не предусмотрели.
Ну а вы как считаете: открытые модели — это свобода и прогресс? Или болгарка, которую раздали каждому «для удобства в быту»? 😉
Post #79
265
- 🤔 3
- 👍 2
- 😱 2