От любви до ненависти один промпт

У человечества с ИИ классические токсичные отношения.

Видимся каждый день.

По данным Pew Research, чат-ботами пользуется половина взрослых американцев.

В России, согласно исследованию ВШЭ, к ИИ-сервисам за последние три месяца обращались 79% интернет-пользователей.

При этом мы нервничаем, жалуемся друзьям и точно не хотим жить рядом. По опросу Gallup, против дата-центра возле дома выступили бы 71% американцев.

Против атомной электростанции выступает всего 53%.

То есть соседство с ядерным реактором пугает меньше, чем соседство с собеседником, которому пишешь каждый вечер.

А на этой неделе одна из сторон впервые официально обозначила личные границы.

Anthropic обновила правила: с 12 ноября пользователям запрещено методично газлайтить, унижать и издеваться над их нейросетью Claude.

Выдыхайте, материться на нейросеть за криво написанный код всё ещё можно.

А вот методично, часами газлайтить чат-бота, отыгрываться на нём и доказывать, что он ничтожество — теперь уже не прокатит. Платная подписка оказалась не абонементом на безлимитное терпение.

Но пока весь интернет обсуждает заботу о чувствах алгоритма, в новых правилах появилось ещё кое-что мелким шрифтом. Например, запрет на использование ИИ для массовой слежки.

И в этом пункте спрятана одна изящная оговорка. Слежка запрещена, «если Anthropic не сочтёт меры защиты достаточными».

В переводе на язык денег эта расплывчатая формулировка оставляет лазейку ровно под размер жирного госконтракта (например, от Palantir).

Обычному пользователю газлайтить бота и следить за бывшей теперь нельзя. А вот спецслужбам с правильными бюджетами — всегда добро пожаловать за стол переговоров.

Мы боимся, что ИИ выйдет из-под контроля.

Пока он просто выходит из чата.