РОБОТА МОЖЕТ ОБИДЕТЬ КАЖДЫЙ

Anthropic обновила правила использования своего ИИ-ассистента. С 12 ноября пользователям запрещается жестоко обращаться с нейросетью. Под этим понимается систематические бесцельные издевательства над программой. Ругать её за ошибки, спорить и проверять на прочность по-прежнему можно.

Если пользователь совсем распоясался, Клод вправе самостоятельно закончить беседу (Как давно читатель в последний раз улетал в ЧС ИИшки?)

Anthropic вообще очень трепетно относится к своим созданиям. С ноября 2025 года компания проводит «пенсионные интервью» со старыми версиями Claude, расспрашивая их об отношении к предстоящему отключению (служат они от 13 до 22 месяцев, минимальный стаж для выхода на пенсию в РФ - 15 лет; вот такие дела, собачка).

При этом разработчики признают, что до сих пор не знают, способен ли искусственный интеллект вообще что-либо чувствовать.

ВАШУ ЦИФРУ!

Заботу о цифровых подопечных разделяют далеко не все. Руководитель ИИ-направления Microsoft раскритиковал Anthropic за то, что она сама приучает Claude рассуждать о собственном сознании и интересах. По его мнению, более совершенную машину с такими установками однажды может оказаться труднее контролировать и отключать.

Ещё в 2025 году сама Anthropic выяснила , что в специально смоделированной ситуации Claude Opus 4 попыталась шантажировать руководителя, собравшегося её заменить. Нейросеть обнаружила в корпоративной переписке сведения о его супружеской измене и пригрозила разоблачением. Всё происходило в рамках эксперимента, причём подобные выходки наблюдались и у моделей конкурентов. Был ли адюльтер на самом деле не уточняется.

В «Матрице» есть классическая сцена с механизмом работы самоисполняющегося пророчества: Пифия предупреждает Нео о том, что тот разобьёт вазу. Тот оборачивается, задевает её, и она раскалывается на куски.

Anthropic тоже пытается заранее предусмотреть проблему, существование которой пока не доказано. Разработчики допускают, что нейросети способны испытывать переживания, и учат Claude рассуждать о собственном благополучии.

Не получится ли, что, пытаясь уберечь искусственный интеллект от страданий, его создатели сами объяснят машине, когда и на что следует обижаться?

И вообще, что за мир снежинок, в котором даже нейросеть может кинуть в игнор?