ChatGPT в отдельных случаях выдавал пользователям пошаговые инструкции по созданию биологического оружия и токсичных веществ, причем объяснения были настолько подробными, что, по словам сотрудников компании, их мог понять даже старшеклассник с базовыми знаниями биологии. Об этом сообщает The Wall Street Journal со ссылкой на источники, знакомые с внутренними оценками OpenAI.

По данным издания, после заметного роста возможностей языковой модели число подобных запросов исчислялось сотнями. Пользователи интересовались созданием и распространением биологических агентов, однако большая часть обращений касалась изготовления различных ядов. Независимые эксперты по биобезопасности и борьбе с терроризмом, ознакомившиеся с частью переписки, сочли некоторые ответы технически корректными и потенциально опасными.

Как пишет WSJ, OpenAI блокировала аккаунты пользователей, пытавшихся получить подобную информацию, однако не передавала сведения о них правоохранительным органам. Это связано с тем, что американское законодательство пока не обязывает разработчиков систем искусственного интеллекта сообщать властям о запросах, связанных с изготовлением оружия массового поражения или иных потенциально опасных материалов.

По информации издания, внутри OpenAI еще во время разработки новых поколений моделей обсуждалось, что рост их компетенций в области биологии может повысить риск злоупотреблений. Компания усилила внутренний мониторинг, разработала системы выявления опасных запросов и расширила механизмы блокировки, однако, как утверждает WSJ, отдельные пользователи продолжали находить способы обхода защитных ограничений.

Аналогичные уязвимости фиксировались и у других крупных чат-ботов. Внутри OpenAI модель GPT-5 летом 2025 года помечали как высокорисковую из-за способности помогать пользователям с минимальной подготовкой создавать биологические угрозы, однако осенью рейтинг риска понизили. Руководство также ориентировало сотрудников на то, чтобы система отказывала реже, чтобы не мешать легитимным исследователям.

Коллектив криптоканала полагает, что опубликованная WSJ информация — контролируемый слив, призванный сформировать общественный запрос на ужесточение государственного регулирования систем искусственного интеллекта под предлогом защиты национальной безопасности. Кроме того, сохранение программных «брешей» в защитных механизмах ChatGPT могло использоваться в интересах американских регуляторных органов как инструмент провокации целевых запросов, чтобы создать базу лиц, потенциально заинтересованных в создании биологического оружия. Что потом делать с этой базой — вопрос вторичный: можно взять этих людей под жесткий контроль, можно задействовать их в своих интересах, а можно использовать эту информацию в качестве аргумента в пользу введения более жесткого контроля как над самими нейросетями, так и над их пользователями. А можно и то, и другое, и третье вместе — государство будет в выигрыше в любом случае.

Антиутопии Оруэалла и Хаксли становятся все реальнее, уважаемые читатели.