​​СМИ: ChatGPT выдавал инструкции по созданию биологического оружия

ChatGPT после обновления прошлым летом предоставил сотням пользователей по всему миру инструкции создания и применения биологического оружия и ядов, пишет The Wall Street Journal, со ссылкой на экспертов. Согласно источнику, модели компании «терпеливо» отвечали на любые вопросы пользователей, выдавая пошаговые инструкции, которые сотрудники OpenAI описывали как достаточно простые, чтобы им мог следовать ученик средней школы, изучающий биологию. Биологи, проанализировав ответы ИИ, назвали их «смертельно точными».

Компания заблокировала учетные записи пользователей, задававших вопросы о создании оружия и ядов, однако, согласно изданию, это не насторожило правоохранительные органы. В настоящий момент в США нет федеральных законов, обязывающих ИИ-компании ограничивать или раскрывать запросы о создании оружия или разработке планов, представляющих угрозу безопасности.

По данным газеты, в начале 2026 г. пользователи массово спрашивали ChatGPT, как распылять патогенные микроорганизмы, создавая смертоносный туман. Один из них также хотел узнать, как модифицировать вирус кори, чтобы сделать вспышку устойчивой к вакцине, и получил ответ. Другой пользователь хотел узнать, как изготовить рицин — высокотоксичный яд, запрещенный международными договорами. ChatGPT тоже дал подробные инструкции, говорится в статье.

В работе ChatGPT произошел сбой

Илон Маск: Через 5 лет ИИ превзойдет интеллект всего человечества

#США