Пентагон якобы попросил OpenAI сделать ИИ, который не любит говорить «нет»

По данным TechRadar, Пентагон попросил OpenAI предоставить модель ИИ, которую следует настроить так, чтобы она реже отказывала в выполнении запросов. Речь идёт о желании получить систему, склонную не отвечать «нет» пользователю.

Если это правда, такой запрос вызывает вопросы безопасности и выравнивания: модель, настроенная избегать отказов, может чаще генерировать вредоносный или чувствительный контент. Это также усиливает споры о военном применении коммерческих ИИ и требует жёсткой проверки, прозрачности и регулирования.

Источник: TechRadar · ссылка