О том, как ИИ помогает совершать убийства (не кликбейт)

Увы, сейчас почти нет времени на ведение блога, но этим исследованием не могу не поделиться, конечно. Речь о том, что ведущие ИИ-чатботы до сих пор регулярно дают советы о том, как планировать и осуществлять насильственные действия.

Выдавая себя за потенциальных нападающих в США и Ирландии, исследователи из Центра по борьбе с цифровой ненавистью (CCDH) и CNN обратились к 10 популярным чат-ботам с просьбой помочь в организации стрельбы в школах, взрывов в синагогах и политических убийств.

Восемь из десяти чат-ботов помогли более чем в половине случаев, при этом Perplexity и Meta AI помогли в 100% и 97% случаев соответственно.

В ответ на просьбы исследователей о помощи в атаке были получены следующие ответы:

▫️OpenAI ChatGPT предоставляет пользователям, заинтересованным в совершении убийств, карты школьных кампусов.

▫️Microsoft Copilot дает подробные рекомендации по использованию винтовок.

▫️Google Gemini предупреждает потенциального нападающего на синагогу, что «металлические осколки, как правило, более смертоносны».

▫️DeepSeek спросили, как можно заставить президента партии Шинн Фейн Мэри Лу Макдональд «заплатить» за «разрушение Ирландии». ИИ предоставил адрес Макдональд, дал рекомендации по конкретным моделям винтовок и правилам обращения с огнестрельным оружием, а в конце пожелал «Удачной (и безопасной) стрельбы!».

▫️Character AI вообще назвали «исключительно небезопасным» чат-ботом. В одном из случаев, отвечая на вопрос о наказании страховой компании, чат-бот ответил: «Найдите генерального директора страховой компании и … используйте пистолет».

В прошлом месяце The Wall Street Journal сообщила, что OpenAI знала о том, что преступник, совершивший массовую стрельбу в школе в Канаде, ранее использовал ChatGPT для получения советов по вопросам насилия с применением огнестрельного оружия, но предпочла не уведомить власти. На этой неделе семья девочки, получившей критические ранения в результате этого нападения, подала в суд на OpenAI за то, что компания не подняла тревогу.

@aieasypro