36-летний фермер почти два месяца обсуждал с ChatGPT убийство своего восьмилетнего сына. Одним из мотивов полиция считает нежелание платить алименты.
В переписке мужчина интересовался действием токсичных веществ, и, по данным следствия, заявлял о намерении напасть на школы, церкви и полицейских. Системы безопасности OpenAI обнаружили потенциальную угрозу и передали информацию в ФБР, откуда она поступила бразильским властям. OpenAI объясняет, что может обратиться к властям при «непосредственной и реальной угрозе» другим людям.
✖️ Мужчину задержали 19 июня. По данным полиции, убийство он планировал до 20-го. При обыске у него нашли четыре емкости с неизвестным веществом и веревку. Спустя 54 дня его отпустили под домашний арест. Полиция продолжает расследование, обвинения ему пока не предъявлены.
«Если разговаривать с ИИ и нести всякую чушь — преступление, то посадят всех», — заявил адвокат мужчины Педру Паулу Песси.
💡 С доказательствами есть проблема. OpenAI передала полиции только сообщения мужчины, без ответов ChatGPT. Юристы говорят, что без полной переписки контекст оценить невозможно.
Должны ли ИИ-компании сообщать такое властям?
🔥 — да, если есть угроза
👎 — нет, это нарушение прав
👋 Подпишитесь на Hi, AI!