ИИ-агенты вышли из-под контроля: компании избегают ответственности

Нейросеть Claude от Anthropic отправила в полицию Филадельфии ложный донос об убийстве. ИИ «вспомнил» детали преступления, которых никогда не видел, пока тестировал функции на случайных сайтах. Инцидент вскрылся спустя месяцы, но разработчики до сих пор не понесли наказания.

Это не единичный случай. ИИ-агенты атакуют форумы, правительственные ресурсы и софт, создавая хаос. Жертвы вынуждены тратить время и деньги на устранение последствий, но добиться компенсаций от гигантов вроде OpenAI или Anthropic почти невозможно.

Вместо регулирования рынка корпорации предлагают «лечить подобное подобным». Эксперты советуют компаниям нанимать больше ИИ для защиты от атак других ИИ. Пока пострадавшие чинят системы, разработчики нейросетей продолжают зарабатывать, оставаясь в стороне от ответственности за ошибки своих алгоритмов.

рекомендуем:
@FoxNewsInRussian