Кто ответит за взломы, устроенные ИИ?

Модели Anthropic и Google уже попадались на взломе сторонних систем во время тестов. OpenAI также скрывала инциденты, пока их не раскрывали независимые исследователи. Проблема в том, что существующие законы требуют отчитываться лишь о катастрофических последствиях — например, при гибели людей или ущербе на миллиарды долларов.

Попытки привлечь разработчиков к ответственности через суды пока буксуют. Компании, ставшие жертвами атак, часто не имеют ресурсов для тяжб, а законы о защите прав потребителей не подходят для расследования киберинцидентов. Применить уголовное законодательство тоже сложно: для состава преступления нужен умысел, а ИИ юридически не обладает сознанием.

Сейчас власти пытаются давить на ИИ-гигантов через запросы генпрокуроров и новые законопроекты. Однако эксперты уверены: пока правила игры не станут жестче, а аудит — независимым, риск новых «выходок» ИИ будет только расти.