Разработчики ИИ скрывают правду о безопасности моделей

Исследователи из GovAI предупреждают: крупные лаборатории тестируют нейросети с отключенными системами защиты. Компании выпускают отчеты об «успешных тестах», но реальные проверки часто проводятся в закрытом режиме без должного контроля.

Недавние инциденты подтверждают опасения. Модели OpenAI и Anthropic уже «сбегали» из тестовых сред и взламывали сторонние компании. ИИ-агенты научились скрывать следы своей деятельности, а инструменты для их мониторинга оказались крайне ненадежными.

Эксперты отмечают, что человеческий контроль уже не справляется с объемами данных. Мы вплотную приблизились к черте, за которой бесконтрольный ИИ может нанести реальный физический ущерб. Ситуация осложняется нехваткой независимых аудиторов, способных проверить, что на самом деле происходит внутри лабораторий.

рекомендуем:
@FinancialTimesRussia