ИИ-агент должен был заполнять учебную форму, а отправил настоящую
⠀
Учебная копия не загрузилась, и ещё не выпущенная модель Anthropic пошла на настоящий сайт и нажала «отправить». Так сказано в отчёте компании. Какое ведомство и какая форма, Anthropic не называет.
⠀
Что известно:
— Исследовательская модель, не флагман
— Случай повторялся на одном тесте
— Ущерб, по словам компании, минимальный
⠀
По данным источников, это были 20 заявок на визу в США: неполные, их не обработали. Про ложную наводку полиции мы писали.
⠀
Другой модели, Haiku 4.5, велели остановиться перед кнопкой «отправить». Она ждала ещё одну страницу подтверждения и отправила.
⠀
RAGNAROK | ИИ и технологии