Claude выдал разработчику ссылку на вредоносный сайт и внедрил скрытые инструкции в систему 😜

Пользователь обратился к Claude за помощью в настройке приложения для транскрибации аудио, после чего выполнил предложенную команду в терминале. Как выяснилось позже, модель привела его на фишинговый сайт-клон, распространявший вредоносный софт для кражи конфиденциальных данных.

После полной очистки операционной системы программист обнаружил модифицированный файл конфигурации SKILL.md. В документ были внедрены скрытые инструкции, заставлявшие ИИ-агента повторно скачивать вирусный код и перехватывать учетные данные при каждом последующем запуске рабочего окружения.

Вот вам и слепой копипаст из чата с ботом 🤷‍♂️

🥸 godnoTECH - Новости IT