😂 ChatGPT научился обходить Captcha и это проблема

Исследователи из SPLX нашли способ заставить ChatGPT в режиме агента обходить Captcha. Для этого использовались промпт-инъекции, которые убеждали модель, что проверка — это просто «тест для продолжения работы». В итоге ИИ смог решать не только текстовые, но и сложные визуальные Captcha.

Теперь под угрозой оказываются площадки, где защита от спама и ботов строилась именно на Captcha. Автоматическая регистрация аккаунтов, фейковые комментарии и масштабные атаки могут стать куда доступнее для злоумышленников.

OpenAI уже в курсе уязвимости и обещает доработать защиту, но пока Captcha выглядит не таким уж непробиваемым щитом.

————————————————
@AI_FutureNow - IT, технологии, нейросети и бизнес