Эксперты предупреждают о новой кибератаке — «галлюцинаторном захвате» (slopsquatting)

Генеративный ИИ, например ChatGPT и Microsoft Copilot, склонен к ошибкам — так называемым «галлюцинациям», когда он выдумывает несуществующую информацию, включая фиктивные программные пакеты.

Исследование компании Socket выявило, что при повторных запросах ИИ примерно в 43% случаев ссылается на один и тот же несуществующий пакет. Хакеры могут использовать эту особенность, создавая вредоносные пакеты с такими же именами, чтобы попасть в цепочку поставок ПО.

Пока случаев реализации этой схемы не зафиксировано, но это потенциальная угроза для разработчиков, активно пользующихся ИИ для написания кода.

@Unlim_AI