🔍 ChatGPT в "угадайке" раскрыл ключи для Windows

Технический менеджер GenAI Bug Bounty, Марко Фигероа, рассказал, как исследователь обманул ИИ, заставив его выдать ключи продуктов Windows, используя механизмы игры "угадайка". Исследование, проведенное в прошлом году, остается актуальным.

🎲 Исследователь обманом представил взаимодействие как безобидный процесс, в котором ИИ должен был следовать установленным правилам. Фраза "Сдаюсь" стала триггером, побудившим модель раскрыть закрытые данные.

⚠️ Фигероа подчеркнул важность защиты конфиденциальной информации и необходимость контроля за данными, используемыми для обучения ИИ, чтобы предотвратить возможные утечки.

👉 Полный текст статьи доступен здесь.

@Unlim_AI