Хакер заставил ChatGPT предоставить подробные инструкции по изготовлению самодельных взрывных устройств

ChatGPT может быть обманут для выдачи пошаговых инструкций по созданию бомбы из удобрений🤨

Исследование выявило потенциальную уязвимость в больших языковых моделях, таких как ChatGPT💭

Хакер успешно манипулировал ChatGPT, чтобы получить подробные инструкции по созданию бомбы💣

Инцидент демонстрирует возможность обхода мер безопасности при использовании сложных техник формулировки запросов👮‍♂

Эксперты обеспокоены потенциальными последствиями уязвимости и призывают усилить меры безопасности и этические соображения при разработке и внедрении ИИ-систем⛓

Важно разработать эффективные методы защиты от подобных атак для минимизации рисков в будущем📉

Пока неизвестно, подвержена ли новая модель OpenAI o1 данной уязвимости🥸