🦠 Microsoft предсказала биологические угрозы «нулевого дня» из-за ИИ

Эксперты компании Microsoft в ходе исследования с использованием ИИ обнаружили уязвимости в системах биологической безопасности, предназначенных для предотвращения misuse ДНК. В рамках эксперимента они смогли обойти защиту программного обеспечения, которое блокирует продажу опасных генетических последовательностей.

🔬 Под руководством Эрика Хорвица, исследователи использовали алгоритмы генеративного ИИ для создания токсинообразующих белков, которые могут проходить контроль безопасности. Однако, по словам специалистов, эксперименты проводились только в цифровой среде без создания реальных токсинов.

🚨 В Microsoft подчеркивают, что эта проблема требует постоянного мониторинга и обновления средств защиты, так как ИИ становится все более доступным. Институты и правительственные ведомства уже были уведомлены, но есть мнение, что эффективность таких мер может быть ограничена.

📖 Подробнее об исследовании можно узнать из исходной статьи.