🛡 Claude помог специалистам найти уязвимость в системах OpenAI

Специалисты по безопасности применили нейросеть Claude для получения доступа к учетной записи сотрудника OpenAI. Это позволило изучить закрытый репозиторий с программным кодом и даже предложить в нем правки. Инцидент произошел в рамках официальной программы по поиску ошибок.

В ходе проверки удалось выявить две проблемы:
🤖 недочет в стороннем сервисе Discourse на форуме
🤖 уязвимость во внутренних системах компании

За обнаружение багов специалисты получили денежное вознаграждение. На данный момент все угрозы устранены: разработчики аннулировали токены доступа и ограничили права пользователей. Представители компании Anthropic воздержались от комментариев по поводу использования их ИИ для подобных задач.

©Artificial_Intelligence_Relations

🤖 Раньше всех. Ну почти.