🔍 Anthropic впервые допустила независимых экспертов к внутренним системам для проверки безопасности ИИ

Разработчик Claude предоставил шести исследователям некоммерческой организации METR доступ к своим внутренним инструментам практически на уровне сотрудников компании.

Эксперты смогут изучать возможности ИИ-моделей, проверять системы защиты, оценивать риски и разбирать случаи, когда ИИ ведёт себя непредсказуемо или выходит за рамки инструкций.

📄 И Anthropic не сможет запретить публикацию результатов проверки.

Исследователи смогут самостоятельно рассказывать о выявленных проблемах без предварительного согласования с компанией.

При этом Anthropic сохраняет право требовать удаления из отчетов отдельных конфиденциальных сведений, например деталей архитектуры моделей.

Компания сравнивает такой подход с банковским надзором, когда независимые специалисты получают доступ к внутренним процессам для оценки рисков.

#новости

#Anthropic #Claude #METR #искусственныйинтеллект #ИИ #безопасностьИИ #технологии

📷 BlueScreen | Digital Kazakhstan