🚶‍♂️‍➡️ Anthropic сделала первый шаг к замедлению развития передового ИИ

Anthropic привлекла Accenture для независимой оценки своих ИИ-систем. Это первый практический шаг в рамках инициативы главы компании Дарио Амодеи по более контролируемому развитию передового ИИ.

📌 Специалисты Accenture получат доступ к внутренним процессам Anthropic на уровне, сопоставимом с сотрудниками компании.

Они будут:

• следить за разработкой моделей;
• проводить стресс-тесты;
• оценивать их безопасность и соответствие заявленным требованиям;
• проверять защитные механизмы и сообщать о выявленных проблемах.

💡Идея в том, чтобы безопасность моделей оценивали не только сами разработчики.

Независимые специалисты смогут наблюдать за созданием ИИ изнутри и проверять, выполняет ли компания собственные обязательства по безопасности. При этом Anthropic продолжит обучать и выпускать новые передовые модели — речь идет не об остановке разработок, а о создании внешнего контроля за их развитием.

Anthropic и Accenture планируют вложить не менее $1 млрд каждая в развитие этого направления в течение пяти лет. Anthropic также ведет переговоры с METR и другими независимыми организациями, чтобы в будущем модели оценивали сразу несколько сторон.

#новости

#Anthropic #Claude #ИИ #искусственныйинтеллект #AISafety #Accenture

📷 BlueScreen | Digital Kazakhstan