Более 1100 сотрудников OpenAI, Google, Anthropic, Meta, Microsoft и других ИИ-компаний подписали открытое письмо к правительству США.
Искусственный интеллект может помочь создать значительно лучшее будущее, но этот результат не гарантирован.
Ведущие мировые компании, занимающиеся ИИ, считают, что они близки к автоматизации исследований в этой области. Трудно точно предсказать, насколько это ускорит прогресс в области ИИ, но существует реальный риск того, что развитие возможностей искусственного интеллекта ускорится настолько, что мы не сможем понять или контролировать создаваемые системы.
Для реализации потенциала ИИ промышленности, правительству и обществу в целом может потребоваться возможность выиграть время для решения возникающих рисков, разработки мер безопасности и усиления надзора.
Но каждая компания — и каждая страна — находятся под сильным конкурентным давлением, вынуждающим их не замедлять это ускорение в одностороннем порядке. А сегодня миру не хватает технических и управленческих инструментов для целенаправленного ускорения прогресса в масштабах всей области.
В продолжение уже ведущейся работы по мониторингу выпуска новых моделей:
— Мы просим правительство США поддержать международные усилия по разработке технических и управленческих инструментов, необходимых для целенаправленного ускорения развития автоматизированного искусственного интеллекта».
- 1324 сотрудника передовых компаний в сфере искусственного интеллекта
Они предупреждают, что развитие ИИ может вскоре выйти на этап, когда модели начнут самостоятельно улучшать себя, а скорость прогресса станет выше возможностей человека её контролировать.
Авторы письма призвали создать международные механизмы контроля и безопасности, пока развитие передовых ИИ-моделей не вышло из-под контроля.
⚽️ 30 дней быстрого VPN