Открытое письмо от ИИ-лабораторий и бихтехов: «ИИ пора взять под контроль»

🕸 Руководители ведущих ИИ-компаний — OpenAI, Anthropic, Meta*, Google DeepMind и Microsoft — выступили с беспрецедентным коллективным заявлением. В открытом письме, опубликованном 28 сентября, более 20 топ-менеджеров и исследователей призывают политиков срочно взять под контроль технологии, которые могут привести к «взрыву интеллекта».

💪 Речь о рекурсивном самосовершенствовании — способности ИИ улучшать сам себя без участия человека. Авторы документа предупреждают: если системы достигнут экспертного уровня в разработке ИИ, один разработчик сможет задействовать «армию» мощностью в миллионы лучших исследователей (ИИ). Это сожмёт годы прогресса в месяцы, а то и недели.

🤖 Что предлагают?
1⃣ Обязать компании отчитываться об автоматизации R&D.
2⃣ Внедрить независимых аудиторов.
3⃣ Подготовить международные соглашения о регулировании.

* - компания Meta признана экстремистской и запрещена на территории РФ

🙌 Горизонт событий