1 224 сотрудника ведущих ИИ-лабораторий попросили США помочь создать международный «тормоз» для нейрогонки.

Если по-человечески: ИИ скоро может начать заметно помогать создавать следующий, ещё более сильный ИИ — писать код, запускать эксперименты и анализировать результаты. Насколько это ускорит прогресс, никто не знает.

Но проблема уже понятна: тормозить в одиночку никто не хочет. Компания притормозит — конкуренты уйдут вперёд. Страна замедлится — другая продолжит гонку. Теория игр в чистом виде.

Само письмо интересно честным признанием: ускоритель уже есть, а общей педали тормоза пока нет. Правда, конкретного механизма там тоже нет: ни условий остановки, ни проверки участников, ни защиты от тех, кто объявит паузу, а сам продолжит шуршать моделями в подвале.

Так что пока это не план спасения человечества, а записка на холодильнике от людей с передовой ИИ: «Ребята, кажется, нам нужен тормоз».

https://www.pacingthefrontier.com/