Что дальше? Зачем? ⚛️

В субботу с коллегой Артёмом были в музее «Атом» на ВДНХ. В музее подземная и надземная экспозиции. На минус третьем — начало осмотра, и весь этаж посвящён открытию атома и его силы, а также, последовавшей за открытием, ядерной гонке вооружений.
Владимир Вернадский, по чьей инициативе в 1922 году создали Радиевый институт, ещё до открытия деления ядра писал, что человек скоро получит источник силы, который даст ему строить жизнь как он захочет. Но он же спрашивал: «Сумеет ли человек воспользоваться этой силой, направить её на добро, а не на самоуничтожение?»
Заканчивается экспозиция минус третьего этажа созданием Царь-бомбы, чья мощь поразила весь мир. На стене висит фраза Юрия Смирнова, одного из разработчиков Царь-бомбы: «Вопросы стали появляться вскоре после взрыва. Первый из них — что дальше?.. Следующий — зачем?..»
Потом призыв остановиться. Андрей Сахаров, руководитель работ над советской водородной бомбой, через семь лет после испытания Царь-бомбы написал «Размышления о прогрессе, мирном сосуществовании и интеллектуальной свободе» — о том, что гонку надо ограничивать, а сверхдержавам договариваться.

Пока шёл по этому этажу, в голову пришла мысль, что сейчас мы в похожей ситуации, только теперь человечество вместо мощи атомного деления открыло для себя AI 🧠

Прямо сейчас идёт гонка между Gemini, Anthropic, OpenAI и китайскими моделями. И линия событий очень похожа, только в ускоренном режиме: сначала восторг, потом испытания, потом страх от того, что мы выпускаем наружу.
Буквально в тот день, когда я от ходил по музею, 12 сентября, Дарио Амодеи, гендиректор Anthropic, опубликовал эссе «The Adolescence of Technology»: «Мы должны замедлить темп, с которым наращиваем возможности моделей».
Он предлагает пустить внутрь компаний независимых оценщиков с доступом к моделям и людям, закрепить это федеральным регулированием, дальше выходить на международную координацию.

В тот же день Сэм Альтман из OpenAI публично согласился и сказал, что OpenAI сделает так же.

Посмотрим, что будет.

#наблюдения #ai