Кажется, это все нам придется делать:(
На сайте OpenAI вышло авторское эссе The Eternal Complement.
И там есть хороший вопрос:
👉🏼 насколько быстрее вообще сможет развиваться цивилизация, если интеллект перестанет быть дефицитом?
Вот Галилею, чтобы посмотреть дальше в космос, понадобились две линзы и трубка.
А чтобы человечество посмотрело ещё дальше с помощью James Webb, понадобились около $10 млрд, сотни организаций, десятки стран, сложнейшее производство, логистика и годы координации.
То есть проблема была уже не только в том, чтобы придумать хороший телескоп.
Нужно было ещё как-то построить его в физическом мире, найти финансирование, продать идею и потом все это скоординировать.
Есть исследование Nicholas Bloom и соавторов: чтобы поддерживать темп роста плотности транзисторов, сегодня требуется больше чем в 18 раз больше исследователей, чем в начале 1970-х. Похожие тенденции они нашли в сельском хозяйстве и медицине.
То есть прогресс не становился проще, но мы просто бросали на него всё больше людей, денег и инфраструктуры.
А теперь представим, что интеллект стал почти бесплатным.
AI может:
- придумать лекарство;
- предложить новый материал;
- спроектировать двигатель.
Но лекарство всё равно нужно испытать, материал - произвести, двигатель собрать и проверить.
И природе, короче, вообще всё равно, насколько умный у вас AI 😁
Авторы предлагают два возможных сценария.
Первый : «цивилизация глубины».
AI становится настолько хорош в моделировании мира, что нам нужно всё меньше физических экспериментов. Он просто гораздо точнее понимает, что действительно стоит проверять.
Второй - «цивилизация ширины».
AI производит настолько много хороших идей, что узким местом становятся уже лаборатории, заводы, энергия, производство и логистика.
Чем дешевле становится интеллект, тем ценнее может становиться исполнение.
Потому что между:
«Я придумал гениальную штуку»
и
«Эта штука реально существует»
может лежать десять лет стройки, производства, согласований и тысячи очень скучных действий.
Возможно, мы представляем сверхинтеллект немного неправильно.
Мы ждём миллиард Эйнштейнов, которые будут бесконечно совершать великие открытия.
А потом окажется, что 999 миллионов из них заняты тем, чтобы открытия первого миллиона вообще доехали до реального мира 😁
Само эссе: https://openai.com/index/the-eternal-complement/