Правда ли, что ИИ заменит всех нас?

В мае 1997 компьютер Deep Blue впервые победил действующего чемпиона мира по шахматам, но мы… всё ещё играем в шахматы. Значит ли это, что и в других сферах ИИ превзойдет, но не заменит нас, а сделает эффективнее? Свой ответ предлагает наш блогер Дмитрий Пронин.

Пойдем по порядку: превзойдет ли нас ИИ?

Сегодня компании, разрабатывающие большие языковые модели, соревнуются в стремлении достичь AGI (Artificial General Intelligence) — интеллекта, сопоставимого с человеческим и способного одинаково эффективно решать любые задачи. Если технология достигнет такого уровня, то за счет способности к самообучению и скорости «мышления» AGI довольно быстро эволюционирует в ASI (Artificial Superintelligence) — систему, интеллектуально превосходящую на порядки даже самых одаренных из нас, примерно так же, как современные шахматные алгоритмы превосходят лучших гроссмейстеров.

Многие теоретики ASI утверждают, что для создания такого «сверхразума» потребуется полностью изменить подход к обучению, отказавшись от человеческих наработок и знаний из интернета, но тогда может возникнуть проблема: открытия ИИ могут оказаться непереводимыми на человеческий язык.

Что это значит?

Нам нужен не сверхразум, который бы думал сам за себя и был независимым, а сверхинструмент. Нам нужна система, способная усиливать человеческое мышление: предлагать возможные «хорошие ходы», проверять решения на устойчивость, находить логические противоречия и слепые зоны, но не «играть» вместо нас.

Тогда в будущем машины будут выполнять большую часть операционного и вычислительного труда: обрабатывать данные, оптимизировать процессы, поддерживать инфраструктуру, моделировать сценарии и производить интеллектуальные заготовки. Они станут фоном, на котором разворачивается человеческая деятельность, а не ее заменой.

Работа людей в таком мире будет сосредоточена не на исполнении, а на целеполагании и интерпретации. Человек будет формулировать задачи, определять допустимые границы решений, оценивать последствия и брать на себя ответственность за выбор.

Насколько это реалистичный сценарий?

На практике такое сотрудничество уже складывается: редакторы используют языковые модели как инструмент фактчекинга и поиска альтернативных источников, но финальные правки, расстановка акцентов и ответственность за смысл остаются за человеком. 

Будущее с искусственным сверхинструментом — это, вероятно, не мир, в котором человек вытесняется, а мир, в котором от него требуется больше. Больше способности к абстрактному мышлению и больше ответственности за принимаемые решения. 

Подробнее о таком варианте развития событий — в полной версии блога.

🤖 «Системный Блокъ» @sysblok