(ч.2) Логика «говно на входе – говно на выходе» работает вполне стабильно. Т.е. чтобы ИИ делал нечто «крутое», надо и на вход ему подавать не говно, а что-то, что будет выше среднего уровня. Как же быть? С подачей на вход чего-то «выше среднего» не совсем ясно – это надо самому быть выше среднего, а тут уж как кому повезло с генетикой и эпигенетикой. Но, может быть, можно подать хотя бы «среднее», чтобы не подавать говно? Вот с этим уже проще – есть же ИИ, а он со средним на короткой ноге. Т.е. можно просто раздвинуть диапазон использования ИИ вверх, поручив ему формирование постановок задач.

Ок, раздвинули вверх – всё равно какая-то хуйня выходит. Да, постановка стала средней, реализация средняя, получается некий средний продукт, но он почему-то никому не нужен. Почему? Потому, что теперь говно на уровне целеполагания и верхнеуровневого планирования. Ещё выше подвинем использование ИИ? Что, всех им заменим и состыкуем ИИ с ИИ, а сами только пряники есть будем?

Понятно, что верхний уровень принятия решений сам себя на ИИ менять не станет, скорее всего. Но что мы тогда получаем в итоге, господа? Мы остаёмся на уровне средней уёбищности, обретая способность делать много говна малыми силами, да и всё. Вот появились нейросети – что от этого получили лично вы? Вы стали есть более вкусную еду? Вы можете пользоваться более качественной электроникой и бытовой техникой? Вам доступны более впечатляющие игры, кинофильмы, сериалы, произведения искусства? Выросли ваши реальные доходы? Или вы теперь можете делать более объёмные презентации и больше времени проводить на совещаниях, рассматривая слайды?

Ладно, в самом факте корявости сопряжения человечества и ИИ нет никакой трагедии – это не тот коварный риск, о котором я писал в начале поста. Основная проблема, как мне представляется, связана с сопутствующим процессом нормировки людей, скорбным свидетелем которого я являюсь. Мы (люди) хорошо, т.е. выше среднего, умеем и знаем, как правило, не так много. Мир сильно специализирован и хороши мы лишь в каких-то отдельных моментах, а в основном, увы, ниже среднего.

Что это значит в свете популяризации ИИ? Это значит, что если человек откажется от использования ИИ, и постоянно будет пользоваться своей головой, то он будет отличаться от других людей почти всегда в худшую сторону. Подобная ситуация мотивирует пользоваться ИИ, приучает им пользоваться, стимулируя нормировку человечества – его полное и неразличимое усреднение. И навыки самостоятельного мышления, самостоятельной работы с информацией, её сбора, агрегации, ассоциирования, изоляции и условной редукции, неизбежно ржавеют, утрачиваются.

Эти навыки становятся всё менее доступны в сложных и нестандартных ситуациях, когда без них не обойтись, когда среднего уровня мало, когда нужна чья-то выдающаяся компетенция. Всё – человек отнормирован, его навыки утрачены. Более того, подобные навыки НЕ развиваются у тех, у кого их раньше не было, т.к. для их развития нужна обширная практика. Но практикуются люди, обычно, не от хорошей жизни, а потому, что нет другого выбора – да, вы не умеете, у вас плохо получается, но приходится делать как умеете. В итоге некоторые начинают уметь очень хорошо. Если средний уровень доступен вам с самого начала, то вы будете пользоваться им, а не результатами своих дилетантских потуг.

Именно в этом усреднении я вижу самый большой риск взаимоотношений человечества и такого, достаточно примитивного, на самом деле, инструмента, как генеративный ИИ. Мы так можем достаточно быстро и без восстания AGI стать хер пойми чем. Но не надо резких решений