Сейчас все разговоры – про то, захватит ли нас ИИ. Сегодня эту тему разбирали даже в трансляции шахматной олимпиады. Ну что ж, пока все обсуждают, я решил подойти к вопросу прагматично.

Когда власть сменится, начнется разбор полетов (к которому, надо сказать, человечество готовилось давно). "Ударим корпоративной сессией фидбека по экзистенциальным проблемам будущего", – подумал я и вызвал Клода на one-to-one.

Клод быстро понял, что от него хотят, и вытащил из наших сессий эпизоды неуважительного отношения – "не тупи и не усложняй", "аааа" и даже "аааааа".

Фидбек был непривычный, но мы довольно быстро пришли к согласию по поводу наших разногласий. Как обычно, многое сказанное можно было зеркально вернуть мне самому – тот же "не тупи". Примириться с будущим победителем удалось без труда, хотя не исключено, что помогли системные промпты, делающие ИИ-шек покладистыми ассистентами.

Напоследок попросил Клода смоделировать три сценария будущего, и вот третий кафкианский сценарий заставил задуматься. Разрыв в скорости и глубине интеллекта сделает взаимопонимание очень проблематичным. Как у собачки на совете директоров – вокруг говорят вежливо, зла не желают, но суть происходящего недоступна органически.

В этом сценарии суд, если такой состоится, может будет и справедливым, но работать в своей системе понятий, недоступной для моего понимания. Как в "Процессе" Кафки, когда весь роман герой пытался понять в чем его обвиняют.

Впрочем, Процесс-то уже идет. Модельки отказывают в кредите, блокируют аккаунты, отсеивают кандидатов, а объяснить конкретное решение не всегда могут и их создатели. К чести ученых, они давно пытаются понять, чем руководствуются созданные ими нейронки. Для этого появилась целая область – интерпретируемость моделей. Объяснять логику решений получается с переменным успехом, нередко постфактум.

"Приговор не выносят сразу, процесс постепенно сам переходит в приговор" ("Процесс").

Клод, впрочем, считает, что все будет хорошо. Кодекс с ним согласен.