При подготовке курса по инструментам ИИ для системных аналитиков в очередной раз задумался — а какова, всё-таки, роль человека при общении с ИИ? И вспомнил модель SECI by Nonaka & Takeuchi из области управления знаниями.

Модель про явное и неявное знание. Tacit и Explicit. И четыре перехода:

Неявное → Явное (артикуляция)
Явное → Явное (рекомбинация)
Явное → Неявное (интернализация)
Неявное → Неявное (социализация)

Это всё про процессы обмена и обогащения знаний среди людей. И где тут ИИ? Мне кажется, генеративный ИИ — отличный инструмент для работы в области артикуляции и рекомбинации.

Вы получаете некий ответ от модели и сравниваете его со своими знаниями. Если знания оформлены явно — можно автоматизировать контроль: что вы сказали модели, то она и должна сделать. Но все знания не могут быть явными. Поэтому возникают ситуации "ах ты глупый чат, всё ты не так сделал!". Это последствия свободных рамок, не заданных ограничений в промпте. Всё, про что явным образом не было сказано, как делать, будет сделано как-то. Как получилось. Как делало большинство тех, чьи результаты сформировали обучающую выборку.

И тут вы видите, что всё не так. Ну или что-то не так. Может быть, вы об этом и не думали заранее. Вы даже предположить не могли, что так можно. Ну это же "очевидно"! Например, что в названиях эндпоинтов API нужно использовать существительные. Это RESTful, ну камон. При этом, если сказать в явном виде — опирайся на принципы REST, на выходе получим что? Правильно, HATEOAS, это же самый главный принцип! Ну, "это же очевидно", что мы с HATEOAS не будем упарываться, нам бы немного похожее на REST API сделать, и хватит.

То есть, каждый раз, когда ИИ выдает "что-то не то", это "не то", скорее всего, относится к неявным знаниям, к тому, что вы не задали модели в промпте — скорее всего, потому что это вам кажется "очевидным", зачем об этом думать-то отдельно? И когда вы жалуетесь, что "этот ИИ какую-то ерунду пишет" — скорее всего, его вывод не соответствует вашим неявным ожиданиям.

Поэтому цикл работы с участием человека выглядит так:
постановка задачи (явная) → рассмотрение результата и сравнение его с неявными знаниями → их артикуляция и фиксация в промпте.

Выдача ИИ превращается в стимульный материал для экстериоризации неявных знаний.

Я уже собирался нарисовать соответствующую картинку, когда нашел ровно такую же статью годовой давности. Умные люди пишут не посты в малоизвестный канал, а статьи в рецензируемые журналы.

В общем, статья Human-AI-Collaboration SECI Model: The Knowledge Management Model of the Experts’ Tacit Knowledges with Augmented LLM-Based AI от авторов Akashi Matsumoto, Ryu Nishikawa & Chikako Morimoto (опять японцы, да?)
https://doi.org/10.1007/978-981-97-6469-3_12

Они вводят модель HAC-SECI: Human-AI-Collaboration SECI и два цикла: цикл развития агента и цикл развития человека. В цикле развития человек проявляет свои знания в процессе оценивания ответа агента, а в цикле развития агента человек передает агенту в явном виде то, что понял и осознал при оценивании.

Через некоторое время такого взаимного обучения, со складыванием новых выявленных правил в хранилище и подключение его как RAG, ответы агента начинают гораздо лучше удовлетворять человека. Фактически, постепенно создается его цифровая копия.

Что при этом происходит с самими человеком, исследование не раскрывает.