А вместе с ним — работу с данными, правами доступа и наблюдаемостью процессов.
Давайте на примере:
С 1 сентября компания снизила стандартную скидку с 15% до 10%. AI-помощник нашёл старую редакцию регламента и предложил клиенту прежние условия. Хочется списать это на галлюцинацию модели и искать вариант поточнее. Но модель пересказала документ абсолютно верно — ошибка произошла на этапе выбора источника, а не генерации текста.
Дальше интереснее: если 5 сентября кто-то положил в то же хранилище черновик правил на октябрь, а система выбирает документ просто по дате изменения — она возьмёт черновик вместо действующей редакции.
Сама модель может быть идеальной и всё равно взять не тот документ. Вот здесь и пригождается Git в качестве способа мышления о версиях.
На MBA я бы дал группе регламент согласования скидок и провёл через историю изменений, разницу версий, откат ошибки без потери истории. Из этого сразу вылезают управленческие вопросы: кто вправе менять скидки, достаточно ли согласия одного коллеги, как убедиться, что клиенты вообще получили новую редакцию.
На зачёте менял бы одно условие, не говоря заранее, какое 🙂 Оставлял бы в поиске старую редакцию правил, отзывал доступ у участника или имитировал сбой при отправке, о котором AI всё равно отчитался как об успехе. А группе давал задание: восстановить, что произошло, найти затронутые заявки и проверить, что исправление дошло до всех систем.
Собрал целую статью — там разбираю и другие темы, которые обязательны для этой же программы. Например, как задавать AI права доступа так же явно, как сотрудникам.
Читать полностью 🔗