ИИ не переспрашивает. Он угадывает

Наткнулся на совет, что самая полезная команда для ИИ — не «сделай», а «сначала задай мне вопросы». Подписываюсь. Нейросеть не умеет сказать «не понял». Её работа — предсказать как можно лучше, поэтому размытую просьбу она достраивает сама, а пробелы заполняет правдоподобной выдумкой. На выходе убедительный текст, который нельзя применить

У меня про это тоже есть история! Первая версия Скиллсет Лаб была ботом. Описываешь идею, получаешь отчёт. В марте одна из первых пользовательниц написала «бот увёл в другую сторону, которая нам и не нужна была. А мог задать уточняющие вопросы». С тех пор «не задал вопросов» у нас записан как официальный признак провала продукта

Казалось бы, решение простое. Пишем агенту в инструкцию «сначала спроси» и живём спокойно

Не тут-то было!

В июле наш цифровой продакт Марк на реплику «привет, какие сейчас основные допущения?» без единого вопроса сгенерировал целый отчёт, вынеся в заголовок это самое «привет». А в его инструкции чёрным по белому стояло «выясняй цель, прежде чем делать». Правило было, вопроса не было. Текст инструкции для агента — пожелание, которое он выполняет примерно в восьми случаях из десяти. Для правила этого мало

Что в итоге?

Мы перестали надеяться на инструкцию. Теперь в Офисе, когда человек пишет задачу вроде «сделать лендинг», к нему подключается цифровой проджект и задаёт вопросы по одному. Но какой вопрос сейчас, решает не нейросеть, а программа, у которой есть обязательный список вопросов. Модель только подбирает слова. Не назвали срок — поле со сроком остаётся пустым, дорисовать «сегодня» ей не дадут. Пять вопросов кончились, разбор закончен, никто не будет держать человека в бесконечном допросе

Знак 40 км/ч просит. Лежачий полицейский заставляет 🚘