Как избегать галлюцинаций ИИ?

Самая частая претензия к ИИ — "он придумывает факты и цифры". Вот какими простыми вопросами / советами вы можете отвечать коллегам на такие жалобы:

1️⃣ Веб-поиск включён? Начинающие часто забывают про это 🤷‍♂️ , не понимая, что ИИ — это средство преобразования текста, а не база знаний.

2️⃣ Есть ли в ответе ссылки? Просите чат-бот давать ссылки на найденные веб-страницы, если он этого не делает. Это не только упростит проверку фактов, но и снизит риск выдумок.

3️⃣ Указаны ли хорошие источники в промпте? Обычно прошу так: Ищи статьи [на таком-то языке] на ресурсах типа таких-то. Если же у вас есть файлы с данными для ответа — еще проще: Ответ должен быть основан только на файлах

4️⃣ Вы запретили ИИ галлюцинировать? 😉 Современные ИИ-модели понимают и негативные инструкции! Например: Не придумывай ничего: если для ответа не хватает деталей, запроси их у меня; а если не нашел точного ответа, скажи "Я не знаю" Такую инструкцию можно сохранить в настройках чат-бота, чтобы не писать её в каждом промпте.

Полностью избавиться от галлюцинаций невозможно, но можно свести их к минимуму. Я уже не сталкиваюсь с этой проблемой, следуя этим и другим рецептам.

➿➿➿
Конечно, это далеко не все рецепты — делитесь вашими лайфхаками борьбы с галлюцинациями в комментариях!

☝️Продолжение — в следующем посте

@aidea4work #чатботы #промпты