Последние пару лет доказали, что ИИ способен решать различные задачи, выступая крайне полезным инструментом для человека. В России стала популярной история, как студент написал диплом, используя ChatGPT.

Большое количество людей задают вопросы нейронкам, полностью доверяя её ответам, ведь машина не может врать. Однако они ошибаются и иногда откровенно выдумывают различные сведения. В ИИ среде это называется галлюцинациями ИИ, по аналогии с галлюцинациями у человека, который может быть уверен, что с ним действительно произошло то или иное событие. Термин ввели исследователи Google в 2018 году.

Причиной подобных галлюцинаций является накопление цифрового шума (изначально неверно или ошибочно распознанных данных), возникающий в процессе обучения нейросети и нарушающий логику работы нейросети. Чем больше данных прошло, тем нейронка эрудированней, но и при этом растет вероятность накопления ошибок. Как показали исследования, после каждого выпуска новой модели ChatGPT происходит постепенное снижение качества ответов. Именно из-за накопленного шума в виде запросов пользователей.

Есть множество вариантов решения проблемы:
- обучать ИИ на предварительно подготовленных текстах, специально написанных простым и понятным языком
- сделать обязательным уведомление пользователя о возможном искажении ответа, в ситуации, когда ИИ основывает свой ответ на недостаточно точных данных
- включить обратную связь, чтобы сами пользователи дообучали модель, как это реализовано в переводчиках (пользователь может указать более точный перевод)
- встроить в ИИ алгоритм проверки запроса через иной источник. Условно говоря, запрос будет обработан ИИ, а второй будет использовать поисковую систему Гугл. В случае больших расхождений в ответе об этом будет сообщаться пользователю

Однако, сам факт подобных галлюцинаций лишний раз показывает, насколько текущий уровень развития ИИ далек от образа разумной машины из научной фантастики, обредшей что-то человеческое.

Напомню, картинки к постам создаются нейронками. Текущий запрос: Ошибки ИИ
#aihow