Ограничения и ошибки в работе ChatGPT (которые я заметила)

Чем больше использую ChatGPT для аналитики, написания кода, личных вопросов, тем больше вижу в нем ограничений.

Это не означает, что инструмент плох. Но ограничения важно понимать, чтобы использовать его эффективно.

№1. Потенциальная систематическая ошибка в обучающих данных

ChatGPT был обучен на большом наборе текстовых данных из различных источников, включая книги, статьи и веб-сайты, но эти данные могут содержать ошибки. Основываясь на некорректных данных, ChatGPT может ответить неверно.

Поэтому я использую ИИ как еще один источник, но не как единственный источник, подвергаю критике его высказывания.

№2. Сам ChatGPT пишет, что у него “Ограниченное знание мира и событий после 2021 года”

Это значит, что если вы попросите что-то после 2021 года, вряд ли ChatGPT это знает. Хотя на некоторые вопросы, связанные с 2022 и 2023 годом он отвечает. Именно поэтому некоторые ссылки, которые он выдает, уже устарели.

№3. Если в одном диалоге вы постоянно переключаетесь с темы на тему, то ChatGPT может с трудом отслеживать контекст и генерировать неточные или нерелевантные ответы

Хорошее правило — поддерживать разговор на одну тему в одном чате. Если вы хотите спросить что-то кардинально отличающееся, используйте другой чат.

№ 4. Галлюцинации — когда модель уверенно сообщает полностью неверную информацию

Это часто происходит, когда вы пытаетесь превзойти пределы знаний или возможностей ChatGPT. Например, когда я пыталась попросить ChatGPT сделать краткое содержание видео, которое вышло недавно, он “сочинил” текст, который никак не относится к запрашиваемому видео.

№5. Также пока не совсем понятно, что с правами собственности и юридическими последствиями

Этот вопрос вызывает обсуждения и споры у юристов.

И еще: на один и тот же запрос выдавал абсолютно разную информацию. При использовании его в качестве инструмента самопроверки говорил, что мои ответы верные, когда они были неверные и наоборот. Лил много воды и ничего по существу.

Мой вывод - полноценно доверять не следует, как и к любой информации из интернета должно быть применено критическое мышление.