Ars Technica уволила редактора после инцидента с «фейковыми цитатами», которых не существовало: в статье журнала появились вымышленные фразы, приписанные человеку и его блогу. Позже редакция выпустила заметку о том, что цитаты были сгенерированы ИИ и не были проверены перед публикацией.
Эта история в очередной раз напоминает нам, насколько быстро мы перестали быть критичными по отношению к материалам, созданным с участием ИИ.
Мы быстро привыкли к тому, что ИИ экономит наше время: быстро собирает информацию, обрабатывает её, генерирует резюме и помогает формировать выводы. И правда, зачем тратить время на ручную проверку, если можно получить готовый текст за секунды?
Но именно здесь кроется подвох:
• не всегда источники, которыми оперирует ИИ, достоверны;
• не всегда он разделяет факты и интерпретации;
• а иногда он просто выдумывает то, чего не существует.
Существенно важнее научиться проверять, фильтровать и сопоставлять выводы ИИ-агентов с реальными источниками. Иначе ИИ оказывает нам медвежью услугу.
Как часто вы сталкиваетесь с неверной интерпретацией ИИ?