🤖💩 ChatGPT -- полный бред

На днях одна компания (гуглите, не буду рекламировать) громко заявила о том, что для анализа результатов опроса вовлеченности используется LMM. Я посмотрел и прочитал примеры отчётов. На мой взгляд, тексты от LMM на уровне "Капитан Oчевидность", но я хотел бы обратить внимание на другое.

Недавно опубликованная статья в журнале "Ethics and Information Technology" под заголовком "ChatGPT is bullshit" авторства Майкла Тонсена Хикса, Джеймса Хамфриса и Джо Слейтера утверждает, что большие языковые модели, такие как ChatGPT, производят контент, который часто содержит неточности, известные как "галлюцинации ИИ". Авторы статьи используют термин "bullshit" (по Фрэнкуфорту) для описания таких моделей, отмечая, что они в значительной степени характеризуются безрассудным пренебрежением к истине. Они рассматривают, как и почему модели могут считаться "bullshitters", и утверждают, что это описание лучше помогает понять и обсуждать поведение таких систем. В другом исследовании показано, что большие языковые модели склонны к "галлюцинациям" (от 17 до 33% времени) или созданию недостоверной информации, что делает их использование рискованным в областях с высокими ставками. Я как-то попросил GPT рассказать мне об исследованиях психологического благополучия. Получил "прекрасный" правдоподобный текст ... с выдуманными исследованиями и ссылками на несуществующие статьи. В отличие от прямой лжи чушь звучит весьма правдоподобно, поэтому рекомендую книжку "Полный бред! Скептицизм в мире больших данных".

#AI #ИИ #chatGPT #HR #LLM