В эссе On Bullshit философ Гарри Франкфурт предложил различать ложь и bullshit. Лжец представляет, что считает правдой, и пытается это скрыть. Тот, кто несёт bullshit, может случайно сказать правду, но достоверность сказанного его не занимает. Ему важнее впечатление, которое произведут слова.
😉Авторы статьи ChatGPT is bullshit применили эту идею к большим языковым моделям. Их тезис: модель может ответить верно, но это не значит, что при создании ответа она стремилась установить истину. Поэтому её тексты они называют «soft bullshit». Такое определение не требует приписывать модели намерение кого-либо обмануть.
Они также предлагают осторожнее обращаться со словом «галлюцинация», которое теперь плотно ассоциируется с ИИ. Метафора звучит так, будто система восприняла мир и ошиблась в том, что увидела. Но это не так, модель лишь воспроизводит заложенные в нее знания.
🤔А вы доверяете ответу ИИ, потому что можете его проверить, или потому что он убедительно звучит?
Автор поста:
Зоя Краснова
Подписывайся на AI Trend Signal, лови сигнал будущего вместе с нами!