И в завершение обсуждения феномена ChatGPT

Обсудил и почитал мнения по поводу этой языковой модели. Вынес следующее.

1. Модель — эксперт по буллшиту. Умеет поддерживать диалог и давать кажущиеся когерентными и релевантными ответы, но не приоритизирует истинность утверждений. Роберт Бейтман со мной согласен.

Выдаст занимательное, но очень часто с небольшими неточностями или даже грубыми ошибками. При этом, как подметил Иан Богост — когда и если вы подметите ошибку и попросите модель объясниться, она признает эту ошибку и даже расскажет, в чём она заключается.

Как обращает внимание Иан, это вроде бы здорово, но на самом деле ужасно: получается, если вы не компетентны различить в рассуждениях модели изъян, то легко примете ответ за чистую монету и может быть даже пойдёте что-то там делать в реальной жизни, совершая свою самую страшную в жизни ошибку.

2. У многих возникло мнение, что модель — будущее поисковых систем.

Вы не помните фильм, но помните сюжет: уже сейчас в Гугле вы можете иногда найти его таким образом. Языковые модели, подобные ChatGPT, могут ещё больше упростить такую задачу.

Иан в процитированной выше статье пишет о примере из той же серии, когда он в поисках конкретного типа занавесок попросил модель сначала перечислить все их виды, а потом уточняющими вопросами вышел на то, что его интересовало.

Тогда всё нормально: вы понимаете, что модель — просто мощный экскаватор, который на всемирной свалке информации помогает вам достать из огромной кучи то, что с виду похоже на то, что вам нужно, лопатой своего критического мышления и дополнительных вопросов отсечь то, что пахнет слишком подозрительно и на выходе оставить только то, что вы, вероятно, искали.

Всегда держа в голове, что вы всё-таки на свалке, и качества и достоверности результатов никто не гарантирует.

3. Модель помогает некоторым преодолеть писательский блок или покачать какую-то тему: даёте промт со своей идеей и просите "мнение". На выходе могут быть ценные перлы.