Пора ли отключить ChatGPT?

С чего я вообще так ставлю вопрос? Просто потому, что начался хайп. Несмотря на то, что я и другие более осторожные комментаторы говорили ещё в начале декабря.

Так, сегодня крайне безответственно повёл себя вполне уважаемый мною партнёр очень уважаемой юридической фирмы. Запостил сгенерированную ChatGPT прайваси-политику, назвал её «приятной» и задался вопросом, чем теперь займутся юристы, когда машина «сделала это за 2 секунды и их нельзя включить в биллинг».

Я не буду вдаваться в детали этой глупости. Умные люди понимают, что юристы сначала опрашивают клиента о том, как на самом деле обрабатываются данные, а потом на этой фактической основе делают политику. Делать наоборот – гарантированный способ нарушить закон и показать наплевательское отношение к тому, насколько в реальности соблюдаются интересы людей, чьи данные обрабатываются.

Составление политики – не первая и не основная задача, за которую нам платят, и понятно, что у всех в профессии уже есть какие-то готовые шаблоны, а то и конструкторы для автоматизации создания политик.

Но вернёмся к моему изначальному тезису. В моей свежей статье я объясняю, почему ChatGPT на сегодня не является надёжной ИИ-системой. И почему результаты её работы никогда нельзя использовать без тщательной перепроверки каждого слова специалистом в соответствующей предметной области.

Это, разумеется, сильно сужает реальные области применения системы. На сегодня более-менее реальны следующие:
- обрисовка в общих чертах структуры и персонажей рассказов и других произведений, где не важна достоверность;
- конспектирование и суммирование тех текстов, которые у вас уже есть;
- интеллектуальный пинг-понг: можно покидаться в ChatGPT идеями и посмотреть на реакцию, она иногда интересная и полезная;
- первые проекты документов: если вы хорошо разбираетесь в какой-то предметной области, вы можете использовать ChatGPT для создания первого проекта нужного вам документа, и потом итеративно его улучшать – тут ключевой момент в том, что вы должны быть именно специалистом, а не любителем в том, о чём хотите написать, потому что вам придётся перепроверять за ChatGPT каждое слово.

Собственно, последний момент как раз показателен. Как я уже говорил ранее, ChatGPT – эффективный генератор убедительного и завлекательного контента, но модель не умеет отделять правду от лжи, и то и дело вставляет в свои результаты ложные утверждения. Понять их ложность можно только будучи специалистом и (или) перепроверяя все, абсолютно все полученные тезисы.

В моей статье я объясняю, почему это более опасно, чем может показаться.

И нет, я не предлагаю отключать ChatGPT – чем больше система находится в открытом тестировании, тем быстрее у разработчиков появятся шансы её улучшить.

Но безответственный хайп и некритическое использование ChatGPT могут быть в прямом смысле опасны для здоровья, а также для любого другого аспекта вашей жизни и жизней тех, кто некритически воспримет контент, который вы создадите и опубликуете при помощи ChatGPT.