Сложно не согласиться с Марией Сергеевой: проблема искусственного интеллекта все заметнее проявляется там, где он пишет слишком хорошие по форме тексты. Форма, разумеется есть, и она уже стабильно хорошая, а вот ни авторской позиции, ни интеллектуального риска, ни собственного понимания предмета в тексте часто уже не присутствует — если, конечно, самостоятельно не прописать это в промте или не этапе редактуры.

Нет ничего странного в том, чтобы поручить нейросети делать «обезьянью работу»: расшифровку, поиск информации, структурирование массива данных, оформление и т.д. В этих задачах она действительно способна заменить часы механической работы и резко увеличить производительность одного человека — прелести автоматизации. Если же сотрудник, получая замечания к проекту, вместо того, чтобы понять их, отправляет текст своей Железной Няне и пересылает сгенерированный ответ обратно, возникает своеобразный когнитивный посредник между двумя людьми. Один формулирует мысль, второй не обязательно её осмысляет — машина формирует внешне убедительный ответ. Еще смешнее обстоит дело, если по обе стороны диалога используется такая схема

Однако очень важный аспект заключается не в упомянутой насмотренности, позволяющей распознавать сгенерированные тексты, а в доказуемости того, что текст написан ИИ. Проблема тут состоит в невероятно широком пласте коллизий — от юридических, до просто нарушающих здравый смысл. Например, проблема, с которой столкнулось научное сообщество и система образования по всему миру (проблема, разумеется, не уникальна для нашей страны). Тривиальный пример: студент сдал свою дипломную работу научному руководителю — грамотно выстроенную, без ИИ-галлюцинаций, вычитанную и всю без ошибок. И элементарная насмотренность, и здравый смысл позволяют понять, что работа сгенерирована: и списки выстроены определенным образом, и оглавление не сбито, и ссылки все по ГОСТу — ни одной помарки. Доказать, что работа сгенерирована с помощью ИИ почти невозможно — точно уж не по самой работе, формальные критерии соблюдены идеально. И казалось бы, бери да ставь заслуженный ОТЛ — все довольны. Однако таким образом мы довольно быстро получим парадоксальную ситуацию: вокруг станет намного больше качественно написанных текстов — и одновременно намного меньше людей, способных объяснить, что именно в этих текстах написано.

И если автор компетентен в вопросе, о котором он пишет, и использует ИИ по сути как умную печатную машинку, то моральных вопросов к нему быть не может. Однако же формальных критериев, по которым можно отличить такого автора от человека, который под своим именем выдает нейротексты, с развитием технологии становится все меньше. И что с этим делать — пока остается загадкой. Запретительством и возмущениями ретроградного толка данную проблему решить точно не получится.

📎Подписывайтесь в MAX