«Голгофский задается вопросом – сможет ли ИИ заменить человека-творца? Хорошего писателя, например?

Думать так, пишет он, могут только идиоты и книжные обозреватели. Дело в том, что истинное творчество – это процесс, не просто непохожий, а прямо противоположный тому, что делает большая лингвомодель, генерируя текст.

Тексты, создаваемые лингвомоделями, максимально предсказуемы. Большая лингвистическая модель именно за этим и гонится – она находит самое вероятное следующее слово и ставит его в ряд. Это всегда повторение уже известных паттернов.

Настоящее творчество, наоборот, максимально непредсказуемо. Но с точки зрения статистики гениальность неотличима от абракадабры. «Дыр бул щыл убеш щур» из стихотворения Крученых близко по информационной энтропии к «Крг дуж рбч кырг ыда» из случайной генерации.

Дело в том, что человеческий гений производит вовсе не «информацию». Он не создает сообщения, уменьшающие неопределенность наших представлений. Гений создает новое пространство представлений. Или, на худой конец, новую систему связей между ними.

Вообще, понятие информационной энтропии применительно к вопросам языкознания (Голгофский пускает колечко дыма из заветной трубочки) вызывает большие вопросы. Дело в том, что теория информации оперирует здесь только синтаксическими вероятностями – и принципиально не берет в расчет такие факторы как полезность, смысл, прагматичность, эстетическая ценность, новизна и так далее – а это и есть показатели «энергии» слова, определяющие энтропию смысла.

Эти эффекты не измеримы математически и не поддаются симуляции и моделированию, потому что субъективны. Они не опираются на шаблоны, а, наоборот, ломают их непредсказуемым образом. Клише в нужном месте может быть печатью гения. Абракадабра – тоже. А в другом месте это просто абракадабра и клише.

Замкнутую в себе лингвомодель с обратной связью, генерирующую бесконечный текст, ждет своего рода смысловая смерть (образно говоря, рост смысловой энтропии), хотя информационная энтропия ее генераций может оставаться минимальной: текст будет чрезвычайно грамотным, ровным и гладким.

Именно поэтому лингвомодели деградируют, когда им скармливают выхлоп других лингвомоделей – с ними происходит то же, что с коровами, которым засыпают в корм порошок из костей других коров.

Что такое творчество, знает только Бог (потому его и называют Творцом). Но апофатическое определение дать можно: творчество есть именно то, к чему не способен ИИ в силу своей вторичной природы. А то, к чему ИИ способен (картинки, видео, крафтовый порн, дофамин-музончик, рифмованная милота, сложные справки) – это не творчество.

Иногда это вполне себе искусство (творчество и искусство – разные вещи). Но чаще всего это полезная и удобная компиляция, переливание жира с ж*пы в сиськи. Беда в том, что именно это и является профессией огромного числа людей, которым, конечно, уже не победить железяку в конкурентной борьбе»
(с)