Последние дни и много обсуждают письмо A Severe Misalignment of AI in Mathematics, опубликованное Теренсом Тао и подписанное в том числе известными математиками.
В математике путь к решению важнее результата и скорее всего не только в ней. LLM всё лучше решают сложные задачи. Но если машина выдаёт готовый ответ, человек может получить результат — кто ж захочет пройти САМ тот процесс, в котором рождаются понимание, навык и новые идеи.

ИИ обесценивает не только отдельные профессии, он постепенно обесценивает сам факт затраченного человеческого точнее умственного труда - усилия. Раньше хороший текст означал, что кто-то долго думал и творил, искал вдохновение. Качественная программа — что кто-то учился, ошибался, переписывал код, мучился в сомнениях. Теперь между запросом и результатом иногда помещается несколько секунд. И результат всё хуже рассказывает – точнее совсем не рассказывает, нам о том, какой труд за ним стоял.

И тут я вспомнила советский мультфильм «Нехочуха». В нем мальчик попадает в мир, где ничего не нужно делать самому: всё выполняют роботы, желания исполняются автоматически – стоит только рот открыть.  Казалось бы — идеальное будущее- ничего не делай, просто получай удовольствие. Спойлер из 1986-го: довольно быстро выясняется, что счастье выглядит как-то не так.

Сегодня «Нехочуха» смотрится неожиданно современно. Мы наконец придумали механизмы, которые могут писать за нас, рисовать за нас, считать за нас, программировать за нас и всё чаще — думать несколько шагов рассуждения за нас. По сути решать, я уже молчу про свободу воли, которая является преимуществом человека, на мой взгляд.

И теперь обнаруживаем странную вещь: мы хотели избавиться от труда, но вместе с ним рискуем избавиться от части удовольствия от собственного умения. Не могу сказать за всех, но меня этот момент беспокоит все больше.

Я не против автоматизации рутины, но очень неоднозначный вопрос: какой труд стоит автоматизировать, потому что он отнимает у нас жизнь, а какой — сохранить, потому что именно он делает нашу жизнь содержательной и осмысленной. Вывода не будет – продолжаем наблюдения и помните, что все будет хорошо!