Машины прошли тест Тьюринга.

В ответ на мой предыдущий пост куча людей написали, что они не увидели бы разницы, если бы я не сказал. Хотя лично для меня проблемы нейросетевого текста очевидны, вполне возможно, что:

1. Я сам пишу так же плохо. Многие говорили мне, что им нравится, как я пишу, но в целом отсутствие роста аудитории за годы ведения блогов вполне может говорить о моём неумении в тексты. Тогда не удивительно, как со мной спутали простое перемножение матриц.

2. Люди в целом читают мало книг и хороших текстов, и поэтому не видят косяков, особенно стилистических. Очень вероятный сценарий, хотя среди тех, кто говорил мне об отсутствии отличий, были и читающие.

3. Проблем нет, я их выдумал, а грамотные люди, которые умеют создавать хорошие тексты, действительно иногда пишут так, как сделала нейросеть.

Разбираться в этом детально я сейчас не готов, но важно отметить то, что люди всерьёз перепутали человека и машину. Поэтому — да — мы прямо сейчас наблюдаем момент, когда компьютер по-настоящему прошёл тест Тьюринга. Не по каким-то формальностям, а именно с таким результатом, который, вероятно, был заложен в идею теста его создателем.

Несколько лет назад я размышлял о том, что формально даже не любой (психически здоровый и взрослый) человек пройдёт тест Тьюринга, потому что он может быть глуп до неспособности внятно выстраивать слова в речь. Не шучу: присутствовали ли вы, например, в родительских чатах школы или в чатах жильцов дома? В любых не тематических сообществах случайных людей всегда есть персонажи, чьи сообщения похожи на что-то среднее между цепями Маркова и сочинениями двоечника первоклассника.

С точки зрения некоторой формальности нейросети тоже не пройдут тест: если человек не будет стараться выдать себя за компьютер, и я пообщаюсь 5 минут с ним и с GPT-4, то я сразу установлю, где кто.

Но с практической точки зрения представим такую формулировку: "Среднестатистический человек разговаривает со среднестатистическим человеком и с нейросетью, сможет ли он надёжно понять, где кто?". Повторим эксперимент много раз. Я уверен, что точность будет не сильно выше, чем угадывание. Так что чисто практически рубеж преодолён: компьютер официально может выдать себя в разговоре за человека так, что это будет непонятно большинству обычных людей.

Ещё 5 лет назад я думал, что это наступит в моей глубокой старости. Но вот мы здесь. Наше мышление — по крайней мере в части убедительной имитации — оказалось очень большой, но конечной китайской комнатой. Вспоминается сцена из второго сезона Westworld, когда машина пыталась повторить сознание директора компании Джеймса Делоса и постоянно терпела неудачу, пока, наконец, не нашла ключ. Там персонаж — аватар искусственного интеллекта — даёт героям небольшую книгу с полным описанием личности Делоса: "10247 строчек программного кода".