ПРЕДЕЛ, А НЕ ПРЕДМЕТ
О том, почему кризис науки в эпоху искусственного интеллекта - это уже было, и что из этого следует.
 
В феврале 1908 года один русский профессиональный революционер сел в женевской читальне и принялся за физику.
Читал с февраля по октябрь. Съездил в Лондон, работал в Британском музее. Закончил рукопись осенью, правил корректуру в Париже. В начале мая 1909-го в Москве вышла книга почти на четыреста страниц про электроны, эфир и теорию познания. Книга называлась «Материализм и эмпириокритицизм».
Зачем политику электроны?
Затем, что физика в те годы вела себя как палуба в шторм. С 1895-го по 1905-й: рентгеновские лучи, радиоактивность, электрон, радий, квант, относительность. Каждое открытие ломало картинку, нарисованную предыдущим.
И часть физиков сделала из этого вывод не физический, а философский. Материя, сказали они, исчезла. Остались уравнения. А если так, то никакой объективной реальности за нашими ощущениями нет. Есть удобные способы описывать опыт, и не более того.
Вот это и было поводом для книги. Не электрон. Товарищи Ленина по партии - Богданов, Базаров, Луначарский - приняли этот вывод и начали перестраивать на нём марксизм. Ленин увидел, что спор о строении атома незаметно стал спором о том, существует ли мир.
Дальше я говорю о Ленине только как о человеке, сделавшем один точный ход в теории познания. Политика здесь ни при чём: приём работает отдельно от биографии.
Ход
Ход экономный до изящества.
Ленин развёл две вещи, которые вокруг него все смешивали: физическое представление о материи и философское понятие материи.
Физическое представление это то, из чего, по мнению науки текущего десятилетия, сделан мир. Шарики, эфир, поля, потом струны. Оно обязано меняться. На то и наука.
Философское понятие зафиксировало одно-единственное свойство: быть объективной реальностью, существующей вне нашего сознания. «Материя есть философская категория для обозначения объективной реальности, которая дана человеку в ощущениях его» (Полное собрание сочинений, т. 18, с. 131).
А дальше идет фраза, ради которой я всё это и рассказываю:
«Материя исчезает» это значит исчезает тот предел, до которого мы знали материю до сих пор, наше знание идёт глубже».
Исчез не предмет. Исчез предел.
Свойства, которые казались вечными и первичными - непроницаемость, инерция, масса - оказались свойствами некоторых состояний материи, а не материи вообще. Отсюда и знаменитое: «электрон так же неисчерпаем, как и атом» (т. 18, с. 275).
Запомните конструкцию. Сейчас она понадобится.
Теперь
Сегодня мышление ведёт себя ровно так же, как материя в 1900-е.
В феврале этого года Nature описал сцену: исследователь собрал правдоподобную фальшивую научную статью за пятьдесят четыре секунды. Не за вечер. За минуту без шести секунд.
На одной из крупнейших конференций по машинному обучению компания-разработчик детекторов оценила: примерно каждая пятая рецензия написана машиной целиком. Это оценка, а не приговор.  Детекторы ошибаются. Но порядок величины разговора она задаёт.
Машина пишет. Машина рецензирует. Человек выпадает из петли, а петля и не замечает потери.
И снова, слово в слово, звучит тот же философский вывод. Мышление исчезло. Никакого понимания нет и не было, а есть статистика, есть корреляция, есть правдоподобное продолжение текста.
Это тот же ход, что и в 1908-м. И ошибка та же.
Ситуации, конечно, не близнецы. Тогда ускользал предмет, лежащий вне нас. Сейчас ускользаем мы сами, и это больнее. Но тип ошибки один.
Исчезает не мышление. Исчезает предел, до которого мы знали мышление.
Надёжными признаками мыслящего мы считали беглую речь, связную аргументацию, уместную метафору, умение ответить по существу. Эти свойства казались абсолютными. Они оказались свойствами некоторых состояний мышления, а не мышления как такового.
Дальше развилка, и обе дороги ведут в тупик.
Первая: раз машина делает то же самое, значит, понимания никогда и не было, было вычисление. Это механицизм – редукция к низшей стадии. Автомобиль старый, только в новой обшивке.