...Мозг — это что, сеть из десяти миллионов нейронов, подключенная к синтаксическому движку и дерьмовой базе знаний? Что это за основа для интеллекта?
Чарльз Стросс, "Акселерандо" 2005

Хороший роман кстати про технологическую сингулярность.

- Кто вы? - повторяет Манфред с подозрением.
- Служба, в прошлом известная как КГБ . ru
- Вы хотите сказать, что для возможности разговаривать вы выучили язык??
- Йес, было просто: наплоди нейронную сеть миллиард узлов, скачай Телепузики и улицу Сезам на максимальная скорости. Прощения извините за энтропию искусственно добавленная неграмотность, опасаемся цифровые отпечатков пальцев стеганографически кодированное мои пособия.

...Манфред останавливается посреди улицы, чуть не попав под роллера, который ехал, уткнувшись в экран GPS-навигатора.

=

Математик живёт в "дикой логике", где разум - это слуга, а не хозяин.
Марстон Морс, президент Американского математического общества 1941-1945

Читаю американских математиков, как они ещё год назад насмехались над программистами: дескать AI убил вашу профессию, а теперь сами в панике )))

Но какие у них красивые рассуждения: LLM-ки обучаются работе с огромным количеством текстов и поэтому могут изучить чрезвычайно тонкие статистические свойства этого текста... Математики глубоко вовлечены в обучение (нейронок) сильному мышлению, но степень этого участия в значительной степени окутана промышленной тайной. Только силой судебного приказа можно преодолеть барьеры секретности, которыми AI-индустрия окружила свои учебные протоколы.

Может ли быть так, что структура естественного языка сама по себе каким-то тонким образом кодирует логику, так что достаточно большая выборка предоставляет достаточно статистической информации, чтобы не требовалась "явная" логика?

Был такой британский философ и логик Джон Стюарт Милль, который в работе "Система логики силлогистической и индуктивной" (19-й век) сформулировал пять логических методов индукции, но в своих исследованиях логики опирался именно на структуру естественного языка, за что впоследствии было жёстко высмеян математиками, прежде всего Готлобом Фреге, основоположником современной математической логики, который называл работы Милля "психологизмом" и разработал свою символическую логику отчасти для того, чтобы противостоять Миллю. Тем самым он запустил цепочку событий, тянувшуюся более ста лет и завершившуюся появлением моделей искусственного интеллекта, которые, по-видимому, показывают, что Милль таки был прав...

красивое