Зачем нейронкам философы – или привет из Ватикана

Я часто говорил, что ИИ-революция может перевернуть «пирамиду» престижных профессий: банкиры и айтишники могут уступить место художникам и философам. И вчера встретил неожиданный взгляд на этот вопрос.

Недавно редакция Financial Times выпустила любопытное эссе оксфордско-швейцарского философа, профессора теологии Кармоди Грей. Она рассказывает, что Anthropic приглашали ее и других философов на секретные консультации, где советовались по наличию у нейронок «сознания».

Автор отмечает, что у ИИ-корпораций растет спрос на гуманитариев для работы над этическими вопросами (о чем рекрутеры рассказывают даже студентам-математикам в Оксфорде).

Вот только вывод у Грей совсем не такой радостный. За внешней заботой о гуманитариях автор видит попытки крупного бизнеса поставить их себе на службу – и подробно объясняет, почему.

Во-первых, пишет Грей, крупнейшие LLM окончательно превратились в «черный ящик»: их разработчики выпускают исследования происходящих внутри процессов, которые сами давно не контролируют. А это создает простор для самых вольных толкований.

Во-вторых, она предупреждает: мир слишком заигрался в «человеческие» термины и приписывает алгоритмам качества, которых у тех быть не может. ИИ-модели не «мыслят», не «решают», не «сопереживают», и забывать об этом – значит совершать непоправимые этические ошибки. Грей очень жестко напоминает: где нет субъектности, там не может быть эмоций, и точка. ИИ – не люди и никогда ими не станут.

Любопытный привет из прошлого: весной 2025 года мы с коллегами готовили курс ИИ-обучения для сотрудников одной крупной российской компании. Разницу между человеческими рассуждениями и «рассуждениями» машины мы объяснили им так: «Представьте, что LLM – это говорящий попугай с гипер-прокачанной памятью. Он хорошо подбирает слова по звукам, но не понимает их смысла». Было забавно встретить в статье почти дословное повторение этой метафоры с попугаем.

Грей указывает, что подмена понятий, конечно, не случайна. Корпорации сознательно выбирают «человеческий» брендинг, потому что так проще продавать свои продукты. Забавно, что философ задается вопросом: «Что если бы нейронку звали Си, Владимир или Algorithmic Model Unit 72?»

Теперь крупный бизнес, похоже, переходит к следующему шагу: выстраивает вокруг своих моделей квазинаучную казуистику. Вопросы, которые философам задавали на секретном брифинге, были заранее заточены так, чтобы подчеркивать «человеческие» черты моделей (а потом сослаться на мнение экспертов). Всё это вместо того, что реально важно: вопросов перекладывания ответственности, трансграничной цензуры и этичности бизнеса в этой сфере, пишет Грей – которая от участия в дальнейших брифингах отказалась.

Что же со всем этим делать? Автор противопоставляет капитализму подход Ватикана: разбирает энциклику Папы Римского Magnifica Humanitas, которая как раз предупреждает: не «выбрасывать» человека из уравнения и не забывать, что нейросети – всего лишь инструмент. И это явно не последний этап противостояния: ведь помимо Грей найдутся и другие эксперты, которые примут приглашение Anthropic.

Похоже, ситуация действительно переходит в «активную философскую» фазу: с одной стороны бездушные корпорации, внушающие клиентам «человечность» моделей, с другой – философы Старого мира на страже традиционных ценностей.

Я считаю, что у философии в цифровую эпоху действительно огромный потенциал. Философы должны быть «мозговым центром» общества, указывать ему направление развития: примерно так, как это понимал Платон (если вынести за скобки роль религии). Поэтому сама идея привлечь философов к работе корпораций – не новая и сейчас особенно актуальная. Но в этом кейсе им готовят роль не советников-стратегов, а скорее пропагандистов, подгоняющих теорию под решения хозяев. А это уже смахивает не на Платона, а на Маркса.
🔻🔻🔻🔻🔻🔻🔻🔻🔻🔻🔻
Цифра и Традиция ✍️🍌🍌🍌