IT внезапно вспомнил про философов. Или это déjà vu?

Корпорации теперь тащат в штат культурологов с философами. Цукерберг с Безосом исправно посещают благотворительные ужины и скупают арт за миллионы. Глядя на это, начинаешь реально верить, что история ходит по кругу: замени в тусовочных разговорах «ИИ» на «парадигму мышления» — и за последние 3000 лет таких совпадений наберётся вагон.

Главный посыл — насколько вообще осмысленны ответы нейросетей. И тут вообще неважно, есть у ИИ сознание или нет. Пользователям нужно, чтобы ответы совпадали с их ожиданиями, и плевать, кто там за ними стоит: живой человек или алгоритм. Люди хотят, чтобы выдача не вылезала за пределы культурных кодов их цивилизационной парадигмы и дружила с нормами, принципами и знаниями, из которых собрана их картина мира. Без этого ответы невозможно встроить в человеческие цепочки рассуждений — ни по смыслу, ни по этике, ни по эстетике, ни по праву. Отсюда и фоновое недоверие, которое копится и давит: никогда не угадаешь, когда система выдаст какую-нибудь дичь.

Отсюда же растут ноги у проблемы common sense — то есть предела рациональности. Для LLM/ML common sense — это просто усреднённая величина, полученная статистической обработкой максимально больших массивов данных. Не лучшее решение, а самое ожидаемое. Творчеством тут и не пахнет: даже GenAI — это вероятностная машина, которая выдаёт самое частое слово или фразу. А генерация картинок — всё та же комбинаторика, только с другим входом.

Источник

👉 Data Science | Machinelearning [ru]