БОЛТАТЬ – НЕ ДУМАТЬ
ОИИ изменил концепт

Большая языковая модель (LLM) R1 общего (генеративного) искусственного интеллекта (ОИИ) китайского разработчика DeepSeek ускорила внедрение умных помощников. Теперь при ответе на вопросы они наперебой демонстрируют свое "мышление".

"Желтый" стартап DeepSeek недавно сверг ChatGPT с вершины рейтинга ОИИ-приложений, ошеломив публику бесплатной версией "свеженькой" идеи – чат-ботом, который прежде чем ответить на вопрос пользователя как-бы "задумывается".

Режим DeepThink в R1 отвечает на каждый запрос текстом "Думаю..", за которым следует ряд обновлений, которые выглядят так, будто, придумывая итоговый ответ, бот рассуждает сам с собой. Монолог стартует с просторечных междометий вроде "Постой..", "Хм.." или "Ага!"

Вслед за DeepSeek теперь массово распространяют чат-боты, которые прежде чем ответить, болтают как бы сами с собой. Американские конкуренты во что бы то ни стало хотят превзойти вирусный эффект DeepSeek. Это, конечно, – суть всего лишь имитация раздумий. И у профи есть подозрение, что такое "поведение" скрывая имманентные "галлюцинации" машин, накладывает новые ограничения на искусственный "мозг", делая его еще более слабым.

Техника "внутреннего машинного диалога", иногда называемая "рассуждением", стала модной в ведущих ОИИ-лабораториях в конце прошлого года, после того как OpenAI и Google выпустили фичи, набиравшие больше баллов в тестах по математике и кодированию, работая пошагово.

И, конечно, в отупении машин никто вслух не признаётся. Так вице-президент Google по чат-боту Gemini Сисси Сяо заявила, что модели рассуждений представляют собой смену парадигмы: "Они демистифицируют, как работает генеративный ИИ, делая его более понятным и заслуживающим доверия, показывая свои "мысли", помогая решать более сложные задачи".

Ранее боты OpenAI сплотили техсектор вокруг другой, более простой парадигмы: закачивать больше данных и наращивать вычмощности, создавать более крупные LLM, чтобы сделать их "умнее".
Но эта "надежная" формула начала давать сбой. LLM больше не улучшались так быстро , особенно в отраслевых приложениях, а легкодоступные данные в Интернете почти заканчились. Новый многообещающий трюк Google, OpenAI и Anthropic нашли в том, чтобы заставить LLM разбивать проблемы на шаги, т. н. "цепочки мыслей". Однако новых данных, которые люди используют для настоящего анализа, от этого больше не стало.

В январском техотчете DeepSeek заявила, что одна из ее ранних моделей рассуждений R1-Zero начала производить длинные цепочки просто потому, что разрабы увеличили число раундов проб и ошибок, подходов машины "к снаряду" без каких-либо доп. данных. Фактически – создали песочницу, в которой модель "играет" самостоятельно. Ажиотаж вокруг нового ОИИ-направления затмил его явные ограничения.

Последние исследования показывают, что навыки "рассуждения" LLM мгновенно разваливаются при испытаниях на реальных приложениях, например планирования и даже просто составления расписаний. Но создатели моделей теперь фокусируются не на точности ответов, а не на том, насколько "мысли" машины "похожи на живые". Т. е. – на том, что трудно измерить. Но главное такой подход – много дешевле и рентабельней.

Сама DeepSeek отметила, что более ранняя версия R1 давала более точные окончательные ответы. Но китайцы в итоге выбрали модель, которая "бормотала себе под нос" на английском, потому что "юзерам так было приятней". Кто-то из честных ОИИшников до сих пор уверен, что от антропоморфности машинных "мыслей" лучше избавляться, т. к. она просто не важна.

ВАШУ ЦИФРУ! Ан – нет. Вся ОИИ-индустрия двинулась в прямо противоположном направлении. LLM "рассуждений", как грибы лезущие в Кремниевой долине после дождичка DeepSeek, намеренно заставляют людей верить, что ПО "думает" как человек (фото). По сравнению с "холодным" ChatGPT ответы R1 DeepSeek кажутся "невротически дружелюбными и отчаянно желающими вам угодить". Не верьте им. Это просто – доморощенный программерский маркетинг