Короче, я кодю и работаю с ботами каждый день, очень помногу и на разные темы и вещи, но внутрь ботов я ни разу толком не заглядывал. Пользуюсь, но как оно устроено - представляю смутно. Но базу надо знать

Дошли руки и я наконец-то сделал себе персональный LLM дуо линго)) Как ты знаешь у меня есть ClaudeClaw, но я так далеко от него ушел, что пришлось дать ему своё имя и нп гите теперь это Oggway, я поставил ему задачу напрямую: учи меня. Одна тема в день, маленькими порциями, без воды. Сегодня первый день, и я сижу с улыбкой, от того насколько это кайфово, когда бот, который знает о тебе так много, исходя из твоего контекста начинает учить тебя. Я даже не думал что получиться насколько пиздато.

Главное, что зашло - LLM не "думает". Она делает ровно одну вещь: смотрит на текст и угадывает, какой кусочек идёт следующим. Всё. Никакого разума внутри, просто очень, очень хорошая угадайка следующего слова. А то что она будто рассуждает, пишет код, шарит за факты - это побочка. Вылезла сама, когда модель миллиарды раз надрачивали на "угадай дальше".

И вот тут три вещи встали на места, которые меня бесили месяцами.

Первое - почему бот так уверенно врёт. Он не врёт. Он выдаёт самое правдоподобное продолжение, а не самое правдивое. Это разные вещи. Когда он придумывает функцию библиотеки, которой не существует - он не обманывает, он просто дорисовал то, что выглядит правильно. Правдоподобно и реально - две разные оси, а бот живёт только на первой. Поэтому уверенный тон у него вообще ничего не значит, это просто высокая вероятность, а не правота.

Второе - почему чёткий промпт рвёт красивый. Ты не "просишь" бота. Ты же по сути руль, а бот твой инструмент. Когда пишешь конкретно, ты подкручиваешь всё поле вероятностей в сторону нужного ответа. Размытый промпт - размытое поле - мусор на выходе. Вежливость тут ни при чём, важна точность входа.

Третье, и оно меня добило. Слово "агент", которым сейчас все кидаются - разваливается на глазах. Агент это та же угадайка, посаженная в петлю. Она пишет "вызови поиск", код снаружи реально ищет, результат суют ей обратно, она угадывает следующий шаг. И так по кругу. Никакой магии. Next-token в цикле с руками. Когда видишь это насквозь - перестаёшь молиться на ботов и начинаешь трезво их строить.

Главное, что унёс одной фразой: каждый раз когда бот тебя поражает или бесит, спроси себя - "какое самое вероятное продолжение того, что я ему скормил?". Ответил - и предсказываешь его поведение лучше большинства людей, которые до сих пор думают, что внутри мозг. Внутри не мозг. Внутри угадайка следующего кусочка, и вся работа с ней - искусство подсунуть такой вход, чтобы нужное стало вероятным.

Думаю гонять этот формат дальше. Бот учит меня по теме в день, я скидываю вам самое сочное в выжимке.

Если заходит - кинь реакцию, и погнали каждый день.


📱 Youtube | 💬Чат | 📱 Канал