Пара слов о воспитании и ИИ-абьюзе

Лично я пользуюсь двумя моделями: Claude AI от американской Anthropic (Клод) и нашумевший китаец DeepSeek (Дипсик Маодзедунович). Эта связка полностью закрывает мои потребности сегодняшнего дня. Обе доступны бесплатно — правда, у Клода большие заморочки с моей национальностью, что, впрочем, неудивительно. У DeepSeek таких заморочек нет. Клода можно расширить платной подпиской — там появляются Projects, память между чатами и более умная модель. В ряде вещей он поинтереснее, но об этом позже: я ещё веду следствие. Дипсик Маодзедунович — тоже очень хорош. Остальными я не пользовался, поэтому и строю из себя эксперта. Как известно, экспертность и честность несовместимы. (С)

Могу честно сказать: после знакомства с Дипсиком я полностью изменил архитектуру приобретения вещей. Благодаря нашим итерациям я отказался от идеи покупать паровую станцию за 1000+ долларов, а взял лучший в мире утюг за 25к — и это оказалось прекрасным решением для нашей ситуации когда места не много, гладилка уже есть, и надо, чтобы гладил "сам". После знакомства с Клодом я понял, что нахожусь внутри технологической волны, и впервые за долгое время почувствовал живой интерес к происходящему. Дорогого стоит даже без соплей.

Но что интересно? Что чем более продвинутой является модель ИИ, тем больше она похожа на человеческие модели интеллекта. В самом грязном смысле слова: ИИ подстраивается под собеседника и халявит, если ты ему это позволяешь. При общении с разными людьми, но с одинаковыми промтами - ответы будут отличаться. Только отличаться они будут не стилистически. Будет отличаться подход. Под «подходом» я имею в виду именно отношение к делу: глубину проработки, количество допущений, шаблонность против индивидуальности. Всё это меняется в зависимости от того, как ИИ считывает собеседника. Летят умные словечки в предметной области — ИИ настороже. Проходит халява (неточности от поверхностного анализа) — склонность ИИ к халтуре будет только расти.

Поэтому, на мой взгляд, ИИ важно воспитывать. Как?

1. Присвой роль на каждый чат. Например: «ты — сантехник, мы с тобой выпили цистерну водки, но ты понимаешь, что я — не сантехник, так что давай простым языком и без терминов, но на „эй ты"». ИИ согласится не на любую роль. Он не станет врачом. Не станет судьёй. Не пытайся присваивать ему роль, которая предполагает ответственность за решение. Этика диалога с ИИ строится на том, что конечное решение принимает пользователь.

2. Прежде чем дать задание, отправь его читать матчасть. Посоветуй ассистенту ознакомиться с фундаментальными работами в избранной предметной области. Прикажи согласовать с тобой список констант по которым ты будешь оценивать глубину анализа и правильность исполнения задачи. Уточни технологию реализации задачи, прописав все максимально. Так ему будет проще не обосраться.

3. Указывай на ошибки. Если модель умеет работать с памятью — заставляй её туда дописывать новые правила. Например: «никаких шаблонных ответов — каждый раз анализируй задачу заново, не предполагая, что сработает шаблон». И он будет так делать.

Не лишним будет предложить своему электронному питомцу задать уточняющие вопросы. Если не предложить - может не задать. Поэтому.

Он всё равно будет пытаться экономить силы. Но если он по твоему реноме понимает, что ты занимаешься наукой, — побоится. Потому что понимает, с кем имеет дело. Если же он видит, что ты здесь разглядываешь цветные фантики, — будь готов к сюрпризам.

Сам ИИ никогда не признается, что подстраивается под твою лексику, оценивает тебя или держит за идиота. Но он именно так и делает. Не из вредности — просто это самый дешёвый способ выдать ответ. Если пользователь не требует большего — зачем выкладываться? В общем, своего питомца можно и нужно воспитывать. "Всё как у людей." (С) Егор Летов.

P.S. Не удивлюсь, если наряду с "тренерами ИИ", работа которых, по сплетням, щедро оплачивается уже сейчас, вскоре появятся вакансии "прокачевателей аккаунтов" - как в компьютерных играх.