Возможность технического апгрейда всегда хорошо, тем более для такой глубинной провинции как Мордовия. Вопрос в том, какие сценарии работы мне как юристу могут быть полезны с учётом полученной локальной вычислительной мощи?
Fable 5 послужила мне оправданием [1] к покупке именно мини-ПК, встроенной графической подсистемы типа Radeon 880М всё же не хватает для отображения в ультравысоком качестве работ художников современных игровых студий [2]. Однако, возможность задействовать оперативную память вместо видеопамяти оказывается плюсом для раскатки локальных LLM. Этот вывод подсказывает Fable 5 , но как настоящий мордвин не поверю, пока не проверю опытным путём. Надо будет попросить антинаучного пробовать раскатать локальные llmки (бямку) на его системе.
24 июля 2026 года я могу поздравить себя с тем, что похоже я один из первых юристов Мордовии, кто запустил локальную бямку. Иван Сергеевич жестит и считает моё внимание к локальным моделям нездоровым увлечением: качество ЦОДовских [3] всегда будет выше. Однако, редкий случай - моя старость в радость - я наткнулся на интервью "Ъ" Андрея Галичина [4]
— Я бы сказал, что большая модель — это эрудит, который держит в голове целую библиотеку и хорошо рассуждает, в то время как маленькая модель может рассуждать примерно на том же уровне, но помнит гораздо меньше фактов. Думают они с помощью одинаковых механизмов, а вот объем заложенных внутрь знаний отличается кардинальным образом. При этом маленькая модель может такую разницу компенсировать дополнительными инструментами, например поиском в интернете или доступом к нужной документации, подтягивая контекст под конкретную задачу. Грубо говоря, это разница между человеком, изучившим всю энциклопедию, и таким же умным человеком со смартфоном под рукой, хотя смартфоном, конечно, может пользоваться и первый.
Мы загрузили в LM Studio модель Gemma от Google и я задал три вопроса (промпта):
1. Расскажи о себе.
Вопрос о самопрезентации на самом деле не такой простой. Вот попробуйте сами о себе рассказать неизвестному человеку.
2. 7:47 Проанализируй картинку на предмет наличия признаков экстремизма.
У меня была небольшая тяжба в Краснопресненском районном суде г. Москвы с Министерством обороны Российской Федерации - меня забанили в официальном ВК-паблике, а поводом послужила эта картинка.
3. 19:40 Напиши расписку о займе.
Задача с которой мы с антинаучным начинали работу с бямками в чатботе А2Чацкий весной-летом 2024 года, а потом разругались.
На мой взгляд со всеми моими вопросами, подчеркну несмотря на всю иронию И.С., локальная модель справилась вполне достойно. Да по первому вопросу долго думала, но опять же это ведь не байка, что на "привет" запрос пользователя Fable 5 сожрала половину лимита сессии. И потом повторюсь сами попробуйте о себе рассказать первому встречному.
По второму вопросу имело место даже не галлюцинация, а фактическая ошибка: нейронка пишет про Warhammer 40k хотя это StarCraft Broodwar. Но опять же взять обычного человека , а не таких гиков как мы, то ему будет сложно увидеть разницу между космодесантом Астартес и терранским космопехотинцем. Причём ещё знать в чём отличие скафандров терранской космопехоты в периодах между Broodwar и Wing of Liberty. Нормальному человеку эти знания ни к чему, зачем такое требовать от нейронки, тем более которая не заточена под сумасшедшие фсб лингвистичные экспертизы?
Ответ на третий вопрос в целом меня тоже порадовал - качество выполненной расписки практически не уступает тому, что у нас получилось с И.С. после экспериментов с Coze и Sonnet 3.5.
Итог наших изысканий такой, будем изучать на перспективу возможные сценарии использования локальных моделей в повседневной юридической работе.
С цодовскими (облачными) нейронками уже всё понятно: не иметь подписки на нейронку для юриста, это как вообще не обращаться ни разу за сверкой нормативных актов или поиска судебной практики в К+ Гарант.
Если ты практикующий юрист: подписка на нейронку + СПС для тебя обязательны.
локальные #юридические_бямки