Нейросеть будет думать за тебя, учимся и работаем
Часть первая: вводная по характеру нейронок

В посте нуль этой негласной рубрики "о нейросетях" я просто рассказал о том факте, что нейронки это круто и поделился личным опытом, включая такое баловство и полезную опцию, как настройка поведения своей нейронки. Я поделюсь личным опытом, что у одной нейронки выходит лучше, что хуже. Как этим пользоваться и чего стоит опасаться.

Прошло прилично времени, я активно пользовался Grok и ChatGPT для нескольких вещей:
- Перевод текста
- Перевод по ссылке
- Вопросы о технике и софте
- Вопросы "а могу ли я"

Первые два связаны с моей работой и ресерчем в крипте, где мне нужно скормить нейросети текст, сделать выжимку сути, перевести сложные фразы и так далее. А вторая часть это уже мой опыт с Flipper Zero, где нейросеть обучала меня такой черной магии, как анализ EAPOL пакетов в wireshark. Безусловно, предварительно собранных через Sniff raw или pmkid на Developer board for flipper zero.

И к чему такой неймдропинг? Чтобы передать вам сложность или "далекость" темы, нейросети знают условно все по мере обновления баз данных, где у них лежит целый слепок интернета, они проводят глубокий ресерч, строят связи и отвечают по форме службы поддержки. И в этом проблема.

GROK: навязчивый консультант

Он отлично глотает весь контекст, подстраивая свои ответы под него. Назвали вы свою ОС, набор софта, задачу и ряд ошибок и он подстраивает ответы в духе "Ах, раз у тебя есть N ты можешь совместить с X". Но свои ответы он строит из соображения решения твоей проблемы, посему выдает полотно текста на уровне "перезагрузи роутер" и я не шучу. Он буквально 50-80% текста будет из раза в раз наполнять типичными советами, чтобы предотвратить ЛЮБУЮ потенциальную причину проблемы.

Его нужно держать в узде, четко направлять по вашему контексту и просить решать одну четкую проблему. Но сложилось ощущение, что ему плевать и он все равно подкинет топ 10 причин, хотя вам нужна ровно 1.

Зато у него есть жирный плюс — он не старается вмешиваться в прямую просьбу. Что я имею ввиду: закинув ему любую ссылку, можно получить текст с сайта, сделать перевод статьи Виталика, например. А вот ChatGPT может сослаться на авторское право и отказаться вообще переводить, только написать суть.

И это реальный кейс! ГПТ просто анально на ровном месте цензурирует ваш запрос. У меня время от времени случалось так, что он жрал половину текста, ибо ранее мы переводили коротко и смена правил работы не помогала, только абсолютно новый чат с новыми промптами.


ChatGPT: красиво, привычно, но "соево".

Как уже было написано повыше, ГПТ может просто не исполнить вашу просьбу, переводит он текст +/- также, но сам факт отказа переводить или надобность резать текст кусками ctrl c и ctrl v — откровенная трата времени. Зато есть огромный плюс на мой взгляд, то самое "текст от ГПТ" с емодзиками и четкой структурой. Мне такое читать всяко удобнее, как и вникать.

Но обратная проблема от Grok, если тот засирается контекстом и выдает лишний текст, то этот товарищ краток и с него ответы нужно выдергивать клещами, прям долбить уточняющими вопросами. Само по себе это не плохо, выходит структурированный диалог. Вопрос только зачем, если я мог сразу получить полный ответ.

А вот дальше мы поговорим о том, как нейросети любят выдумывать ответ, но давать неожиданно полезные результаты. Потому что знать о таком (очевидном?) подводном камне стоит, дабы не наделать дров или просто не разочароваться в наших брадочках меньших. У нас нейроны и у них нейроны.