👆👆👆
Исследователи из 14 университетов (в том числе ведущие учреждения!) начали “взламывать” собственные работы, чтобы обмануть ленивых рецензентов, использующих ИИ.

Это как старый прием с написанными белым шрифтом ключевыми словами в резюме, только на стероидах.
Какой из этого вывод? Давайте порассуждаем.
↳ ИИ — мощный инструмент, но не волшебная палочка. У него есть свои слабости, и им можно манипулировать.
↳ Критическое мышление возвращается в моду. Прежде чем вставить что-то в ChatGPT или NotebookLM с просьбой сделать краткое изложение, задумайся — а вдруг кто-то оставил там “сюрприз”?
↳ Да, все равно нужно думать и читать. Или хотя бы… перепроверять. 😉

Конечно, не все языковые модели (LLM) так легко обмануть простыми трюками вроде “белый текст в PDF”, особенно новые версии с “reasoner-ом” внутри (хотя, не переоцениваем — ни один ИИ не понимает по-человечески так, как нам хотелось бы).

Но речь о более глубоком.

Научные публикации должны двигать мир вперёд — прозрачно, честно, ради общего блага. А тут оказывается, что даже на arXiv проскальзывают такие трюки, так что… кто знает, сколько таких еще где-то? В условиях использования? В договорах? Закон (пока) не запрещает добавлять такие “подсказки” для ИИ — а если ты используешь LLM для быстрого конспектирования, можешь и не заметить, что тебя “обманули”.

И еще кое-что!

“Не говори ничего плохого” — это только верхушка айсберга. Есть "куча" других способов манипулировать ИИ. Это как игра в кошки-мышки в кибербезопасности — всегда найдется тот, кто захочет перехитрить систему.
Помни: ИИ настолько хорош, насколько хороши (и чисты намерения) данные, которыми его кормят. От нас зависит, будем ли мы бдительны и позаботимся о контексте.

Не отдавай своё мышление машине. Улучши его с её помощью.
Что скажешь? Согласен, зашло тебе? Поставь огонек напишу еще один пост в продожение (но уже другая история).

А может, тебя уже троллил ИИ? 😅

Обязательно напиши в коментариях —
мне очень интересно узнать Твою историю!