О галлюцинациях ЛЛМ и низкой социальной ответственности некоторых образованцев.

Я часто в своих выстпулениях затрагиваю тему галлюцинаций LLM. Вон даже в мемы уже попал :) Но тема эта и вправду крайне важна.

Мне попалась на глаза крайне любопытная
🀄 статейка 🀄с исследованием на эту тему (авто перевести ее можно в Яндекс браузере). Она называются - "сновидения машин".

Повальное увлечение Chat GPT и прочими LLM неминуемо приводит к тому что часть нечистых на руку "образованцев с пониженной социальной ответственностью" начинают генерить образовательный контент Жипитей и потом выдают это за образование... Несмотяри на галлюцинации, конфабуляции и прочие "неожиданные эффекты генеративного ии".

При этом есть несколько способов борьбы с галлюцинациями - это и кросс референс (проверка поиском в сети как делает Perplexity.ai) и RAG (использование экспертных текстов, на основе которых LLM генерит ответы) и Знаниевые графы (онтологии в стилистике Строительных лесов по Выготскому, которыми занимается моя лаборатория). Подробнее об этом я рассказываю в 🎥.этом выступлении🎥.

❗️🙅 Товарищ! Будь Бдителен! Используй экспертное знание в образовательных программах! Не доверяй все образование чистой Жипите, какой бы умной она ни казалась! 🙅‍♂️❗️

PS. Кстати даже сами нейросети не то чтобы хорошо обучались на сгенерированном ими же контенте - есть даже термин деградация обучения на синтетических данных.

💢 ИИ и данные в образовании на канале Дизайн Образования