Георгий Шахгильдян — ученый и руководитель научно-технологического развития (к.х.н., MBA).
Пишу о НИОКР, взаимодействии науки и бизнеса, коммерциализации разработок и жизни внутри науки.
Для связи: @geo_shkh
Post #471
347
Что я могу делегировать? Где ИИ сильнее меня?
На этой неделе был на встрече клуба, который регулярно обсуждает развитие университетов. В этот раз говорили про искусственный интеллект в образовании.
Разговор получился довольно широкий: нужно ли вообще интегрировать ИИ в университет, как это делать технологически, какой для этого нужен стек, сколько всё это стоит, какие возникают ограничения.
Но у меня после обсуждения остался более фундаментальный вопрос: а зачем?
Понятно, зачем ИИ университету как инструмент: персонализация, тьюторство, проверка работ, помощь преподавателю, снижение каких-то издержек. Но это все-таки ответы на вопрос «что с ним можно сделать», а не «каким должен стать результат образования».
Одна из мыслей, прозвучавших на встрече, зацепила меня особенно сильно. Это концепция "неровной границы возможностей ИИ".
Термин появился несколько лет назад в эксперименте с консультантами BCG. Исследователи обнаружили, что эта граница устроена совсем не очевидно: модель может блестяще справляться с одной профессиональной задачей и внезапно проваливаться в другой, очень похожей для человека. Технические детали того эксперимента давно устарели — современные модели существенно сильнее. Но сама идея, кажется, никуда не исчезла. Граница просто очень быстро движется.
Я полез смотреть, что про это пишут сейчас. И оказалось, что свежие исследования образования постепенно приходят к похожей, но более интересной постановке.
Один из используемых терминов — «калиброванное делегирование». Тема в том, какую часть интеллектуальной работы можно передать ИИ, какую нужно проверить, а какую человек должен оставить за собой. Каково это вам — не все подряд скидывать в GPT?)))
Рядом возникает еще одно понятие, которое звучит безумно секси-умно: «эпистемическая агентность». Каково! Это способность самому оценивать доказательства, замечать неопределённость, сравнивать версии, проверять утверждения и в конечном счете отвечать за сделанный вывод. ИИ может и усиливать эти навыки, и, наоборот, позволять их успешно обходить — все зависит от того, как устроена образовательная задача.
И вот тут-то, мне кажется, и появляется ответ на вопрос «зачем вообще интегрировать ИИ в образование». Потому что нынешние студенты будут жить и работать в мире, где значительная часть интеллектуальной деятельности будет происходить уже не отдельно человеком и не отдельно машиной, а системой «человек + ИИ». Да что там будут — много где так уже и происходит.
Значит, университету придется учить новой базовой компетенции — способности правильно распределять мышление между собой и машиной.
Что я могу делегировать? Где модель сильнее меня? Где ей нельзя доверять без проверки? Что мне необходимо понимать самому, даже если ИИ уже умеет это делать? И где цель задачи вообще не получить правильный ответ, а сформировать собственное мышление? — хорошие вопросы получаются.
В общем получается, что с появлением ИИ надо не столько запрещать новые инструменты, сколько придумывать другие задачи под новые компетенции. Задайте своим студентам такие задачи, например.
1️⃣ Не «напишите обзор литературы», а получите обзор от ИИ, найдите в нем три утверждения, которые требуют проверки, доберитесь до первичных источников и объясните, чему в итоге можно доверять.
2️⃣ Не «решите задачу без ChatGPT», а решите ее вместе с ИИ, найдите ключевое допущение в предложенном им решении и измените условие так, чтобы это решение перестало работать.
3️⃣ Не «подготовьте позицию по проблеме», а попросите несколько моделей предложить разные позиции, разберите, на каких данных и предположениях каждая из них держится, и защитите собственный выбор.
4️⃣ Или так — сначала решите сложную задачу вместе с ИИ, а потом получите соседнюю задачу без него — и покажите, что научились не получать ответ, а думать.
Попробовать можно)
pubsonline.informs.org Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge… We introduce and study the concept of a “jagged technology frontier” to describe the uneven impact of artificial intelligence (AI) capabilities, where AI assistance improves performance for some ta... На этой неделе был на встрече клуба, который регулярно обсуждает развитие университетов. В этот раз говорили про искусственный интеллект в образовании.
Разговор получился довольно широкий: нужно ли вообще интегрировать ИИ в университет, как это делать технологически, какой для этого нужен стек, сколько всё это стоит, какие возникают ограничения.
Но у меня после обсуждения остался более фундаментальный вопрос: а зачем?
Понятно, зачем ИИ университету как инструмент: персонализация, тьюторство, проверка работ, помощь преподавателю, снижение каких-то издержек. Но это все-таки ответы на вопрос «что с ним можно сделать», а не «каким должен стать результат образования».
Одна из мыслей, прозвучавших на встрече, зацепила меня особенно сильно. Это концепция "неровной границы возможностей ИИ".
Термин появился несколько лет назад в эксперименте с консультантами BCG. Исследователи обнаружили, что эта граница устроена совсем не очевидно: модель может блестяще справляться с одной профессиональной задачей и внезапно проваливаться в другой, очень похожей для человека. Технические детали того эксперимента давно устарели — современные модели существенно сильнее. Но сама идея, кажется, никуда не исчезла. Граница просто очень быстро движется.
Я полез смотреть, что про это пишут сейчас. И оказалось, что свежие исследования образования постепенно приходят к похожей, но более интересной постановке.
Один из используемых терминов — «калиброванное делегирование». Тема в том, какую часть интеллектуальной работы можно передать ИИ, какую нужно проверить, а какую человек должен оставить за собой. Каково это вам — не все подряд скидывать в GPT?)))
Рядом возникает еще одно понятие, которое звучит безумно секси-умно: «эпистемическая агентность». Каково! Это способность самому оценивать доказательства, замечать неопределённость, сравнивать версии, проверять утверждения и в конечном счете отвечать за сделанный вывод. ИИ может и усиливать эти навыки, и, наоборот, позволять их успешно обходить — все зависит от того, как устроена образовательная задача.
И вот тут-то, мне кажется, и появляется ответ на вопрос «зачем вообще интегрировать ИИ в образование». Потому что нынешние студенты будут жить и работать в мире, где значительная часть интеллектуальной деятельности будет происходить уже не отдельно человеком и не отдельно машиной, а системой «человек + ИИ». Да что там будут — много где так уже и происходит.
Значит, университету придется учить новой базовой компетенции — способности правильно распределять мышление между собой и машиной.
Что я могу делегировать? Где модель сильнее меня? Где ей нельзя доверять без проверки? Что мне необходимо понимать самому, даже если ИИ уже умеет это делать? И где цель задачи вообще не получить правильный ответ, а сформировать собственное мышление? — хорошие вопросы получаются.
В общем получается, что с появлением ИИ надо не столько запрещать новые инструменты, сколько придумывать другие задачи под новые компетенции. Задайте своим студентам такие задачи, например.
1️⃣ Не «напишите обзор литературы», а получите обзор от ИИ, найдите в нем три утверждения, которые требуют проверки, доберитесь до первичных источников и объясните, чему в итоге можно доверять.
2️⃣ Не «решите задачу без ChatGPT», а решите ее вместе с ИИ, найдите ключевое допущение в предложенном им решении и измените условие так, чтобы это решение перестало работать.
3️⃣ Не «подготовьте позицию по проблеме», а попросите несколько моделей предложить разные позиции, разберите, на каких данных и предположениях каждая из них держится, и защитите собственный выбор.
4️⃣ Или так — сначала решите сложную задачу вместе с ИИ, а потом получите соседнюю задачу без него — и покажите, что научились не получать ответ, а думать.
Попробовать можно)
- 👍 8
- 🔥 4
- ❤ 3








