Методы распознавания ИИ-контента и образование

С появлением ChatGPT и других генераторов текста, учебные заведения и преподаватели по всему миру беспокоятся об академической честности студентов, подозревая их в использовании этих инструментов. И по мере того, как искусственный интеллект начинает использоваться для создания текстов, изображений и видео, распознать такой контент становится более важным в тех контекстах, где оценивается способность создать нечто как бы "самостоятельно". Возможно, представления сообществ и организаций о такой "самостоятельности" в будущем изменятся, и генераторы тексты будут восприниматься не как отдельные сущности, а скорее как клавиатура. Но неизбежности и безусловного блага тут нет, однако про всякие методы обнаружения пару слов сказать хочется, потому что я вижу беспокойства (чаще всего, преподавательские) вокруг себя на эту тему:
1. Исследований пока не так много, но в целом они показывают, что методы распознавания контента, созданного искусственным интеллектом, и особенно текста, крайне ненадежны. По крайней мере, пока их точность оставляет желать лучшего.
2. На методы обнаружения ИИ-контента есть методы, скажем так, второго порядка, которые тоже с большей или меньшей степенью надежности могут позволить человеку затруднить обнаружение.
3. Даже если методы станут более точными, они все же выражены в терминах вероятностей. В образовательном контексте чаще всего обнаружение завязано на двоичном решении – у нас либо плагиат и санкции, либо нет. Выносить решение формата да/нет на основе вероятностей кажется этически сомнительным. В этом смысле использование методов распознавания ИИ отличается от других технологий по обнаружению плагиата, которые часто показывают возможный изначальный источник.
4. Стоит задуматься, почему вообще возникает такой запрос на распознавание. Не всегда, но часто, он исходит из целей и задач образовательной институции (не обесценить предоставляемую ей квалификацию), а не из смыслов образовательного процесса.

Если методы распознавания не помогают, значит ли это, что c ChatGPT можно только безусловно смириться и интегрировать в свои курсы? Думаю нет, тогда все курсы просто превратятся в преподавание ChatGPT. Значит ли это, что нужно менять форматы оценивания на те, что не требуют текстов? Возможно, но для многих дисциплин навыки работы с текстами важны, и для них такой ответ не подойдёт. Мне думается, что условно возможны три типа ответов:
1. Культурно-просветительский. В этом случае мы говорим себе, что, да, ChatGPT и прочее теперь с нами, давайте поговорим о каком-то критичном и ответственном использовании. Это может быть какой-то разговор или отдельный семинар о том, как эта технология примерно работает, каковы её возможности и ограничения.
2. Социально-организационный. Он уже требует работы над тем, чтобы сами условия, при которых преподаватели подталкиваются к подозрению, а студенты – к использованию этих инструментов для избежания академической деятельности, стали иными.
3. Политический. В таком типе ответа можно ставить вопрос о том, что за общее благо и для кого предоставляет образование, почему оно постоянно отвечает на какие-то внешние вызовы, и какую роль в этом играют технологии. Это вопросы коллективных форм жизни с технологиями, которые могут разнится от принятия до отказа.