ИИ-контроль: жесть или благо?

Андрей Вебер тут рассказывает, что постоянно обсуждает его новую книгу с ИИ-шкой.

С одной стороны, это делает книгу лучше, а с другой — удаляет её сдачу в бесконечность.
(upd — в итоге Андрей это прекратил)

Я, разумеется, делал со своей книгой то же самое, и в какой -то момент тоже сказал:
"Хватит, спасибо, я буду высказывать свою позицию и говорить, как я хочу, доказывая всё с максимально возможной для меня добросовестностью".

А вот ещё новая история:

В образовательной компании Multiverse замутили оценку преподавателей с помощью ИИ.

Раньше преподов наблюдал живой куратор — примерно раз в месяц, теперь AI анализирует ВСЁ.

Среди критериев: слова-паразиты типа "sort of" / "kind of", технический сбой, слишком долгий разговор с одним учеником, сбивчивая речь — причём если преподаватель сначала запутался, а потом себя исправил, это всё равно лажа.

С одной стороны — всё правильно!

Но браться наши преподаватели сообщают о сильном стрессе, бессоннице, ощущении постоянного контроля и повышении расходов на психотерапевта.

Во время урока они уже думают не о студентах, но и о том, «что скажет ИИ».

Чего у этой истории пока нет — результатов по качеству образования.

А здесь сделали исследование: сможет ли ИИ предсказать, как лекция зайдет студентам: и если оценки «структуры и логики изложения» ИИ предсказывал хорошо,
то «ясность объяснения» — плохо (не совпадало с оценками студентов).

Наверное, можно дообучить модели, и пользы будет больше (не зря же мы читаем исследования о том, что именно делает лекции хорошими).

Но всё равно — с какого-то уровня спикеру/лектору придется делать что-то по-своему, и нарушать формальные критерии, чтобы становиться лучше.

Что думаете? Был опыт?