​​С машинами все в порядке. Я беспокоюсь за нас.
Автор Минас Караманис
Статья Минаса Караманиса — это размышление о том, как использование ИИ в академической среде подменяет процесс обучения погоней за эффективностью. Автор рассматривает эту проблему на примере двух вымышленных аспирантов-астрофизиков — Алисы и Боба.
Алиса идет традиционным путем: она ошибается, мучительно ищет ошибки в коде и вгрызается в тексты статей. К концу года она формирует «внутреннюю когнитивную инфраструктуру» и интуицию.
Боб делегирует задачи ИИ-агенту: отладку кода, суммаризацию статей и написание текста.
С точки зрения системы (публикации, метрики, отчеты) они идентичны. Но с точки зрения компетенций Алиса стала ученым, а Боб остался студентом первого курса с доступом к мощному инструменту.

В таких фундаментальных областях, как астрофизика, ценность заключается не в конечном числе (например, значении постоянной Хаббла), а в воспитании людей, способных решать сложнейшие задачи. Если передать процесс машине, наука теряет свою главную функцию — развитие человеческого интеллекта.
Многие эксперты (например, Мэтью Шварц) используют ИИ для ускорения рутины.
Для эксперта это «рутина», потому что он уже владеет базой.
Для новичка рутина и есть обучение. Ошибки компиляции, путаница в знаках и непонимание формул — это «учебный план», через который формируется мастерство. Тот, кто пропускает этот этап, никогда не обретет «иммунитет» против галлюцинаций ИИ.

Проблема не в лени студентов, а в стимулах системы «публикуйся или умри» (publish or perish). Университетам и грантодателям нужны статьи (показатели), а не «глубокое понимание» студентов, которое невозможно измерить. Боб действует рационально в рамках сломанной системы, но в долгосрочной перспективе он проигрывает как специалист.

Автор не призывает запретить ИИ, но проводит важную черту:
ИИ как инструмент: помощь в форматировании или поиске синтаксиса, когда человек — архитектор мысли.
ИИ как замена мышлению: делегирование методологических решений и выводов.
Автор опасается не «восстания машин», а «медленного сползания к непониманию». Мы рискуем вырастить поколение исследователей, которые умеют нажимать на кнопки и получать красивые графики, но не способны объяснить физический смысл своих результатов «с нуля».
Нельзя стать мастером, наблюдая за тем, как работает кто-то другой (даже если этот «кто-то» — нейросеть). Чтобы научиться думать, нужно сначала позволить себе ошибаться самостоятельно.
Читать в переводе 18мин