🤖 AI уже начинает «разучивать» профессионалов. Первые данные вызывают вопросы

Журнал Nature собрал несколько недавних исследований о deskilling — постепенной потере профессиональных навыков из-за постоянной опоры на AI и автоматизированные системы. Важны не мнения, а результаты экспериментов.

Врачи

В исследовании, проведённом в Польше, эндоскописты с опытом не менее 2000 колоноскопий работали с AI-системой, которая в реальном времени подсвечивала аденомы — предраковые образования кишечника.

До внедрения AI врачи обнаруживали хотя бы одну аденому в 28,4% процедур. После нескольких месяцев использования системы в дни, когда AI был недоступен, этот показатель снизился до 22,4%.

Исследователи предполагают, что часть специалистов начала полагаться на алгоритм настолько, что их собственная внимательность постепенно снизилась.

💻 Разработчики

Компания Anthropic провела рандомизированный эксперимент с участием 52 инженеров-программистов. Все выполняли одинаковую задачу, но только половина участников могла пользоваться AI-ассистентом.

После завершения работы инженеры проходили тест на понимание собственного решения. Средний результат составил 67% в группе без AI и лишь 50% в группе с AI.

Наиболее заметная разница проявилась в вопросах, связанных с поиском и диагностикой ошибок в коде.

📊 Бухгалтеры

Ещё до появления современных генеративных моделей исследователи наблюдали похожий эффект у специалистов, которые более десяти лет работали с автоматизированными бухгалтерскими системами.

Когда часть автоматизации была отключена, выяснилось, что некоторые рутинные операции сотрудники уже не могли выполнять самостоятельно на прежнем уровне.

🔬 Наука

Проблема может выходить далеко за пределы медицины и программирования.

По данным Nature, с 2012 по 2022 год использование AI в научных публикациях выросло в среднем примерно в четыре раза по двадцати исследовательским направлениям. Одновременно растут и риски методологических ошибок.

Например, обзор 415 исследований по диагностике COVID-19 на основе рентгеновских снимков и КТ показал, что лишь 62 работы соответствовали базовым стандартам качества. В отдельных случаях модели фактически различали взрослых и детей, а не пациентов с COVID и без него.

Главный вывод не в том, что AI вреден.

Во многих задачах AI действительно повышает производительность и качество результата. Однако существует риск, что часть компетенций постепенно переносится с человека на систему. Работа выполняется быстрее и эффективнее, но глубина понимания задачи может снижаться.

Поэтому вместе с внедрением AI всё чаще обсуждаются новые практики работы: регулярное выполнение задач без ассистента, независимая проверка результатов, обучение базовым навыкам без автоматизации и обязательный человеческий контроль там, где цена ошибки особенно высока — в медицине, инженерии, науке, праве и безопасности.

Особенно важно учитывать не только степень автоматизируемости задачи, но и последствия возможной деградации профессиональных навыков. Некоторые процессы действительно можно почти полностью передать AI, однако в отдельных сферах снижение компетентности специалистов может оказаться гораздо более дорогим, чем выигрыш от роста производительности. Тупеем...

Nature:
https://www.nature.com/articles/d41586-026-01947-1

#AI #ArtificialIntelligence #Science #Technology #Medicine #Programming