👨‍🔬 Готов ли ИИ заменить ученых?

Мы уже несколько раз писали об ИИ в науке как ключевом инструменте для новых открытий. Темпы внедрения ИИ в исследовательскую деятельность растут с каждым месяцем, и начало 2026 года лишь подтверждает этот тренд.

В сети легко найти информацию о множестве ярких достижений, сделанных в науке благодаря ИИ:

➡️ Онкология: создание модели MangroveGS, которая с точностью 80% предсказывает риск рака.
➡️ Кардиология: диагностика сердечной недостаточности по обычным снимкам УЗИ.
➡️ Физика и математика: расчет сложнейших конфигурационных интегралов за секунды вместо недель.
➡️ Материаловедение: открытие десятков новых высокотемпературных магнитных материалов, которые помогут создавать двигатели для электромобилей без использования дефицитных редкоземельных элементов.

И поэтому с экспоненциальным ростом числа ИИ-открытий критически важным становится вопрос их реальности и надежности. Мы входим в эпоху, когда верифицируемость и интерпретируемость алгоритмов играют даже большую роль, чем сама скорость вычислений. Без строгого контроля риск «научной фантазии» в фундаментальных данных может привести к научным тупикам.

На фоне этого в крупнейших научных изданиях вышло три фундаментальных обзора, анализирующих текущее состояние ИИ-науки. Мы выделили главное в каждом:

1️⃣ Безопасность в лабораториях
Nature: Benchmarking large language models on safety risks in scientific laboratories

Идея: современные LLM пока непригодны для автономной работы в реальных лабораториях. Исследование с помощью бенчмарка LabSafety Bench показало, что ни одна из топовых моделей не смогла преодолеть порог точности в 70% при идентификации критических угроз и оценке рисков эксперимента.
Проблема: «иллюзия понимания». Ученые могут излишне доверять ответам ИИ, которые выглядят логично, но в реальности не учитывают физическую динамику среды. Это создает риск реальных аварий и травм при проектировании сложных химических или биологических процессов.

2️⃣ Ученый как ответственный пилот
Nature: AI agents are 'aeroplanes for the mind': five ways to ensure that scientists are responsible pilots

Идея: Дашунь Ван предлагает сменить старую метафору Стива Джобса «компьютер — это велосипед для ума» на новую: «ИИ — это самолет для ума». Самолеты летают гораздо быстрее, но они сложнее в управлении, а их крушение катастрофично. Автор настаивает на модели «пилота в команде», где человек сохраняет за собой финальный контроль.
Проблема: «ускоренная наука без рефлексии». Агентный ИИ склонен выдавать «усредненные» результаты, основанные на статистике обучения. Это подавляет творческую интуицию исследователя и может привести к массовому тиражированию системных ошибок в научных работах.

3️⃣ Тест на научный интеллект
Science: How will we know if AI is smart enough to do science?

Идея: стандартных тестов больше недостаточно для оценки способностей ИИ к открытиям. Необходим целый портфель специализированных бенчмарков (таких как HLE, FrontierScience или SDE), которые проверяют не просто знание фактов, а способность ИИ строить цепочки рассуждений и работать с еще не опубликованными данными.
Проблема: огромный разрыв между обладанием знаниями и умением их применять. Большинство моделей обучаются на схожих массивах данных и «застревают» на одних и тех же сложных задачах, демонстрируя отсутствие истинного научного мышления в новых нестандартных сценариях.

💬 Тест Тьюринга. События в сфере ИИ. Подписаться