Как работать с искусственным интеллектом в науке?

В начале учебного года считаем не лишним напомнить несколько правил работы с искусственным интеллектом. Неважно какими инструментами вы пользуетесь: нашей платформой INVENTORUS или же имеете доступ к зарубежным программам, есть правила, которые имеет смысл распечатать и повесить над рабочим столом. Правила о том, что можно делать с помощью искусственного, а что отдавать ему не стоит.

Это знание уместится в две небольшие колонки. Слева то, что можно доверить ИИ. Справа то, что нельзя. В левую записываем сбор и парсинг публикаций, патентов, отчётов. Поиск и тематическая классификация. Построение карт знаний и связей между авторами и концептами. Суммаризация больших массивов текста. Выявление трендов.
В правую размещаем финальные выводы и экспертные суждения. Оценка достоверности фактов. Патентная и юридическая экспертиза. Этические и стратегические решения. И самое главное – авторство. ИИ не может быть самостоятельным субъектом научной деятельности. Вот, собственно, и всё. Но, считаем свои долгом объяснить почему список именно такой.

Первое это самая болезненная тема – галлюцинации. Модель может уверенно выдать правдоподобную ложь, и самая опасная её форма несуществующая ссылка. Она выглядит идеально: фамилии, журнал, год, том, страницы. Всё на месте, кроме непосредственно статьи. Так, что все источники не забываем проверять, чтобы не попасть впросак.

Следующий тезис – неполнота баз. ИИ анализирует только то, до чего смог дотянуться. Работа, не попавшая в его источники, для него не существует. А вывод при этом звучит так же уверенно, как если бы он прочитал всё.

Кроме того, существует и языковой перекос. Модели заметно лучше работают с английским. При том, что ключевые исследования выходят на 40 языках. Получается своего рода ловушка. Инструмент, который взяли ради полноты охвата, сужает картину до англоязычного сегмента и делает это незаметно, потому что о пропущенном он не сообщает.
Все эти сложности, надо отметить, качественно решает наша платформа. Но сейчас речь об обычных языковых моделях

Какие выводы из всего вышесказанного можно сделать?
1️⃣Граница проходит не по сложности, а по ответственности. Суммаризация тысячи статей интеллектуально сложнее, чем решение «этой темой мы не будем заниматься». Но первое отдают машине, а второе принимает человек. Потому что делят не по трудности, а по цене ошибки и по тому, кто за неё отвечает. ИИ достаётся обратимое, человеку – необратимое.
2️⃣Экономия времени не дается просто так. Часть сэкономленного на чтении и поиске уходит на верификацию. Эту цены надо закладывать в план. Команда, сэкономившая три недели на обзоре литературы и не потратившая три дня на проверку ссылок, не выиграла время. Она взяла его в долг под проценты.
3️⃣Главный риск не технический, а поведенческий. Модели галлюцинируют всё реже, поэтому бдительность падает. Первые десять раз мы проверяем всё. К пятидесятому просматриваем по диагонали. Три базовых принципа научной верификации (проверка первоисточника, перекрёстная проверка, экспертная оценка) звучат как банальность ровно до того дня, когда несуществующая цитата уходит в печать.
4️⃣Рецензирование сегодня становится дефицитным навыком. Умение быстро понять, где текст врёт, ценится выше умения его получить.

💙ВКонтакте | 👋 INVENTORUS