Большие языковые модели как инструмент химика в эпоху искусственного интеллекта

История, знакомая многим исследователям: коллега сформулировал для ChatGPT запрос на составление обзора методов синтеза органического соединения. Результатом стал развёрнутый анализ актуальных подходов, ожидаемых выходов и условий синтеза. Каждый метод был подкреплён ссылкой на публикацию в авторитетном журнале, и убедительность представленных данных позволила немедленно приступить к экспериментальной части работы. Когда рекомендуемая методика не дала ожидаемого результата, команда приступила к проверке источников. Выяснилось, что указанная ChatGPT ключевая публикация — как, впрочем, и все остальные ссылки — была сфальсифицирована моделью. Работу пришлось переделывать, методики искать вручную. В результате значительная часть коллектива решила, что большие языковые модели (LLM) – это бесполезный для учёного инструмент, который лишь выдаёт убедительные галлюцинации за фактологический анализ.

Несуществующие ссылки, путаница в терминологии, ошибки в изложении информации из открытых источников – всё это сильно подорвало авторитет ИИ, как научного инструмента, и вызвало у многих желание перепроверять каждую ссылку в литобзорах.

Тем не менее, проблема вовсе не в моделях, а в том, как они используются.

Любому учёному очевидно: бесполезно пытаться применять инструмент, не понимая его. Действительно, невозможно анализировать спектры ЯМР, не представляя, что такое химический сдвиг. Нельзя провести квантово-химический расчет, не зная, что такое уравнение Шрёдингера или теория функционала электронной плотности. Однако когда речь заходит о новых инструментах ИИ, этот базовый принцип зачастую игнорируется. Некоторые исследователи полагают, что, не имея представления о том, как работает инструмент ИИ, можно заставить его приносить пользу. Естественно, это не так. Однако если понимать архитектуру, принципы работы и ключевые ограничения современных поисковых ИИ-систем, они превращаются из источника ошибок в мощного персонального научного ассистента. Именно в этих аспектах мы сегодня попробуем разобраться.

Продолжение на сайте ХИА

При копировании текста статьи обязательна ссылка на источник

#хиа_наука

ХИА — главные новости из мира химии