Сегодня в рамках II Научной конференции «Искусственный интеллект в химии и материаловедении» состоялся круглый стол «Большие и не очень данные в химии для обучения моделей», в котором я выступал в роли модератора. Приведу здесь некоторые тезисы из своего вступительного слова.

Различные инструменты искусственного интеллекта (ИИ) для применений в науке разрабатываются уже несколько десятилетий. Наиболее резонансными стали работы, удостоенные Нобелевских премий по физике и химии 2024 года, включая успешное решение компанией DeepMind проблемы сворачивания белков (программа AlphaFold).

Однако ровно три года назад компания Open AI выпустила ИИ-чат-бот ChatGPT, относящийся к большим языковым моделям (LLM), то есть языковая (текстовая) информация послужила той базой данных, на которых обучалась нейронная сеть. Этот инструмент вызвал беспрецедентный интерес, различные LLM чат-боты стали появляться в большом количестве (сейчас в мире их насчитывается несколько сотен).

Но для применения инструментов ИИ в научных исследованиях успех больших языковых моделей сыграл, скорее, негативную роль. Здесь следует, прежде всего, обратить внимание на прилагательное «языковых». И вспомнить известное изречение Талейрана: «Язык дан человеку, чтобы скрывать свои мысли». Поэтому, когда базой данных для обучения нейросети выступает совокупность сгенерированных человечеством текстов, не приходится удивляться «галлюцинациям» или прямо лживым утверждениям в окончательной выдаче.

Для науки это неприемлемо. Тут нужны надежные базы данных, в которых нет ложных или непроверенных составляющих. Как первое приближение, в качестве таких баз данных можно рассматривать статьи в рецензируемых научных журналах. И создание нейросети, обученной на массиве публикаций в хороших журналах – это одна из возможностей (см., например, https://t.me/khokhlovAR/1121). Для химии и материаловедения было бы также полезно строить нейросеть, обученную на спектрах молекул/материалов, полученных тем или иным методом. Важная проблема – устройство хранилища релевантных для науки баз данных. В частности, это должно включать приведение данных к единому формату.

В ходе круглого стола было высказано много интересных предложений, о которых я возможно расскажу в другой раз. А этот пост я хотел бы закончить ссылкой на позавчерашнюю статью в Nature, где акцентируется внимание на отмеченное выше противоречие между «ИИ для науки» и ориентированным на коммерческое использование «ИИ для досуга на основе LLM»:

https://www.nature.com/articles/d41586-025-03713-1

И еще напомнить недавнее громко прозвучавшее высказывание одного из отцов-основателей современных подходов к ИИ Янна Лекуна: «Ваш ChatGPT глупее кошки!»:

https://www.securitylab.ru/news/566173.php