Выступил сегодня на форуме «Врач или искусственный интеллект, что лучше? v2.0»

Первое — крутая организация! Спасибо Владимиру Евдокимову. Очень жаль, что не смог поприсутствовать очно.

Рассказывал про ИИ которые LLM (большая языковая модель) — чатджпт, клод etc. Краткие тезисы:

• Модель обучена на миллионах документах. Она знает, какие слова часто встречаются вместе и как они идут друг за другом. При работе она "предсказывает", какое слово написать следующим. Но на основе всего предыдущего текста — это позволяет быть "в контексте".

• Модель доступна как в виде чата (чатджпт, клод) и как запрос по API — отправляем на сервер, получаем ответ, платим копеечку. Можно взять open-source модель и запустить самостоятельно.

• Промпт — это инструкция. Подробный промпт увеличивает эффективность работы. Хороший промпт содержит роль, задачу, шаги исполнения, примеры "как надо" и "как не надо", ограничения.

• Контекст — это все, что можно отправить модели помимо промпта. Это могут быть учебники, научные статьи, гайдлайны.

• Агент — это модель + инструмент, который она может "применить", написав его в выводимом тексте. Он описывается в промпте. Например, запустить веб поиск и получить результат в контекст следующего запроса.

• Можно доставать статьи по запросу по близкому смыслу. Модель запрашивает "одышка, отечность, хрипы", получает статью "Хроническая сердечная недостаточность" и добавляет себе в контекст. Это называется RAG - Retrieval Augmented Generation.

• Модель можно дообучить на новом датасете. Например, фокусированно добавить медицинские термины, их синонимы и обывательские сокращения. Это называется файнтюнинг. Тут уже нужны вычислительные мощности, это дорого.

• Большинство "уникальных ИИ сервисов" — это просто хороший промпт, контекст, иногда RAG и обращения к чужой модели. Здесь нет ничего сложного, каждый может в этом разобраться.

Кроме этого я в прямом эфире показал, как можно сделать скрипт (с помощью модели), который обработает набор данных моделью — категоризировать свободные ответы по критериям. Одно обращение к модели — 8 копеек.

Позже выложу запись. В целом, главный посыл — генеративные ИИ это не магия, это доступно каждому. Как пример, мой товарищ психиатр сам себе написал сервис заполнения рецептов, который прекрасно помогает в ежедневной работе.