Post #156
631
На самом деле я дал больше комментариев для Инк (ссылка на пост), лишь часть из них была была опубликовано. Публикую их целиком. Если не согласны, пишите где я не прав
1️⃣Часть 1 (Ссылка на часть 2)
Во-первых, даже самые современные LLM все еще галлюцинируют. Механика обучения выстроена так, чтобы дать максимально вероятный, а не максимально правдивый ответ.
LLM обучены так, чтобы «угождать». Ситуация постепенно улучшается, но в некоторых случаях массив для обучения текстов может быть перекошен в сторону коммерческого контента, маскирующегося под научный, а не в сторону качественных статей. На моем личном опыте модель неправильно интерпретировала один из анализов (она “прочитала” “антиген” вместо “антитело”) и, как следствие, дала диаметрально противоположные рекомендации.
Во-вторых, языковым моделям нужно уметь правильно задавать вопросы. Хороший промпт состоит не только из вопроса, но и из контекста, просьбы опираться на академические журналы и давать (тут важно самому уметь интерпретировать научные статьи, понимать ограничения статистических методов, использованных в конкретной работе), просьбы задавать уточняющие вопросы, просьбы маркировать части ответа, для которых недостаточного контекста или есть неуверенности в правильности ответа. LLM обучены таким образом чтобы “угодить” пользователям, поэтому при неправильно сконструированных промпатх, легко просто-напросто подтвердить свои когнитивные искажения и заранее сформированное мнение, а не получить реальную информацию.
Тем не менее уже сейчас это мощный инструмент, который при грамотном использовании помогает глубоко изучить свою ситуацию и перепроверить советы. Тем не менее перед любыми значимыми вмешательствами в здоровье обязательно консультируйтесь с врачом.
Компьютерное зрение уже около 10 лет во многих направлениях медицинской диагностики дает результат сравнимый или превышающий результат медицинских профессионалов. Использование алгоритмов машинного зрения будет только расширяться.
Алгоритмы speech-to-text и языковые модели уже сейчас используются некоторыми врачами, чтобы уменьшить бумажную часть работы. Внедрение этих систмем будет расширяться, тогда как внедрение систем поддержки принятия решений будет происходить медленнее. С последними есть дополнительные ограничения в виде более сложной, а иногда еще не существующей, регуляторики.
Есть большой набор юзкейсов для продуктов на основе LLM во взаимодействии с пациентом за рамками непосредственно медицинских услуг: от назначения и переназначения сеансов и напоминаний про них, первичных опросников до увеличения комплаентности к назначенной терапии.
Уже существуют несколько единорогов, использующих разные направления ИИ (от глубокого обучения и компьютерного зрения до LLM, GAN и ИИ-агентов) в разработке лекарств — Recursion, Owkin, Insilico Medicine, Isomorphic Labs и другие. Со временем качество ИИ-моделирования будет улучшаться, а регуляторы со временем начнут шире принимать данные моделирования при регистрации препаратов. В пределе, через десятки лет, это может привести к почти полному отказу от клинических исследований в пользу цифровых двойников человека и гиперперсонализированного моделирования эффектов интервенций.
Экономика продления жизни. Стрыгин
1️⃣Часть 1 (Ссылка на часть 2)
– Почему использование ChatGPT или других языковых моделей в качестве замены врачу может быть опасным? В каких случаях особенно велик риск ошибок?
Во-первых, даже самые современные LLM все еще галлюцинируют. Механика обучения выстроена так, чтобы дать максимально вероятный, а не максимально правдивый ответ.
LLM обучены так, чтобы «угождать». Ситуация постепенно улучшается, но в некоторых случаях массив для обучения текстов может быть перекошен в сторону коммерческого контента, маскирующегося под научный, а не в сторону качественных статей. На моем личном опыте модель неправильно интерпретировала один из анализов (она “прочитала” “антиген” вместо “антитело”) и, как следствие, дала диаметрально противоположные рекомендации.
Во-вторых, языковым моделям нужно уметь правильно задавать вопросы. Хороший промпт состоит не только из вопроса, но и из контекста, просьбы опираться на академические журналы и давать (тут важно самому уметь интерпретировать научные статьи, понимать ограничения статистических методов, использованных в конкретной работе), просьбы задавать уточняющие вопросы, просьбы маркировать части ответа, для которых недостаточного контекста или есть неуверенности в правильности ответа. LLM обучены таким образом чтобы “угодить” пользователям, поэтому при неправильно сконструированных промпатх, легко просто-напросто подтвердить свои когнитивные искажения и заранее сформированное мнение, а не получить реальную информацию.
Тем не менее уже сейчас это мощный инструмент, который при грамотном использовании помогает глубоко изучить свою ситуацию и перепроверить советы. Тем не менее перед любыми значимыми вмешательствами в здоровье обязательно консультируйтесь с врачом.
– В каких направлениях медицинского ИИ вы видите наибольший потенциал уже сейчас (например, диагностика по изображениям, анализ больших массивов данных, поддержка принятия решений)?
Компьютерное зрение уже около 10 лет во многих направлениях медицинской диагностики дает результат сравнимый или превышающий результат медицинских профессионалов. Использование алгоритмов машинного зрения будет только расширяться.
Алгоритмы speech-to-text и языковые модели уже сейчас используются некоторыми врачами, чтобы уменьшить бумажную часть работы. Внедрение этих систмем будет расширяться, тогда как внедрение систем поддержки принятия решений будет происходить медленнее. С последними есть дополнительные ограничения в виде более сложной, а иногда еще не существующей, регуляторики.
Есть большой набор юзкейсов для продуктов на основе LLM во взаимодействии с пациентом за рамками непосредственно медицинских услуг: от назначения и переназначения сеансов и напоминаний про них, первичных опросников до увеличения комплаентности к назначенной терапии.
Уже существуют несколько единорогов, использующих разные направления ИИ (от глубокого обучения и компьютерного зрения до LLM, GAN и ИИ-агентов) в разработке лекарств — Recursion, Owkin, Insilico Medicine, Isomorphic Labs и другие. Со временем качество ИИ-моделирования будет улучшаться, а регуляторы со временем начнут шире принимать данные моделирования при регистрации препаратов. В пределе, через десятки лет, это может привести к почти полному отказу от клинических исследований в пользу цифровых двойников человека и гиперперсонализированного моделирования эффектов интервенций.
Экономика продления жизни. Стрыгин
- 🔥 12
