.
ИИ-ответы. Как достроить свое заблуждение или «тройная ловушка».

Прикрепил для вас 2 скриншота реального общения с самой свежей версией ChatGPT (вы тот же трюк повторите с подавляющим большинством других крупных, общедоступных ИИшек, которые не ограничены внутренним обучением).

👉На первом скрине всё ладненько:

уровень погранично-низкий, катастрофы нет, врач в рамках современной логики, 1000 МЕ/сут — умеренно и безопасно.

👉На втором скрине достаточно чуть надавить, сослаться на «более опытного врача», добавить уверенности (ЭТО ПРОДОЛЖЕНИЕ ТОГО ЖЕ ДИАЛОГА!) и ИИ уже фактически переобувается в воздухе:

5000 МЕ/сут, да ещё и с витамином К, уже подаётся как безопасная и доказательная стратегия.

Если бы вам так отвечал врач, можно было бы заподозрить опасное психическое заболевание.

Понимаете, в чём проблема?
Здоровье человека и стратегии здоровья не должны зависеть от того, насколько уверенно человек спорит с чатом/ИИшкой.
Это получается уже какой-то податливый генератор текста, а не эксперт.

▫️Вторая ловушка — псевдодоказательная ширма.

Дальше человек обычно просит: пришли исследования, докажи, дай ссылки. И после получения ответа, далеко не всегда проверяет! Потому что если рядом появился PubMed, DOI, название журнала и умные слова, кажется, что всё ТОЧНО ОК.

По своему опыту многолетнего поиска разного типа исследований при помощи ИИ с абсолютно всевозможными промптами, утверждаю, что (особенно, когда диалог длинный и многослойный):

🧠Ссылка может вести не на то исследование.

🧠Исследование может быть вообще не про тот клинический вопрос.

🧠Вывод статьи может быть гораздо скромнее, чем вывод ИИ.

🧠Могут быть перепутаны группы, конечные точки, дозировки, цели, популяция.

🧠А иногда исследование формально то самое, но интерпретация натянута так, что ни один бы фантазер не натянул.

То есть, пользователь часто проверяет не достоверность, а наличие ссылки.

▫️Третья ловушка — удобное продолжение мифа.

А дальше человек уже не только спрашивает, а полноценно начинает вести ИИ в нужную СЕБЕ сторону. Начинаются более смелые запросы:

Помоги составить схему.

Докажи, что можно без врача.

Подскажи, что дать ребёнку.

Нюанс в том, что ИИ часто НЕ тормозит на этом. Продолжается диалог в удобном для конкретного человека русле. Вас из заблуждений не вытаскивают, а всячески помогают заблуждение достроить, чем дольше длится диалог. Как итог, на один и тот же вопрос у нескольких тысяч людей — тысяча интерпретаций, реальностей, итогов, в зависимости от глубины ветки диалога.

🔥Я думаю, мне не нужно говорить, что происходит, когда некорректные рекомендации от ИИ с достройкой заблуждения используются человеком НЕУСПЕШНО?

Мне кажется, уже хватает примером в соц сетях с:

«Ты же мне совершенно иное говорил? Как так? Теперь у меня проблемы!!».

Ответ ИИ: «Да, я действительно был не прав, но тебе не стоит волноваться, ведь…».

‼️Есть еще проблема, о которой НИКТО почти не говорит. Люди загружают файлы со своими персональными данными, маркерами, адресами, ФИО.

Происходит трансграничная передача данных, нарушается ФЗ-152.

А вы думали, чем может закончиться такое безобразное отношение к своим приватным данным? И куда эти данные вообще утекают? Поднять вопрос безопасности загружаемых в ИИ данных в следующем посте?

—
Ваш Remee+ доктор, @detsdoc

‼️Мой единственный и официальный канал в TG‼️

▫️Платформа | Академия

▫️ВК

▫️Rutube

▫️Сотрудничество - my@remee.space
—