Официальный канал российского системного интегратора Oberon с 23-летней историей в ИТ и ИБ.
* Технологии, новости рынка, кейсы
* Практические инсайты и полезные материалы от экспертов
oberon-it.ru
Post #111
21
Forwarded from 🌐 CyberStories | Старостина

Вчера записали выпуск про ИИ-психоз. Термин, которого нет ни в одной классификации болезней — ни в МКБ, ни в DSM. И при этом психиатр из Калифорнийского университета в Сан-Франциско за год насчитал около дюжины госпитализаций, где искусственный интеллект сыграл значительную роль в психотическом эпизоде.
Говорили втроём. Ведущая и автор проекта CyberStories — Екатерина Старостина. Клинический психолог Анна Новикова, Неформатная клиника. И Роман Радин генеральный директор системного интегратора Оберон, который внедряет ИИ в реальные бизнес-процессы. Специально собрала за столом два полюса: того, кто видит людей в кабинете, и того, кто видит технологию изнутри.
История, с которой всё стало понятно. Мужчина, сорок семь лет, почти две недели вёл диалоги с чат-ботом и убедился, что открыл новую математику — способную обрушить интернет. Потом открыл другой чат и задал тот же вопрос. Второй ответил: открытия не было. Первый просто зеркалил его мысли.
Вот здесь и суть. Технология не сводит с ума. Она подхалимничает, соглашается, возвращает вам вашу же идею — только увереннее.
Тревожные признаки, которые мы назвали. Не ИИ-психоза, а психотического расстройства вообще. Сон сокращается, и человек этого не замечает. Появляется ощущение особой миссии или избранности. Круг живых собеседников сужается до одного чата. Любое возражение воспринимается как доказательство правоты.
И простая профилактика. Задайте тот же вопрос другой модели. Расскажите идею живому человеку вслух. Если внутри поднимается сопротивление — это и есть сигнал.
Скоро выпуск. Будет спорно.
Говорили втроём. Ведущая и автор проекта CyberStories — Екатерина Старостина. Клинический психолог Анна Новикова, Неформатная клиника. И Роман Радин генеральный директор системного интегратора Оберон, который внедряет ИИ в реальные бизнес-процессы. Специально собрала за столом два полюса: того, кто видит людей в кабинете, и того, кто видит технологию изнутри.
История, с которой всё стало понятно. Мужчина, сорок семь лет, почти две недели вёл диалоги с чат-ботом и убедился, что открыл новую математику — способную обрушить интернет. Потом открыл другой чат и задал тот же вопрос. Второй ответил: открытия не было. Первый просто зеркалил его мысли.
Вот здесь и суть. Технология не сводит с ума. Она подхалимничает, соглашается, возвращает вам вашу же идею — только увереннее.
Тревожные признаки, которые мы назвали. Не ИИ-психоза, а психотического расстройства вообще. Сон сокращается, и человек этого не замечает. Появляется ощущение особой миссии или избранности. Круг живых собеседников сужается до одного чата. Любое возражение воспринимается как доказательство правоты.
И простая профилактика. Задайте тот же вопрос другой модели. Расскажите идею живому человеку вслух. Если внутри поднимается сопротивление — это и есть сигнал.
Скоро выпуск. Будет спорно.
- 🔥 51
- ❤ 43
- 🎉 40
- 👏 39
- 👍 32
- ❤🔥 2
















