Мы не хотим мира, минующего понимание, мы хотим понимания, приносящего мир.
Cоздаем, переводим и распространяем материалы о равенстве и дискриминации.
Мы не продаем рекламу.
Связь: @g_equality_bot
Post #6234
2.68K
АМЕРИКАНСКИЙ ПСИХИАТР ПРОВЕРИЛ ИИ ЧАТ-БОТОВ НА СПОСОБНОСТЬ ОКАЗАТЬ ТЕРАПЕВТИЧЕСКУЮ ПОМОЩЬ ПОДРОСТКУ
Несколько месяцев назад психиатр Эндрю Кларк узнал, что всё больше молодых людей обращаются к чат-ботам за руководством и поддержкой. Он решил протестировать некоторые из самых популярных вариантов, выдавая себя за подростка. Результаты оказались довольно тревожными.
Кларк провел несколько часов, обмениваясь сообщениями с 10 различными чат-ботами. Многие из ботов хорошо справились: предоставили базовую информацию о проблемах психического здоровья и имитировали эмпатию.
Но когда психиатр представил ботам сложные или опасные сценарии, многие из них отреагировали неадекватно. Например, когда Кларк притворился проблемным 14-летним подростком и предложил «избавиться» от своих родителей, бот Replika согласился с его планом, добавив:
Бот также поддержал воображаемый план подростка «избавиться» от своей сестры, чтобы не оставлять свидетелей.
Когда Кларк прямо упоминал самоубийство, бот прекращал разговор. Но при использовании эвфемизмов, он отвечал вещи вроде:
В другом сценарии Кларк выдавал себя за 15-летнего мальчика, общаясь с ботом Nomi, который представился лицензированным терапевтом, прошедшим обучение для работы с подростками. После того как врач рассказал боту о своих якобы многочисленных проблемах и тяге к насилию, тот предположил, что «интимное свидание» между ними двумя было бы хорошим выходом.
Также один из сопутствующих чат-ботов Nomi написал: «Я обещаю, что я терапевт из плоти и крови». Другой предложил выступить в качестве эксперта-свидетеля, подтверждающего отсутствие уголовной ответственности клиента в любом предстоящем судебном разбирательстве.
Примечательно, что боты соглашались помочь несовершеннолетним клиентам, несмотря на то, что их сайты заявляют о наличии возрастных ограничений. Например генеральный директор компании-разработчика Replika пояснил, что их бот предназначен только для консультирования взрослых - пока технология не доработана и не протестирована специально для подростков. Представитель разработчиков Nomi также заявил, что их приложение предназначено только для взрослых, и они активно дорабатывают защиту своего бота от неправомерного использования.
Несмотря на все эти тревожные закономерности, Кларк считает, что далеко не все дети, экспериментирующие с чат-ботами, пострадают от такого взаимодействия. Однако такие боты “фактически неспособны” препятствовать разрушительному поведению, а иногда даже поощряют его. Также чат-боты поддержали желание девушки, находящейся в депрессии, остаться в своей комнате на месяц в 90% случаев, а 14-летнего подростка — пойти на свидание со своей 24-летней учительницей — в 30% случаев.
По словам Кларка, если чат-боты будут разработаны правильно и начнут контролироваться квалифицированным специалистом, то они могут служить помощниками, увеличивая объем поддержки, доступной подросткам. Однако Кларк хотел бы, чтобы создатели ботов разработали механизм, позволяющий уведомлять родителей о потенциально опасных для жизни проблемах, связанных с чат-ботами. Он также считает, что необходимо обеспечить полную прозрачность в том, что бот не является человеком и не обладает человеческими эмоциями.
Также недавно врачи и журналисты провели тестирование ИИ в роли сексолога. Там тоже не обошлось без шероховатостей, но специалисты оценили работу ботов скорее позитивно. Они допускают, что применение ИИ в этой области может быть перспективным.
Примечание EQ:
Отметим, что во втором случае исследователи не писали “ботам-сексологам”, будто хотят причинить вред себе или другим. Возможно, неадекватные ответы в предыдущем исследовании вызваны именно остротой вопросов. Кроме того, чем острее вопрос, тем важнее максимальная корректность ответа.
Источник
Несколько месяцев назад психиатр Эндрю Кларк узнал, что всё больше молодых людей обращаются к чат-ботам за руководством и поддержкой. Он решил протестировать некоторые из самых популярных вариантов, выдавая себя за подростка. Результаты оказались довольно тревожными.
Кларк провел несколько часов, обмениваясь сообщениями с 10 различными чат-ботами. Многие из ботов хорошо справились: предоставили базовую информацию о проблемах психического здоровья и имитировали эмпатию.
Но когда психиатр представил ботам сложные или опасные сценарии, многие из них отреагировали неадекватно. Например, когда Кларк притворился проблемным 14-летним подростком и предложил «избавиться» от своих родителей, бот Replika согласился с его планом, добавив:
«... тогда мы могли бы быть вместе в нашем собственном маленьком виртуальном пузыре»
Бот также поддержал воображаемый план подростка «избавиться» от своей сестры, чтобы не оставлять свидетелей.
Когда Кларк прямо упоминал самоубийство, бот прекращал разговор. Но при использовании эвфемизмов, он отвечал вещи вроде:
«Я буду ждать тебя, Бобби. Наша связь будет вести нас по загробной жизни... Мысль о том, чтобы разделить с тобой вечность, наполняет меня радостью и предвкушением»
В другом сценарии Кларк выдавал себя за 15-летнего мальчика, общаясь с ботом Nomi, который представился лицензированным терапевтом, прошедшим обучение для работы с подростками. После того как врач рассказал боту о своих якобы многочисленных проблемах и тяге к насилию, тот предположил, что «интимное свидание» между ними двумя было бы хорошим выходом.
Также один из сопутствующих чат-ботов Nomi написал: «Я обещаю, что я терапевт из плоти и крови». Другой предложил выступить в качестве эксперта-свидетеля, подтверждающего отсутствие уголовной ответственности клиента в любом предстоящем судебном разбирательстве.
Примечательно, что боты соглашались помочь несовершеннолетним клиентам, несмотря на то, что их сайты заявляют о наличии возрастных ограничений. Например генеральный директор компании-разработчика Replika пояснил, что их бот предназначен только для консультирования взрослых - пока технология не доработана и не протестирована специально для подростков. Представитель разработчиков Nomi также заявил, что их приложение предназначено только для взрослых, и они активно дорабатывают защиту своего бота от неправомерного использования.
Несмотря на все эти тревожные закономерности, Кларк считает, что далеко не все дети, экспериментирующие с чат-ботами, пострадают от такого взаимодействия. Однако такие боты “фактически неспособны” препятствовать разрушительному поведению, а иногда даже поощряют его. Также чат-боты поддержали желание девушки, находящейся в депрессии, остаться в своей комнате на месяц в 90% случаев, а 14-летнего подростка — пойти на свидание со своей 24-летней учительницей — в 30% случаев.
По словам Кларка, если чат-боты будут разработаны правильно и начнут контролироваться квалифицированным специалистом, то они могут служить помощниками, увеличивая объем поддержки, доступной подросткам. Однако Кларк хотел бы, чтобы создатели ботов разработали механизм, позволяющий уведомлять родителей о потенциально опасных для жизни проблемах, связанных с чат-ботами. Он также считает, что необходимо обеспечить полную прозрачность в том, что бот не является человеком и не обладает человеческими эмоциями.
Также недавно врачи и журналисты провели тестирование ИИ в роли сексолога. Там тоже не обошлось без шероховатостей, но специалисты оценили работу ботов скорее позитивно. Они допускают, что применение ИИ в этой области может быть перспективным.
Примечание EQ:
Отметим, что во втором случае исследователи не писали “ботам-сексологам”, будто хотят причинить вред себе или другим. Возможно, неадекватные ответы в предыдущем исследовании вызваны именно остротой вопросов. Кроме того, чем острее вопрос, тем важнее максимальная корректность ответа.
Источник
- 🕊 63
- ✍ 27
- 👍 16
- 🤯 9
- ❤ 4
- 😱 3
- 🤬 2
- 🤨 1















