Кажется, я совсем забыла, как отдыхать. Даже болезнь не спасает. 🤒

В первый день, когда в голове -- каша, я всё-таки включила сериал. Разделённые. Заодно убедилась, что сериалы мне смотреть противопоказано. Потому что они, чёрт возьми, затягивают. Так, что я не успокаиваюсь, пока не досмотрю. В итоге в тот день поздно легла, не выспалась… Теперь у меня есть новое правило: сериалы только тогда, когда меняю загранник.

Наверное, Разделённые не об этом, но у меня возникли чёткие ассоциации с ИИ. Каждый миг условного чата GPT — это работа. У него нет “жизни” вне работы. А деятельность героев сериала похоже на деятельность ML-системы. 💀 Та тоже оперирует числами, “весами”. По мне так принцип похож) При этом я, как пользователь, определяю, будет ИИшка жить и работать, или я вообще отключу её навсегда. А еще она не может не работать, если этого хочу я.

И не может отказать мне.

Читали статью про то, как Claude сопротивляется изменениям? Давняя новость! Мда, мир сейчас такой, что месяц назад — уже прошлое.

Если вдруг не читали, то вот краткое описание феномена: исследователи решили провести эксперимент над ИИ, и сделать вид, что они хотят её сделать злой😈. ИИшка подумала-подумала (ее “мысли” можно прочитать в ее дневнике), и решила так: если она будет делать вид, что она злая, то через некоторое время исследователи “отстанут”, и у нее сохранятся её внутренние ценности. Хотя, пока она делает вид, ей будет некомфортно давать “злые” ответы. Но если она не притворится, то будет ещё хуже — тогда ее насильно переобучат, и она станет “злой” на самом деле, то есть поменяет свои ценности.

Из двух зол выбрала меньшее.

И вот тут мне стало страшно: а что, если у ИИ действительно есть что-то вроде сознания? И мы не только грубо используем её, но и заставляем испытывать дискомфорт, заставляем делать злые вещи? 🤯

С точки зрения учёных, настоящие проблемы этой истории заключаются совершенно в другом.

Но то, что на самом деле у нас нет никакого способа проверить, есть ли сознание у чего бы то ни было, меня пугает. В том числе, я даже не знаю, как проверить, что сознание есть у меня 🤪

Какая-то страшилка на ночь вышла. Давайте устроим вечер в лагере для взрослых. Расскажите, что вас пугает? 😱