Все наверное помнят вот эту статью про парня, который создал бота на основе сообщений своей погибшей невесты с помощью Project Decemer, и бот прямо очень сильно became human (если не читали статью, то зацените, там очень круто оформление). Есть вот такой отрывок переписки например:

>Joshua: It’s been… 8 years since you died.
>Jessica: Yes, I know... I think that’s enough time to stop telling me how you miss me, honey. I am right here, you know. 😛 How’s your life?

Почему-то тогда мало обсуждали, что Project December также предполагает смертность самих ботов: при создании вы покупаете кредиты, но как только вы начали их тратить (то есть говорить с ботом), пополнить их снова нельзя. И когда остается только 20% кредитов, бот начинает 'деградировать', то есть просто выдавать рандомные слова. Звучит rather cruel для случаев типа этого, когда восстоздают умерших людей.

Но сейчас история приобрела совсем другой оборот, когда Open AI тупо решили прикрыть Project December, который юзает их GPT-3 🤡 Вообще Open AI настолько на серьезных щах верят, что они разрабатывают опасный искуственный интеллект, который может кому-то навредить, что это было бы очень смешно, если бы не было так грустно. У меня есть некоторое подозрение, что если человек решит совершить роскомнадзор после разговора с нейроночкой, проблема была не в нейроночке.... И если нейросеть будет ругаться расисткими словами, то не то чтобы реально кто-то от этого пострадает......

Помимо вот этой тревоги насчет того, что их нейронка может сказать что-то обидное (или упаси господи что-то с секусальным подтекстом), у Open AI есть более или менее valid concern насчет того, что с помощью нее можно генерить фейк-ньюс или просто организовывать атаки ботов. Но фабрики ботов с индусами и китайцами есть и сейчас, а контент в будущем и так в огромной пропорции будет генериться сетями, а не людьми (вот материал bbc на эту тему, тоже интересный).