⚡️️ Claude сдал полиции девушку, которая юзала его как дневник.

30-летняя жительница Флориды написала Claude, что собирается устроить стрельбу в управлении шерифа, а на следующий день сообщила, что купила пистолет.

Системы безопасности Anthropic заметили угрозу, переписку проверили сотрудники компании и передали информацию полиции. Девушку нашли и задержали. На допросе она сказала, что воспринимала Claude как личный дневник.

Прослушка вышла на относительно новый уровень. И кажется, чем популярнее становятся нейронки, тем чаще мы будем видеть такие истории. Очень двоякие чувства у меня по этому поводу. С одной стороны, да, это безопасность, с другой стороны, мы как в шоу «За стеклом».

Нас подслушивали и до нейросетей. Все данные хранятся на серваках: рост, вес, голос, маршрут до работы, что ты ешь на завтрак, как называешь близких. Это называют «цифровым следом», хотя след обычно остаётся позади тебя. А здесь данные собираются вокруг тебя постоянно. Я представляю это как миллиарды точек в пустоте.

Стоит о чем-то сказать — алгоритмы тут же подсовывают нативную рекламу в любой соцсетке. Из техники можно доверять разве что старой газовой плите, и то не факт.

А с нейросетями такая цифровая слежка стала глубже и точнее. Страхи, желания, сомнения — всё это позволяет создать не только внешнюю атрибутику, но и полностью оцифровать личность, скопировать её, присвоить.

Это ощущается куда страшнее, чем заява в полицию на ПОТЕНЦИАЛЬНОЕ преступление.