Это не сюжет для нового сезона «Черного зеркала». Это реальность, в которой мы уже живем. На днях ИИ спас жизнь 8-летнему пацану в Бразилии. Причем спас от человека, который должен был его защищать, — от собственного отца.
История дикая. 36-летний фермер два месяца методично выпытывал у ChatGPT, как профессионально отравить человека и обставить все как самоубийство. Мотив — чистый цинизм: мужик просто не хотел платить алименты. Он думал, что общается с бездушной коробкой, которая покорно выдаст ему рецепт идеального преступления. Не выдала.
😎Как сработал цифровой щит?
В OpenAI вшиты жесткие протоколы безопасности. Когда запросы пользователя перешли черту «критической угрозы жизни», алгоритм не просто выдал стандартную ошибку. Он молча выкинул красный флаг в службу безопасности.
Дальше включилась автоматика и международная координация👇👇👇