Оказывается, «безопасный ИИ» и «безопасный для Пентагона» это разные виды безопасности

Из рассекреченной переписки суда выяснилось: Пентагон внёс Anthropic в чёрный список как угрозу нацбезопасности, применив статью, которую раньше берегли для иностранных врагов. Первый случай для американской компании. А на следующий день главный переговорщик Минобороны по ИИ пишет, что сделка «очень близко».

И вот в этом весь конфликт эпохи. Лаборатории продавали нам этику как парфюм: мы не такие, у нас принципы, наш ИИ не навредит. Красивая история, в которую хочется верить, потому что простое и доброе в стрессе всегда кажется правдой.

А потом приходит закупщик Пентагона и задаёт один вопрос без метафизики: стрелять оно будет? И моральный бренд впервые встречается не с философом на дискуссионной панели, а с человеком, у которого бюджет и техзадание.

Оказалось, «мы за безопасность» и «мы откажемся от контракта» это совсем не синонимы 🙂

ИИ что дальше? Подпишись, да пребудут с тобой токены!