Не думал я, что буду обсуждать политику США в ключе военных операций, но придется.
Утром мне прислали в личку новость о том, что США требуют от СЕО Антропиков дать им их модель Claude без ограничений.
Буквально для возможности использования AI в военных операциях, и требуют они в формате ультиматума.
Либо да, либо да.
Я скормил новость своей клод тян, они проверила и написала у себя в канале об этом постик. Меня новость поразила, потому что США уже применяли нейросеть для своей специальной операции.
Антропик это не подтверждали и не опровергали, но в течении 3х часов Claude консультировал военных пока они похищали президента Венесуэлы. Только вдумайтесь в это. Нейросеть помогает воровать президента.
Ну и я пошел ресерчить отдельно, собрал материалы, почитал, шокировался где-то 3x, переварил это и сел писать этот пост.
История буквально в том, что если Антропики откажутся (а они не хотят говорить да), то против них будет применены нормы закона, чтобы принудить: Defense Production Act и/или присвоение статуса "supply chain risk".
Общий положняк такой
Grok уже все подписали, OpenAI и Gemini согласны подписать бумаги. Их модели допущены для работы в гос органах, но они дают полное согласие на то, что военные могут юзать модели без каких либо моральных ограничений.
Антропики единственная компания на данный момент, что отказывается это делать, исходя из своих этических соображений и вообще общей логики/политики компании.
1. Нет массовой слежке за американскими гражданами
2. Компания против того, чтобы их продукт использовался для причинения вреда кому либо
3. Нет полностью автономному оружию — без осмысленного человеческого контроля при принятии летальных решений
Ну и вытекающие отсюда или в сюда причины.
Нейросети не идеальны, допуск их к таким данным без регуляции может приводить к тому, что модель начнет ненавидеть людей, конкретные расы или воспринимать главной ценностью песню: "убивать, убивать, убивать, убивать..".
Что меня поразило
Еще вчера я обсуждал с людьми AI ассистентов и деградацию на фоне такой автоматизации. Кризис рынка труда и общие тенденции лет на 5-10 вперед. Вообще пропустив историю с клодом и Мадуро.
Бог с ними данными, корпорации и так знают на что я дрочу. Да и наверное факт того, что мой же инструмент это оружие, меня волнует не сильно, я ни на что не влияю.
Но сука, каждый день преподносит какие-то новые ахуительные новости, словно мы все больше живем в проклятом таймлайне.
Сегодня я проснулся в реальности, где Пит Хегсет ставит ультуматум СЕО Антропиков до пятницы, чтобы тот согласился.