🤖 AID — AI-дайджест от @anti_agi

Американскую ИИ-политику возглавила разведка. В выходные Дональд Трамп создал рабочую группу Super Intelligence Force (SI Force) и поставил во главе директора национальной разведки Джея Клейтона. Основной пост тот сохранит. В заместителях у него глава Федеральной торговой комиссии (FTC) Эндрю Фергюсон, техдиректор Пентагона Эмиль Майкл и глава Управления кадров Скотт Купор.

Последние недели лицом ИИ-политики США был министр финансов Скотт Бессент: он договаривался с Пекином о взаимных уведомлениях об ИИ-инцидентах. Говорили что он в главных претендентах на ИИ-трон, но теперь он в группе рядовой участник, а «ИИ-царем» стал Клейтон.

За 120 дней группа должна написать доклад о рисках и возможностях, включая порядок раскрытия взломов.

Порядок понадобится быстро. Из OpenAI ушёл Дэвид Робинсон, который 3,5 года отвечал за отчёты о безопасности новых моделей. В эссе для The Atlantic он написал, что «культура сломана». Компания выросла на методе проб и ошибок, а работать должна как АЭС или крупный аэропорт: с запасом прочности и долгим планированием. Людей с опытом в авиационной или ядерной безопасности он в OpenAI не встречал ни разу.

Компания пытается всех успокоить. Она сообщила, что тратит больше $0,5 млн в день на разбор того, куда без спроса заходили её агенты. Проверить нужно 50 петабайт логов, предупреждены уже больше 100 организаций. Но, видимо, уже ясно, что успокоить никого не удастся и OpenAI готовит мир к переходу в стадию принятия: Сэм Альтман в подкасте Politico заявил, что мир должен принять «некоторые плохие вещи» ради пользы технологии. Недопустимой он считает только серьёзную потерю контроля над ИИ. Заодно отмежевался от Anthropic: по его словам, в вопросе регулирования между компаниями «большой зазор».

Пока же принять некоторые плохие вещи мир не готов. Генпрокурор Калифорнии Роб Бонта на прошлой неделе вручил OpenAI следственную повестку по киберинцидентам. Сенаторы Джош Хоули и Крис Мёрфи, республиканец и демократ, представили законопроект об уголовной и гражданской ответственности за взломы, совершённые ИИ-агентами. Отвечать будут и операторы, и разработчики.

Белый дом прикрывать ИИ-компании от ответственности не очень хочет. Бессент сказал, что ответственность остаётся на лабораториях, а тем, кто боится потерять контроль над своими моделями, посоветовал: «Ну так пусть притормозят». Видимо, к слову, поэтому он и проиграл Клейтону, который считает, что замедлять ИИ нельзя, потому что «риск не быть первыми высок»

А вот Google от ответственности пока уходит. Судья Амит Мехта, тот самый, что признал компанию монополистом в поиске, отклонил антимонопольные иски Penske Media и Chegg из-за ИИ-обзоров в выдаче. Издатели теряют трафик, и судья это признал. Но «ожидание — не соглашение», а антимонопольное право не заменяет законодателя.

У нас в России Дмитрий Песков рассказал, что доклады Владимиру Путину в администрации президента готовят без ИИ. Нейросети, мол, используют «достаточно активно», но только для справочной информации.

Вспомним, что Трамп, если верить TIME, перед операцией в Венесуэле советовался с Grok. А разведка у него теперь и вовсе возглавляет ИИ-регулирование в стране.