ГДЕ ВСТРЕТИШЬ И-ИНТЕЛЛЕКТ
там его и убей (воскресное чтение)

На уровне философских концепций люди давно едины во мнении, что главный враг и угроза человечеству –​​​​​​​ сам человек. Большинство катастрофических сценариев гибели земной цивилизации –​​​​​​​ рукотворные (техногенные).

Теперь официально заявили, что главный смысл и цель генеративного искусственного "интеллекта" (ГИИ) –​​​​​​​ защита от него самого. А чего вы его хотели от сверх-человеческого "разума" (SI)?!

На неделе крупнейший мировой ГИИ-разработчик, он же –​​​​​​​ ​​​​​главный ГИИ-паникёр –​​​​​​​ фирма Anthropic выступила застрельщиком нового индустриального консорциума по защите от угроз ГИИ предприятий реального сектора. Средствами самого ГИИ.

В объединение вошли известный мировой киберзащитник CrowdStrike, крупнейший японский ИТ-конгломерат Hitachi и еще 9 компаний. Главная цель –​​​​​​​ защита от ГИИ- атак и галлюцинаций критически важных для человека систем реального сектора, начиная с энергетики, водоснабжения и транспорта. При этом Anthropic ограничивает собственную ответственность за практическую реализацию инициативы скромной суммой в $1000.

Anthropic намерена теперь предоставлять свои передовые ГИИ-модели Claude только в пакете с услугами инженеров и исследователей угроз. Речь –​​​​​​​ об электросетях, водоканалах и транспортных сетях, объявили в четверг.

Программа поддержки ГИИ-защитников КИ –​​​​​​​ первая часть новой долгосрочной кибермиссии Anthropic. Вторая –​​​​​​​ OSS Scanner –​​​​​​​ бесплатный сервис, сканирующий системы на базе открытого исходного кода и передает результаты разработчикам без проверки человеком. Фича периодически сканирует критические систем самыми мощными ГИИ-моделями Anthropic, в т. ч. –​​​​​​​ Claude Mythos. В отчетах предоставляя доказательства, объяснения и (иногда) предлагаемые исправления.

Accenture, Booz Allen, CrowdStrike, Deloitte и Dragos присоединились к проекту партнерами-основателями. Об участии заявили также Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC и Rockwell Automation. В Anthropic подчеркнули, что это –​​​​​​​ консалтеры, безопасники и вендоры, на которых уже полагается промышленность. Некоторые из них уже используют Claude для борьбы с уязвимостями.

Программа нацелена на контроллеры, ПО для управления и ключевые промсети, которые десятилетиями обеспечивают работу важнейших предприятий –​​​​​​​ поставщиков коммунальных услуг. Эти критические ресурсные компании часто не могут отключить свои ИКТ- и прочие промсистемы для установки обновлений: даже известные уязвимости остаются открытыми годами.
"Критическую инфраструктуру сложно защитить по многим направлениям, где ГИИ бессилен", – черным по белому значится в заявлении Anthropic. Т. е. от ударов военных БПЛА – нет.

Anthropic не пояснила, кто будет оплачивать вычресурсы и получат ли партнеры бесплатный доступ к моделям, сообщил Axios. Неясно также, как партнеры будут тестировать исправления, не нарушая работу критически важных поставщиков.

В июне Anthropic запустила похожую программу для властей штатов США. С тех пор она, якобы, предоставила модели Claude и техподдержку более чем половине штатов. В сентябре OpenAI выделила им $1 млрд на киберзащиту для коммунальных служб и местных банков. Там ГИИ-модели выявили более 29 тыс. уязвимостей. ГИИ-лавка смогла проверить только 6 тыс. Но заявила, более 90% брешей –​​​​​​​ реальны.

В соглашении об оказании новой услуги Anthropic указано, что отчеты могут неверно оценивать серьезность уязвимостей или предлагать исправления, которые сами приводят к сбоям. Сопровождающие ГИИ-спецы обязуются проверять отчеты, но ответственность Anthropic – $1000. "По нашим прогнозам, через два года ГИИ будет на стороне защиты", – успокаивают в Anthropic. Но кто им поверит на слово.

ВОТ ТЕ ЦИФРУ! Между обнаружением уязвимости и ее устранением в реальном секторе экономики часто проходили месяцы, а в случае с промсистемами, работающими непрерывно, исправлений ждут десятилетиями. Ничего – подождут еще. Пока ГИИ только усугубляет риски для критической инфраструктуры