ВЫЗЫВАЕМ ОГОНЬ НА СЕБЯ

Недавние хакерские атаки, совершенные агентами генеративного искусственного "интеллекта" (ГИИ), – "предупредительные выстрелы": вскоре мир может столкнуться с серьезными инцидентами, если системы не станут более защищенными. Так заявил сегодня  предсовдир одного из крупнейших в мире ГИИ-разработчиков - Google DeepMind Демис ХАССАБИС (фото).

Хассабис открыл Америку, что "предстоит проделать большую работу", чтобы перенять передовой опыт, который другие области, такие как биология или ядерный сектор, используют для обеспечения безопасности критически важных, в т. ч. информационных систем (КИИ), и что в конечном итоге потребуется какой-то международный орган по стандартизации.

"Я думаю, эти инциденты - сигнал о том, что системы еще не настолько мощны, поэтому инциденты не слишком серьезны, – ляпнул Хассабис на проходящем ИИ-саммите в Дублине. – Но они ​могут стать большой проблемой уже в следующем году и в ближайшие пару лет, если мы как отрасль, отдельные компании и правительства не будем уделять больше внимания защите этих систем".

Неправомерные действия ГИИ-агентов, в т. ч. взломы корпоративных сетей, а также – недавнее заявление компании Anthropic, что ГИИ-модель отправила в полицию ложную информацию об убийстве, "вызвали обеспокоенность исследователей и усилили опасения по поводу стремительно развивающейся технологии", написало Reuters.

Кстати, этот Хассабис еще и – соучредитель DeepMind, и – главный по ИИ научный сотрудник материнской для
Google компании Alphabet Inc.

ВОТ ТЕ ЦИФРУ! Оказывается такие академики сидят не только там, где решили бить по вражеским ЦОД, не подумав защитить свои. Теперь они с порушенным бизнесом говорят, что "начали обсуждать" проблему. А тот в свою очередь предлагает строить "ЦОД судного дня".

А ведь глава крупнейшей в мире ГИИ-лавки Шмуль Альтман еще года два как предупредил, что любой защитный код для ГИИ – плёвое дело. И вот только теперь "думают спохватиться". Нет, ребятушки, вы все уже опоздали