💬Когда у злоумышленников есть новейшие модели ИИ и нет никаких защитных механизмов, именно тогда в течение следующего года нас может ждать множество неприятных сюрпризов — прежде всего в сфере кибератак, — заявил сооснователь Microsoft в интервью CNN.
По его словам, злоумышленники могут угрожать атаками, требуя деньги, или создавать сбои, влияющие на фондовый рынок.
При этом глава OpenAI Сэм Альтман имеет другую позицию. В начале октября он заявил, что не стал бы обещать, что компания не допустит крупных взломов и других негативных последствий злоупотребления ИИ. По его мнению, люди с помощью технологий будут делать гораздо больше хорошего.
Все это происходит на фоне соглашения о контроле над ИИ: крупнейшие IT-компании США — Google, Anthropic, Meta (признана в России экстремистской организацией и запрещена), OpenAI, xAI и Nvidia —
подписали
совместное заявление вместе с президентом США Дональдом Трампом. Теперь компании несут ответственность за безопасную разработку технологий и должны внедрить надежные внутренние процессы и средства контроля, чтобы гарантировать предсказуемое поведение моделей. Для этого предусмотрена четырехуровневая система контроля и аудита.
😀 Все эксперты здесь и в Макс