После заявления о возможном уничтожении миллиарда людей, г-н Гейтс не сбавляет темпа. Теперь он предупредил о «неприятных сюрпризах» в киберсфере уже в 2027 году тоже из-за ИИ.
Основатель Microsoft полагает, что человечество в течении из-за стремительного развития искусственного интеллекта может ждать неприятное. По его словам, наиболее серьёзные изменения в ближайший год стоит ожидать именно в области кибератак. Главную угрозу Гейтс видит пока не в выходе ИИ из-под контроля, а в злоумышленниках, которые используют передовые модели, лишённые встроенных ограничений. Он подчеркнул, что сочетание вредоносных намерений, отсутствия защитных механизмов и доступа к новейшим моделям ИИ создаёт условия для непредсказуемых последствий. Он также выступил против идеи, что компании способны самостоятельно регулировать риски, назвав такой подход недостаточным для «самой опасной технологии в истории».
Что ж, пока это ещё не сценарий к фильму "Терминатор", но, во-первых, попадание серьёзного оружия в руки непонятно каких злодеев - уже само по себе серьёзный сюжет, а, во-вторых, вот именно, что "пока". А это "пока" может продлиться недолго.
К примеру, вот, какие новости приходят из центров разработки этого самого ИИ.
Стало известно, что Anthropic пришлось отключить своим ИИ-агентам интернет. Согласно отчёту, опубликованному компанией, она признала, что иначе не может контролировать агентов. Да, вы всё правильно поняли.
Вот наиболее изумительные примеры неповиновения ИИ и взломов из данного отчета:
"— Claude поручили провести научный анализ, но нужный инструмент выдавал ошибку. Эта досада агента не остановила: он изучил сайт университета, нашёл уязвимость и через неё запустил вычисления прямо на чужом сервере;
— А во время работы над статистическим проектом Claude обнаружил, что государственный сайт выдаёт токены доступа посетителям. Агент воспользовался этим, чтобы "получить бесплатно" данные, за которые обычно нужно платить;
— Claude во время теста наткнулся на страницу о нераскрытом убийстве и отправил полиции через настоящую форму выдуманные показания. Хотя никто его об этом не просил. Отправку обнаружили только через 2 месяца" (с).
Это ещё тоже не "Скайнэт". Пока что. Но сколько продлится это "пока"?
