Министерство торговли США ведёт список технологий, экспорт которых запрещён по соображениям нацбезопасности. И скоро в него могут попасть модели искусственного интеллекта.
В последнее время особое опасение вызывают так называемые «пограничные модели» (от англ. frontier) — словосочетание стало особенно популярным среди американских чиновников. Оно означает модели, которые при дальнейшем развитии могут стать передовыми и предоставить человечеству опасные возможности — будь то создание хорошо таргетированной дезинформации или биологического оружия.
Интересно, что экспорт тех же чипов ИИ запрещали по другой причине: из-за возможности применения в военных технологиях.
Теперь же некоторые эксперты призывают не только запретить экспорт этих технологий, но и установить обязательное лицензирование моделей перед публичным релизом.
И хотя Microsoft, Google, OpenAI и Anthropic даже запустили Frontier Model Forum для обсуждения вопросов безопасности ИИ, многие игроки рынка предпочитают обходить тему жесткого регулирования стороной. Запреты, которые обсуждаются «наверху», могут поставить крест на открытом исходном коде и технологическом обмене. Тем не менее, на словах компании готовы сотрудничать:
- в DeepMind считают, что «акцент на безопасности имеет важное значение для ответственного внедрения инноваций»;
- в Anthropic заявили, что модели следует тестировать перед запуском, коммерческим или некоммерческим, и что определение подходящих тестов является наиболее важной задачей для правительства, бизнеса, научных кругов и общества в целом;
- в Microsoft верят, что правительство должно играть важную роль в разработке искусственного интеллекта, чтобы она была безопасной, подотчетной и заслуживающей доверия.
Что смущает в планах запретить экспорт ИИ-моделей:
1️⃣ Запрет даст преимущество крупным компаниям, продающим доступ по подписке. Если под запрет попадёт и открытый исходный код, это закроет небольшим бизнесам возможность создавать свои решения на основе моделей, размещенных в открытый доступ.
2️⃣ Неизбежно запрет размещения кода в открытый доступ приведёт к замедлению технологического прогресса. А США ведь хотят оставаться лидерами в сфере ИИ, так?
3️⃣ Обмен знаниями между США и Китаем долгие годы помогал развитию ИИ. Жалко будет это потерять. Например, остаточная сеть ResNet, сыгравшая важную роль в развитии современного ИИ, была создана сотрудниками Microsoft в Китае.
__________________________
И всё же, будем честны, создание биологического оружия нейросетью — крайне маловероятный и очень далёкий сценарий. Зато подобный алармизм хорошо отвлекает от реальных проблем генеративного ИИ.