Контекст: в США обсуждают запрет американским компаниям использовать китайские открытые модели, индустрия ответила открытым письмом в защиту open weights, а Anthropic обвинили в лоббировании запрета ради своего бизнеса. 27 июля Дарио Амодеи ответил постом в блоге.
Тезис короткий: Anthropic не лобировала запрет, хоть она и будет выгодополучателем. Модели без опасных способностей он называет общественным благом. Запрет на использование внутри США, по его же логике, по угрозе не бьёт — злоумышленник это не легально работающая американская компания. Зато конкуренцию такой запрет режет, что скажется негативно.
Что предлагается вместо:
👉 не продавать Китаю мощные чипы и оборудование, давить контрабанду
👉 бороться с промышленной дистилляцией, а не с открытыми весами как явлением
👉 обязательный safety-тест для всех достаточно мощных моделей, открытых и закрытых, с полным освобождением мелких моделей от стартапов и академии
Я не удивлен что так происходит и всё к тому и шло, что каждая страна будет ограничивать использование моделей только собственными решениями, если они у нее есть. Аналогия была и с техникой и другими товарами. Каким способом китайские модели не тренировались, но они уже на одном уровне по качестве, а и где-то обгоняют, решения OpenAI и Anthropic.
💬 Делитесь своими мнением касательно эффективности мер запрета и ограничений на использовании ИИ
🔗 Пост Дарио
#AI #OpenSource #Anthropic #Claude