Первая «законопослушная» AI-модель Европы

Швейцария запустила Apertus - первая в мире LLM национального уровня, где прозрачность и законность встроены в архитектуру (разработчики ETH Zurich, EPFL и Swiss National Supercomputing Centre).

👀 Посмотрим подробнее:
🔹модель построена в с учетом швейцарского законодательства о защите данных, швейцарского законодательства об авторском праве и обязательств по обеспечению прозрачности в соответствии с EU AI Act.
🔹доступна в двух версиях: 8B и 70B параметров, лицензия Apache 2.0 позволяет и коммерческое использование.
🔹модель обучалась только на публичных данных и впервые реализовала ретроактивный opt-out, т.е. если сайт позже запретил использование своих материалов, эти данные удалили даже из старых наборов.
🔹внедрили Goldfish Loss - новый метод обучения, чтобы модель не заучивала тексты дословно. Он минимизирует риск воспроизведения персональных данных или защищённых авторских материалов.
🔹использовано 1 811 языков на этапе обучения и 149 для дообучения. 40% данных не являются английскими. Поддержка редких языков вроде Romansh или африканских встроена в основу модели, а не добавлена «сверху».
🔹 проект максимально прозрачен: опубликованы веса модели, промежуточные чекпоинты, пайплайны очистки, код подготовки данных.
🔹 новый оптимизатор AdEMAMix делает обучение стабильнее, модель понимает до 65 000 токенов контекста и использует более эффективную архитектуру xIELU.

Модели доступны на Hugging Face.
Чат с моделью доступен на https://publicai.co/
Полный технический отчет здесь

Apertus задумывается как база, дальше планируются специализированные модели для медицины, образования и права. Для разработчиков может служить строительным блоком: чат-боты, системы перевода, образовательные приложения.
Швейцарцы продемонстрировали новый стандарт, где технологичность не отделяется от правовых и этических принципов, где государство способно конкурировать с Big Tech, создавая инфраструктуру «ИИ как общественное благо».

❓Будет ли это единичный случай или новая волна собственных национальных и региональных AI-моделей, отражающих местные ценности и законы, покажет время.

Делитесь мнением о тесте модели в комментариях.
#UXWatch #AIShelf
————
@pattern_ai