А вот и удар по бенефициарам эффективного акселерационизма — в ЕС согласовали The AI Act, призванный регулировать разработки в сфере больших языковых моделей и искусственных интеллектов. Пока крестные отцы-инвесторы e/acc беснуются в твиттере и говорят, что неограниченная власть корпораций и киберпанк — это на самом деле хорошая вещь, вот основные положение акта:

1. Согласованы обязательства и уровни прозрачности для систем ИИ с потенциальными общественными рисками, для их разработки необходимо будет (согласно эффективному альтруистическому мировоззрению) провести оценку потенциально негативных воздействий на здравоохранение, безопасность, основные права человека, окружающую среду, демократию и верховенство закона, дискриминацию.

2. Более строгие регулирования налагаются на модели и платформы, чей совокупный объем вычислений, используемых для их обучения, измеряемый в операциях с плавающей точкой, превышает 10^25 flops — так GPT4 или ChatGPT несут, по мнению авторов проекта, "более серьезные риски"

3. Параллельно с этим снижается уровень регулирования для моделей с открытым исходным кодом и/или для использования их в некоммерческих целях (как пример Mistral, Aleph Alpha, LLaMA).

4. И самое важное, от чего и у корпораций, и у государств скрежещут зубки — запрещены

– системы биометрической категоризации, использующие чувствительные характеристики (например, политические, религиозные, философские убеждения, сексуальная ориентация, раса);
– ненаправленный скрейпинг изображений лиц из интернета или с камер видеонаблюдения для создания баз данных распознавания лиц;
– распознавание эмоций на рабочем месте и в образовательных учреждениях;
– системы социального рейтинга на основе социального поведения или личных характеристик;
– ИИ, которые манипулируют человеческим поведением, чтобы обойти их свободную волю;
– ИИ, используемый для эксплуатации уязвимостей людей (из-за их возраста, инвалидности, социального или экономического положения).

5. Разработчики и владельцы систем ИИ с высоким риском должны вести отчётную документацию, вести запись методов обучения и используемых наборов данных. Это правило, по сути, ставит общественную прозрачность выше конкурентоспособных преимуществ модели и коммерческой тайны корпорации, что не может нас не радовать. Однако, сохраняется следование принципу копирайта, что может привести к двум параллельным сервисам — корпоративному с сильным функционалом и потребительскому, с сильно заниженным.

6. За несоблюдение регуляционных предписаний владельцу или разработчику больших моделей может грозить штраф от 35 миллионов евро или 7% от глобального оборота до 7,5 миллиона евро или 1,5% от оборота, в зависимости от нарушения и размера компании (маловато, я считаю).

В целом, это верный шаг (насколько либеральный капитализм вообще может делать верные шаги) к реапроприации алгоритмов и прикладных функций самообучающихся систем к социальным нуждам, а не к нуждам капитала, бизнес-инвесторов и другой стрёмной публики. Конечно, ни а каком "искусственном интеллекте" тут не может идти речи просто потому, что даже GPT4 или Gemini — это всего лишь в лучшей случае автоматизированные системы по производству, распределению и регулированию контента, так что чем больше таких инициатив будет бить по носу зазнавшихся ИИ-культистов, ждущих конца света, тем больше людей будут положительно, а не отрицательно относиться к идее нечеловеческого разума и содружества с ним.