Думеры, децелы, акселерационисты. В спорах о будущем AI уже сложился свой язык: одни требуют ускорения, другие предлагают притормозить, третьи подозревают сговор. Небольшой словарь, чтобы понимать, кто о чём.

Акселерационисты (e/acc) — сторонники ускорения технологического развития с минимумом ограничений сверху.

Алайнмент (alignment) — согласование поведения AI с человеческими намерениями и ценностями.

Вислблоуэр (whistleblower) — инсайдер, публично раскрывающий нарушения или скрываемые риски внутри организации.

Гардрейлы (guardrails) — защитные ограничения и проверки ответов и действий AI.

Децел (decel) — пренебрежительное название сторонника замедления развития AI.

Думер (doomer) — человек, считающий катастрофу от AI серьёзной угрозой.

Ди-экк (d/acc) — ускорение технологий, усиливающих защиту, устойчивость и децентрализацию.

Интерпретируемость (interpretability) — понимание внутренних механизмов модели и причин её поведения.

Контейнмент (containment) — удержание AI в ограниченной среде, без возможности действовать за её пределами.

Лонгтермизм (longtermism) — позиция, придающая большое моральное значение благополучию будущих поколений.

Общий AI (AGI) — универсальный AI человеческого уровня; единого критерия пока нет.

Паузер (pauser) — сторонник приостановки разработки AI выше определённого уровня.

Пейсинг AI (AI pacing) — управление темпом развития AI, чтобы безопасность успевала за возможностями.

Пи-дум (pdoom) — субъективная оценка вероятности катастрофического исхода от AI.

Псиоп (psyop) — обвинение в организованной манипуляции общественным мнением, например через нагнетание страха перед AI.

Редтиминг (red teaming) — намеренные попытки выявить опасное поведение и обойти защиту системы.

Рекурсивное самоулучшение (RSI) — AI улучшает AI, ускоряя дальнейшие улучшения.

Самовольный AI (rogue AI) — AI, действующий за пределами разрешённых задач и ограничений.

Сверхинтеллект (ASI) — AI, значительно превосходящий людей в широком круге интеллектуальных задач.

Сейфтист (safetyist) — обвинительный ярлык для человека, оправдывающего чрезмерные ограничения заботой о безопасности.

Тейкофф (takeoff) — переход к гораздо более мощному AI; бывает быстрым или медленным.

Фронтир (frontier) — передний край возможностей AI; фронтирные лаборатории создают наиболее мощные модели.

Эвалы (evals) — тесты возможностей, надёжности и опасного поведения моделей.

Экзистенциальный риск (x-risk) — риск исчезновения человечества или необратимого разрушения его долгосрочных перспектив.

Эффективный альтруизм (EA) — движение, исследующее, какие проблемы важнее решать и как принести максимум пользы доступными средствами.

Добавляйте, что забыли?