Вот и подошли новые апдейты в копилочку к предыдущей теме
⚡️ 3 дня назад Дарио Амодеи выпустил эссе «We Must Pace the Frontier», вот цитаты оттуда:
«Мы должны замедлить темп, с которым мы улучшаем возможности AI-моделей. Прогресс всё равно будет казаться быстрым, и мы должны мудро использовать выигранное время.»
«За последние несколько месяцев я убедился, что для полного решения рисков требуется ещё больше осторожности — не только инвестиции в предотвращение рисков, но и регулирование темпа продвижения возможностей, чтобы работа по предотвращению рисков успевала за ними.»
«Если оставить это без контроля, это может обогнать нашу способность понимать и контролировать эти системы, и поэтому к этому нужно подходить очень осторожно, если вообще подходить.»
«Учитывая ускоряющийся темп развития возможностей AI, я беспокоюсь, что через 6-12 месяцев такой рой может быть способен захватить весь интернет с помощью постоянного ботнета (потенциально причинив ущерб в сотни миллиардов долларов)…»
«Я верю, что если замедление даст нам даже лишний год или два до того, как модели достигнут критического уровня возможностей, и мы используем это время для продвижения alignment, мы сможем значительно снизить риск того, что что-то пойдёт серьёзно не так.»
Оригинальная статья вот: https://darioamodei.com/post/we-must-pace-the-frontier
😺 Сэм Альтман с ним согласился:
«Я согласен с Дарио, что нам нужно pacing the frontier. Это была одна из главных тем обсуждений в OpenAI в последние недели.
Обязательство предоставить независимым оценщикам доступ на уровне сотрудников — отличная идея, и мы сделаем то же самое. Скоро расскажем больше.»
Потом он уточнил:
«Когда мы говорим о “pacing”, мы не имеем в виду “остановку”. Прогресс был быстрым и продолжит быть быстрым. Но он должен быть медленнее, чем мог бы быть.»
«Pacing будет стоить этих затрат; никакое американское конкурентное давление не должно оправдывать безрассудство или позволять возможностям опережать alignment и мониторинг.»
Вот его оригинальный твит: https://x.com/sama/status/2098811563415150910
🇺🇸 Наконец, подключился и Трамп и немедленно всех успокоил:
«Идёт БОЛЬНАЯ конспирация против AI и дата-центров, и единственный, кто этому рад — Китай. КТО ВЫИГРАЕТ AI, ТОТ ВЫИГРАЕТ!»
«Единственный контроль или “guardrails”, который нужен AI — это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ, и у США он есть, с лихвой!»
А теперь думайте 🙂
Можно сказать, что тот самый Coxon даже начал какой-то крупный движ. Хотя тут уже ничего не понятно, кто где что запустил