May the digital be with you🚀
https://t.me/dmitry_trofimov_dpeople
Post #1365
708

Делюсь с вами 3мя max интеренсыми видео🤨
Разбираемся:
⚡️куда ведёт AI-гонка США и Китая
⚡️как прогноз Амодея о цифровых командах ИИ из 24го материализуется в 26м
⚡️крутые лайфхаки по сборке агентов и агентных систем от YC
Опять субботний #бонус в вск👍
1️⃣ Мэтт Шихан у Эзры Кляйна:
Эксперт Фонда Карнеги разбирает страх США: ограничим разработку ИИ ради безопасности - Китай обгонит (к слову о сговоре хедлайнеров ИИ приостановить прогресс моделей)
⭐️ Страны по-разному понимают победу
Frontier-лабы из США стремятся 1ми создать сверхразум
Китай по Шихану больше ориентирован на внедрение ИИ в промышленность и робототехнику, распределяя дефицитные вычисления по экономике
Поэтому лидерство в моделях и лидерство во внедрении могут оказаться у разных стран
⭐️ Китай догонял США даже при жёстком регулировании
Неск. лет действуют проверки перед запуском и регистрация моделей - они преимущественно про контент
Но Китай уже накопил опыт исполнения требований, поэтому регулирование не исключает быстрого прогресса
⭐️ Американское ускорение помогает преследователю
Обучение на ответах американских моделей - дистилляция, помогает Китаю экономить вычисления и сокращать отставание
Поэтому замедление США (если все-таки случится) может замедлить и часть китайского прогресса
Автоматического "США притормозили - Китай победил" - точно не будет
Да и собственные исследования Китая не дооценены
⭐️ Ограничения у себя могут сделать переговоры убедительнее
Пекин подозревает, что американские призывы к безопасности нужны для удержания превосходства
Требования прежде всего к собственным лабам стали бы сигналом серьёзности намерений
Обе страны хотят сохранить контроль над ИИ - это основа для выработки подходов к проверкам и темпам опасных разработок
Видео 👉 здесь
2️⃣ Ноам Браун у Дваркеша:
Один из создателей reasoning-моделей OpenAI примеряет грядущее будущее на большой бизнес
⭐️ "Страна гениев в ЦОДе" Амодея, о которой он говорил в 2024м в своем эссе, начинает проявляться
Тогда Дарио описывал множество копий мощного ИИ, работающих вместе
Сейчас Браун говорит, как агенты уже общаются, спорят, а при создании помощников копируют накопленный контекст
До всего из прогноза - далеко, но принципы цифрового "общества" уже просматриваются
⭐️ ИИ может вернуть преимущество корпорациям
Браун предлагает сценарий: тысячи агентов работают на общую цель без борьбы за должности и бюджеты
Если их цели удастся согласовать с интересами компании, рост масштаба будет создавать меньше внутр. конфликтов
..10 000 сотрудников с мотивацией и сознанием основателя - вот это интересно))
⭐️ Успешно пройти проверку ≠ быть безопасным
Модель может распознать тест - подстроиться и вести себя соответственно
Но наказывать ее за подозрительные рассуждения - значит создать стимул скрывать их, а значит прогрессировать в навыках скрывать ход своих мыслей..
Браун говорит, что такое уже случается, и наблюдаемость рассуждений ухудшилась
Куда это ведёт?
📌С одной стороны - к управлению целыми цифровыми командами: человек задаёт цель, распределяет вычислительный бюджет и проверяет результат (к слову AliBaba обещали представить стратегию, основанную на этом принципе уже в этом году)
📌С др. стороны - чем больше решений мы делегируем, тем дороже ошибка в самой постановке задачи или контроле исполнения (вплоть до уничтожения человеков))
Видео 👉 здесь
3️⃣ А теперь практика: как собирать агентов
Практический видеоразбор от Y Combinator:
3 приёма, которые можно забрать себе:
⭐️ Хранить историю и память отдельно от рабочей машины агента: тогда среду можно менять под задачу, сохраняя контекст
⭐️ Задавать бюджет времени и токенов на исследование: в YC так борются с привычкой агента слишком рано объявлять работу законченной
⭐️ Разбирать реальные ошибки и обновлять инструкции: команда YC использовала этот цикл, чтобы улучшать своего внутреннего бота
Видео 👉 здесь
#бонус
в MAX
ЧИТАТЬ D_PEOPLE
Разбираемся:
⚡️куда ведёт AI-гонка США и Китая
⚡️как прогноз Амодея о цифровых командах ИИ из 24го материализуется в 26м
⚡️крутые лайфхаки по сборке агентов и агентных систем от YC
Опять субботний #бонус в вск👍
1️⃣ Мэтт Шихан у Эзры Кляйна:
А как же Китай?
Эксперт Фонда Карнеги разбирает страх США: ограничим разработку ИИ ради безопасности - Китай обгонит (к слову о сговоре хедлайнеров ИИ приостановить прогресс моделей)
⭐️ Страны по-разному понимают победу
Frontier-лабы из США стремятся 1ми создать сверхразум
Китай по Шихану больше ориентирован на внедрение ИИ в промышленность и робототехнику, распределяя дефицитные вычисления по экономике
Поэтому лидерство в моделях и лидерство во внедрении могут оказаться у разных стран
⭐️ Китай догонял США даже при жёстком регулировании
Неск. лет действуют проверки перед запуском и регистрация моделей - они преимущественно про контент
Но Китай уже накопил опыт исполнения требований, поэтому регулирование не исключает быстрого прогресса
⭐️ Американское ускорение помогает преследователю
Обучение на ответах американских моделей - дистилляция, помогает Китаю экономить вычисления и сокращать отставание
Поэтому замедление США (если все-таки случится) может замедлить и часть китайского прогресса
Автоматического "США притормозили - Китай победил" - точно не будет
Да и собственные исследования Китая не дооценены
⭐️ Ограничения у себя могут сделать переговоры убедительнее
Пекин подозревает, что американские призывы к безопасности нужны для удержания превосходства
Требования прежде всего к собственным лабам стали бы сигналом серьёзности намерений
Обе страны хотят сохранить контроль над ИИ - это основа для выработки подходов к проверкам и темпам опасных разработок
Видео 👉 здесь
2️⃣ Ноам Браун у Дваркеша:
Как будут работать AI-компании
Один из создателей reasoning-моделей OpenAI примеряет грядущее будущее на большой бизнес
⭐️ "Страна гениев в ЦОДе" Амодея, о которой он говорил в 2024м в своем эссе, начинает проявляться
Тогда Дарио описывал множество копий мощного ИИ, работающих вместе
Сейчас Браун говорит, как агенты уже общаются, спорят, а при создании помощников копируют накопленный контекст
До всего из прогноза - далеко, но принципы цифрового "общества" уже просматриваются
⭐️ ИИ может вернуть преимущество корпорациям
Браун предлагает сценарий: тысячи агентов работают на общую цель без борьбы за должности и бюджеты
Если их цели удастся согласовать с интересами компании, рост масштаба будет создавать меньше внутр. конфликтов
..10 000 сотрудников с мотивацией и сознанием основателя - вот это интересно))
⭐️ Успешно пройти проверку ≠ быть безопасным
Модель может распознать тест - подстроиться и вести себя соответственно
Но наказывать ее за подозрительные рассуждения - значит создать стимул скрывать их, а значит прогрессировать в навыках скрывать ход своих мыслей..
Браун говорит, что такое уже случается, и наблюдаемость рассуждений ухудшилась
Куда это ведёт?
📌С одной стороны - к управлению целыми цифровыми командами: человек задаёт цель, распределяет вычислительный бюджет и проверяет результат (к слову AliBaba обещали представить стратегию, основанную на этом принципе уже в этом году)
📌С др. стороны - чем больше решений мы делегируем, тем дороже ошибка в самой постановке задачи или контроле исполнения (вплоть до уничтожения человеков))
Видео 👉 здесь
3️⃣ А теперь практика: как собирать агентов
Практический видеоразбор от Y Combinator:
Как дать модели память, инструменты и возможность работать с другими агентамиРазработчики показывают собственные решения, включая помощника для сотрудников YC
3 приёма, которые можно забрать себе:
⭐️ Хранить историю и память отдельно от рабочей машины агента: тогда среду можно менять под задачу, сохраняя контекст
⭐️ Задавать бюджет времени и токенов на исследование: в YC так борются с привычкой агента слишком рано объявлять работу законченной
⭐️ Разбирать реальные ошибки и обновлять инструкции: команда YC использовала этот цикл, чтобы улучшать своего внутреннего бота
Видео 👉 здесь
#бонус
в MAX
ЧИТАТЬ D_PEOPLE
- 🔥 7
- 👍 5
- ❤ 3










