💬 Мнение о текущем моменте в ИИ
Чудесный исследователь и математик Михаил Бурцев в одной из своих социальных сетей поделился мнением относительно дальнейшего развития ИИ, в частности посоветовал посмотреть видео с комментарием от англоязычного ML-инженера Yannic Klicher (о таких людях вам не расскажут в пабликах про "попсовый" ИИ), которое было выпущено после релиза GPT-5.
Yannic Klicher - мужик серьёзный: получил PhD в ETH Zurich (этот ВУЗ находится в мировом рейтинге на 7м месте) и является CTO в проекте DeepJudge
Ну и на него ссылается Михаил Бурцев, работающий в London Institute for Mathematical Sciences 🔭
В общем, есть основания прислушаться)
Итак, какие мысли у Yannic:
1) Эра достижений, ломающих границы, окончена / текущий путь нас к AGI (сильный искусственный интеллект) не приведет
Мы медленно движемся к эре Samsung Galaxy, где каждая новая языковая модель, будет отличаться от предыдущей точеными техническими характеристиками (чуть больше камера, чуть шире экран, чуть больше памяти и т.д.), но не концептуальным прорывом.
2) OpenAI использует синтетические данные для обучения новых моделей, а также reinforcement learning, а это значит, что они генерят данные под конкретные use cases (скорее всего это программирование, бенчмарки). Это подтверждается тем, что их недавно выпущенные open-source модели очень сильно галюционируют в ряде случаев связанных с общими знаниями, но при этотм очень и очень хороши в следовании инструкциям.
___
📌 О чем это нам говорит?
Меняется парадигма.. Если еще 1-1,5 года назад считалось, что "очень много GPU"+" много ГВт" = "AGI", то возможно, проанализировав имеющиеся данные, экстраполяцию и динамику emergent abilities у LLM (кстати интересно было бы такой reserach посмотреть) пришли к выводу, что такой подход не достаточен для достижения "AGI"... А чтобы понять какой подход сдвинет уже видимые на горизонте барьеры, необходимы ведущие исследователи, которы понимают "как есть" и могут предложить "как может быть"..Именно поэтому "многомиллионная" битва за GPU, сменилась на "многомиллионную" битву за таланты
Post #451
665