Ноам Браун, ведущий научный сотрудник OpenAI, в своем выступлении на TED рассказал, как появилась концепция размышляющих ИИ-моделей, легшая в основу o1 и o3, и почему за ней — будущее развития ИИ.
Хайлайты:
📈 Главная причина прогресса в области ИИ — масштабирование данных и вычислительных ресурсов при обучении новых моделей.
📈 В аспирантуре Браун разрабатывал ИИ для игры в покер. Однако его модель (лучшая на тот момент) проиграла четырем лучшим игрокам в мире во время соревнования с призовым фондом в $120 тыс.
📈 В ходе тренировки модель сыграла триллион раздач. В реальной игре она, независимо от ситуации, думала по 10 миллисекунд. А люди, сыгравшие за жизнь в 100 тыс. раз меньше партий, размышляли перед принятием решений.
📈 Заметив это, Браун попробовал дать модели на принятие решения не 10 миллисекунд, а 20 секунд. Это привело к увеличению производительности, равносильному росту данных и продолжительности обучения в 100 тыс. раз. «Когда я получил результат, я подумал, что это ошибка», — признается Браун.
📈 Тогда ученые решили взять реванш, увеличив приз до $200 тыс. Обновленная модель триумфально победила тех же игроков — это удивило и покерное сообщество, и ИИ-отрасль, и самих разработчиков. «На старте ставки были 4 к 1 против нас, после первых трех дней — 50/50. На восьмой день вы уже не могли ставить на победителя — только на человека, который проиграет последним», — рассказывает Браун.
📈 Аналогично устроены «шахматный чемпион» Deep Blue от IBM и играющая в го модель AlphaGo от Google — они тоже не действовали моментально, а думали перед каждым ходом.
📈 Есть два пути создания новых моделей: обучение на все большем количестве данных или масштабирование системы мышления модели. По второму пути пошли исследователи OpenAI при создании o1 — первой из серии нейросетей, которые думают перед ответом.
📈 Ответ o1 занимает больше времени и стоит дороже, чем у других моделей. Но, по мнению Брауна, это оправдано для решения по-настоящему важных задач: например, поиска лекарства от рака, доказательства гипотезы Римана или расчета более эффективных солнечных панелей.
📈 Браун настаивает: в то время, как наращивание данных для предобучения моделей подходит к пределу, масштабирование размышлений — только начинается.
«До сих пор есть люди, которые скажут, что ИИ все равно "выйдет на плато" или "упрется в стену". И им я отвечаю: "Может поспорим?"» — говорит Браун.
📱 Полностью посмотреть выступление Ноама Брауна можно здесь.
Еще по теме:
🔘 Илья Суцкевер: «Данные — это ископаемое топливо для ИИ»
🔘 Биография Демиса Хассабиса, СЕО Google DeepMind
👋 Подпишитесь на Hi, AI!
#OpenAI #AITed