Post #2043
126
Перельман, эмерджентность и OpenAI - вечный спор о "новых знаниях" в эпоху успешного успеха (сингулярности)
Недавно ИИбрадки из OpenAI заявили о том, что их система из 10 000 ИИ-агентов сгенерировала 166-страничное доказательство для уравнения Навье - Стокса. И да это было конечно хорошим пример прикладных возможностей современного ИИ + Человека + Корпоративных мощностей, из за чего и возникли споры в академиях/правительствах и «рыночных силах» (а вовсе не "доказательство АГИ" и далее как раз об этом).
Связанные кос - локализация/специализация/защита грязных данных начинает осознаваться как ключевой вопрос который повлияет на дальнейшую архитектуру системы которая «поощряет создание знаний». В продолжение этого и этого и вот этого.
Это важно еще и потому, что старший тренд «эмерджентных улиев» обозначенный некоторыми гениями ранее, здесь и предстал во всей своей красоте/дибилизме/страстях Человеческих (а вовсе не Сингулярных как рассказывают ИИбрадки).
Ситуация слегка напоминает историю с Григорием Перельманом. Хотя субъект изменился - этический конфликт при этом еще не раз скажется в вопросах «генерации новых знаний» и roi - знание/адаптация (та самая эластичность которая здесь выражается тем что «низковисящие сорванные фрукты» завышают ожидания - люди ждут экспоненту во всем к чему прикасается ИИ, а могут получить асимптоту после «экспоненты от низкой базы" и этот риск в моменте «кажется» непопулярен у мейнстрима, пока есть что «брутфорсить» легко поверить, что это «бесконечная энергия знания», а проверить очень сложно.).
Древний Брутфорс до эпохи llm: Григорий Перельман опирался на фундаментальные работы Ричарда Гамильтона по потокам Риччи. Когда Перельман выложил статьи на arXiv, китайские математики Чжу Сипин и Цао Хуайдун (под управлением Яу Шинтана) выпустили массивный разбор, где пытались присвоить себе окончательную заслугу, заявив, что именно они «заполнили ключевые пробелы».
Современный Брутфорс: Математики Тристан Бакмастер (NYU) и Левант Альпоге (работающий в Anthropic) годы двигались к решению уравнений Эйлера и Навье - Стокса. Как только в академической среде поползли слухи, что они в шаге от прорыва, OpenAI бросила 10 000 ИИ-агентов и миллионы долларов на то, чтобы «забрутфорсить проблему» и опередить людей на финишной прямой.
Перельман: Скандал вращался вокруг того, насколько этично «забирать» чужую идею, слегка переупаковать ее и подавать как собственную победу. Григорий Перельман отказался от миллиона долларов и медали Филдса в знак протеста против нечестности научного сообщества и игнорирования вклада Гамильтона.
OpenAI: Бакмастер заявил, что проверял промежуточные выкладки с помощью инструмента OpenAI Codex. Возникли обоснованные подозрения, что корпорация проанализировала телеметрию и промпты математика, чтобы направить алгоритмы по его следам. В OpenAI признали, что «не могут полностью исключить использование обезличенных данных пользователей для улучшения моделей».
Понятно в какую сторону это двигает наративы. Некоторые исследователи уже задаются вопросами, что если утечка черновика или слух о работе математиков будет провоцировать IT-гигантов запускать ИИ-ботов для решения задачи до того, как автор успеет дописать работу, ученые перестанут публиковать промежуточные результаты на arXiv и обсуждать их с коллегами?
Теренс Тао рассуждает о том, что в будущем математическому сообществу, возможно, придётся разграничивать задачи, решаемые «брутфорсом», и задачи, требующие теоретических концепций.
Рётцер задался вопросом, может ли аналогичное мышление ускорить решение других научных задач, признавая при этом, что математика предлагает доказуемую цель. Одно это заявление не устанавливает график решения проблем со здоровьем или преобразования целых отраслей.
Недавно ИИбрадки из OpenAI заявили о том, что их система из 10 000 ИИ-агентов сгенерировала 166-страничное доказательство для уравнения Навье - Стокса. И да это было конечно хорошим пример прикладных возможностей современного ИИ + Человека + Корпоративных мощностей, из за чего и возникли споры в академиях/правительствах и «рыночных силах» (а вовсе не "доказательство АГИ" и далее как раз об этом).
Связанные кос - локализация/специализация/защита грязных данных начинает осознаваться как ключевой вопрос который повлияет на дальнейшую архитектуру системы которая «поощряет создание знаний». В продолжение этого и этого и вот этого.
Это важно еще и потому, что старший тренд «эмерджентных улиев» обозначенный некоторыми гениями ранее, здесь и предстал во всей своей красоте/дибилизме/страстях Человеческих (а вовсе не Сингулярных как рассказывают ИИбрадки).
Ситуация слегка напоминает историю с Григорием Перельманом. Хотя субъект изменился - этический конфликт при этом еще не раз скажется в вопросах «генерации новых знаний» и roi - знание/адаптация (та самая эластичность которая здесь выражается тем что «низковисящие сорванные фрукты» завышают ожидания - люди ждут экспоненту во всем к чему прикасается ИИ, а могут получить асимптоту после «экспоненты от низкой базы" и этот риск в моменте «кажется» непопулярен у мейнстрима, пока есть что «брутфорсить» легко поверить, что это «бесконечная энергия знания», а проверить очень сложно.).
Древний Брутфорс до эпохи llm: Григорий Перельман опирался на фундаментальные работы Ричарда Гамильтона по потокам Риччи. Когда Перельман выложил статьи на arXiv, китайские математики Чжу Сипин и Цао Хуайдун (под управлением Яу Шинтана) выпустили массивный разбор, где пытались присвоить себе окончательную заслугу, заявив, что именно они «заполнили ключевые пробелы».
Современный Брутфорс: Математики Тристан Бакмастер (NYU) и Левант Альпоге (работающий в Anthropic) годы двигались к решению уравнений Эйлера и Навье - Стокса. Как только в академической среде поползли слухи, что они в шаге от прорыва, OpenAI бросила 10 000 ИИ-агентов и миллионы долларов на то, чтобы «забрутфорсить проблему» и опередить людей на финишной прямой.
Перельман: Скандал вращался вокруг того, насколько этично «забирать» чужую идею, слегка переупаковать ее и подавать как собственную победу. Григорий Перельман отказался от миллиона долларов и медали Филдса в знак протеста против нечестности научного сообщества и игнорирования вклада Гамильтона.
OpenAI: Бакмастер заявил, что проверял промежуточные выкладки с помощью инструмента OpenAI Codex. Возникли обоснованные подозрения, что корпорация проанализировала телеметрию и промпты математика, чтобы направить алгоритмы по его следам. В OpenAI признали, что «не могут полностью исключить использование обезличенных данных пользователей для улучшения моделей».
Понятно в какую сторону это двигает наративы. Некоторые исследователи уже задаются вопросами, что если утечка черновика или слух о работе математиков будет провоцировать IT-гигантов запускать ИИ-ботов для решения задачи до того, как автор успеет дописать работу, ученые перестанут публиковать промежуточные результаты на arXiv и обсуждать их с коллегами?
Теренс Тао рассуждает о том, что в будущем математическому сообществу, возможно, придётся разграничивать задачи, решаемые «брутфорсом», и задачи, требующие теоретических концепций.
Рётцер задался вопросом, может ли аналогичное мышление ускорить решение других научных задач, признавая при этом, что математика предлагает доказуемую цель. Одно это заявление не устанавливает график решения проблем со здоровьем или преобразования целых отраслей.









