почему Сэм Альтман не сможет вылечить себе рак?по следам
прошлого поста складывается ощущение что "можно швырнуть много миллионов долларов в компьют, поднять 100000 агентов и они решат любую задачу" или "AGI сводит решение любых задач к вопросу доступности компьюта и цены".
я вот лежал-размышлял на тему "если завтра у Сэма Альтмана обнаружат рак - сможет ли он поднять 100.000 агентов чтобы они за неделю нашли лекарство?", и простой ответ - нет.
представьте, что вы ищете ответ на какой-то вопрос про реальность, к примеру "какая комбинация молекул в пробирке вылечит рак такого типа".
и вот есть спектр, где с одной стороны:
- полное отсутствие интеллекта aka полный перебор всех существующих вариантов
классические "бесконечные мартышки перебирающие кнопки в попытке написать Войну и Мир". отсутствие оптимизации перебора вообще.
а с другой:
- абсолютный интеллект aka сразу выбор правильного варианта
интеллект имеющий полную всеобъемлющую модель реальности решает оптимизационную задачу у себя "в голове" и сразу даёт верное решение.
и вот между этих двух крайностей и существуют разные уровни интеллекта.
- автослесарю без биохимических знаний надо будет перебрать миллиарды комбинаций молекул в поисках лекарства от рака
- студент-биохимик будет перебирать на порядки меньше, потому что сможет откинуть ворох совершенно нереалистичных веток
- PhD биохимик со специализаций по онкологии будет перебирать ещё меньше, сразу пойдёт по реалистичным веткам
думаю, суть вы уловили. каждая итерация развития ИИ - это улучшение картины реальности в "его голове", и сужение кол-ва веток перебора.
gpt-4, наверное, смог бы решить математическую проблему тысячелетия, если поднять, ну, 100-200 триллионов агентов, может быть на пару порядков больше. увы, на Земле нет столько компьюта.
а вот gpt-6 (ну или какой там у них внутренний вариант) - смог сделать это в формате 10.000 агентов за несколько дней.
а в будущем какой-нибудь gpt-8, наверное, вывезет и на 50-100 агентах за пару часов (если представить, что в трейн не подлили предыдущие результаты).
так че по раку?
беда в том, что у перебора, помимо, собственно, кол-ва вариантов, есть другая сторона - а сколько стоит (времени/денег) проверить один вариант.
и тут кроется ответ на вопрос, почему ИИ так бодро тащит задачи программирования и математики: эти задачи формально верифицируемы, алгоритмически.
то есть, когда у вас есть вариант решения, вам нужны литерали миллисекунды чтобы его проверить.
эти задачи не требуют проверки в физической реальности. ИИ может перебирать варианты и оптимизировать решение буквально по ходу дела.
но вы можете представить себе затраты на тестирование одного варианта лекарства? даже in vitro - сколько времени займёт изготовление тестового образца и проверка? 10.000 агентов тут не дадут никакого выигрыша, хоть залей весь компьют мира.
думаю, в ближайшие 3-4 года, одной из растущих сфер будут fully automated лабы as a service. этакая изолированная среда в физической реальности, где агент может проводить эксперименты - как для RL, так и для фактического решения настоящих задач.
P.S. если что - про рак, это просто умозрительный пример проверки гипотез в физическом мире.