Цель Ineffable Intelligence — создать «сверхобучателя»: систему, способную бесконечно учиться и автономно открывать знания
Ключевые свойства — глубина (выход за пределы человеческого знания) и широта (обучение в любой среде)
Отказ от человеческих данных — осознанная ставка
LLM и триллионные датасеты человеческого текста ограничивают человеческими рамками и предрассудками
Пример AlphaZero: отказ от человеческих партий позволил за часы превзойти результат двух лет работы AlphaGo
Методология: RL + crucibles
Агенту даётся простая цель в среде с богатой эмерджентной сложностью
Среда должна быть тьюринг-полной, чтобы в ней могли возникнуть язык, математика, экономика, технологии. «Человек в контуре» исключается
Критика LLM-пути. LLM впечатляют, но остаются полуавтономными: требуют участия человека, а мониторинг их рассуждений на естественном языке становится всё более хрупким
Безопасность через симуляции
Симуляции рассматриваются как лаборатория для «науки о сверхинтеллекте» — условий мирного взаимодействия сверхинтеллектов
В реальном мире предлагается двигаться осторожно, допуская технологии только при доказательствах безопасности
Первые убедительные доказательства работоспособности подхода — в течение года
Достижение суперинтеллекта — около трёх лет
Сроки ускорены благодаря кодирующим агентам
Ресурсы и команда. Собственный крупный GPU-кластер на GCP (партнёрство с Google и Nvidia), оптимизированный под RL и симуляции
Команда намеренно небольшая — 12 человек, с высоким соотношением вычислений на человека
Высокая неопределённость, зависимость от прорывов в создании сложных симуляций, агрессивные сроки, а также философский вопрос: возможно ли достичь общего интеллекта без человеческого языка и культурного контекста
Ineffable Intelligence предлагает радикальный «третий путь» — не LLM-мейнстрим и не классические подходы к безопасности, а ставку на автономное обучение с нуля
Post #52938
149