Ходят слухи, что кадровую неразбериху в OpenAI могла вызвать некая новая, прорывная модель под названием Q*. СМИ сообщали, что эта модель способна выполнять математические задачи на уровне ученика начальной школы. По словам источников Reuters, некоторые сотрудники OpenAI считают, что Q* может стать важной вехой в стремлении компании создать тот самый AGI.
Решение задач начальной школы не звучит угрожающе. Тем не менее, другим моделям математика совсем не давалась. GPT-4, например, может справиться только с простейшими примерами — и то через раз.
Математика — своего рода ориентир в способности рассуждать. Машина, способная решать математические задачи, сможет справиться и с другими — например, написанием компьютерного кода. Математика требует, чтобы ИИ обладал способностью мыслить, а не использовать шаблоны. К тому же, математические определения часто бывают очень абстрактными — и модели нужно понимать, как именно ими оперировать.
Другая особенность математических задач — в необходимости сделать цепочку действий из нескольких шагов. Ян ЛеКун, главный научный сотрудник Meta* в области искусственного интеллекта, на выходных написал в X, что новая модель будет «попыткой OpenAI в планировании».
___________________________
В итоге, вокруг нового детища OpenAI разгорелись споры. Многие опасаются, что возможность ставить цели и планировать шаги сделает модель опасной. Хочется заметить, что такие разговоры характерны для любого упоминания AGI.