from AGI to ASI <от artificial general intelligence к artificial superintelligence> так называется новая статья ресерчеров deepmind. конечно, слово ‘суперинтеллект’ все еще тянет за собой налет научной фантастики, риторики от гуда до бострома, прогнозов конца света. deepmind дает ему новое позиционирование: система, превосходящая по когнитивным возможностям крупные человеческие организации. любопытный сдвиг: суперинтеллект не как единичный великий разум, а институциональная машина: агенты, инструменты, память, вычисления, петли обратной связи, координация задач, способность улучшать собственные компоненты.
в тексте названы четыре траектории перехода от AGI к ASI: масштабирование, новые алгоритмические парадигмы, рекурсивное самоулучшение и большие мультиагентные коллективы. первые две еще похожи на привычную историю ии-прогресса. последние две меняют картинку: ии начинает участвовать в производстве следующего ии, интеллект переносится с уровня отдельной модели на уровень среды.
некоторые недавние работы указывают на схожую тенденцию. так, anthropic пишет о рекурсивном самоулучшении, исследователи говорят о мультиагентных системах как о новом уровне масштабирования. и вот, вопрос ‘когда AGI?’ постепенно уступает место другому… симптоматично, что большие лаборатории начинают публично описывать пост-AGI горизонт, именно так.