Sam Altman с корешами из OpenAI выкатили первоначальные идеи по управлению "superintelligence", включая создание международной организации по надзору за будущими системами ИИ, гораздо более способными, чем сегодняшние: ссылка.

Тезисное саммари:
— Развитие суперинтеллекта должно координироваться глобальными усилиями для обеспечению безопасности и плавной социальной интеграции.
— Организация, подобная Международному агентству по атомной энергии (МАГАТЭ), может потребоваться для надзора за усилиями по разработке ИИ, которые превышают определенные значения возможностей.
— Техническая возможность сделать суперинтеллект безопасным — пока не подтверждена, это открытый исследовательский вопрос, который еобходмо прорабатывать.
— Компаниям должно быть позволено разрабатывать модели ниже заданного порога возможностей без жесткого регулирования, в то время как мощные системы требуют тщательного управления и общественного контроля.
— Границы для систем ИИ должны определяться демократическим путем, при этом отдельные пользователи должны контролировать поведение своего ИИ в этих пределах.
— Несмотря на риски, развитие ИИ считается полезным из-за его потенциала для решения социальных проблем.
— Остановка развития суперинтеллекта считается рискованной и трудной, поэтому важно подчеркнуть важность принципа ответственного и безопасного развития.