OpenAI призывает к международным стандартам для ИИ, способного к самоулучшению

OpenAI предлагает создать международные технические стандарты для разработки передовых систем искусственного интеллекта, способных к рекурсивному самоулучшению (RSI). В таком сценарии ИИ всё больше автоматизирует исследования, необходимые для создания следующего поколения ИИ, что может резко ускорить развитие технологий. Компания подчёркивает, что полностью автономное рекурсивное самоулучшение пока недостижимо и к нему следует переходить только после появления достаточных мер безопасности. Иначе люди могут потерять контроль над развитием систем, а ИИ — стать опаснее и хуже следовать человеческим целям.

👉 Читать полностью