OpenAI готовит следующую большую модель. По данным The СМИ часть ее рассуждений люди уже не смогут прочитать.

Новая архитектура позволяет несколько раз прогонять информацию внутри модели перед ответом. Это помогает в математике и коде, но часть промежуточных рассуждений остается скрытой.

И здесь возникает спорный момент. OpenAI уже присвоила модели критический уровень по кибербезопасности. Модель умеет самостоятельно находить неизвестные уязвимости. При этом раньше один из способов контроля ИИ как раз был основан на чтении его рассуждений.