Модели рассуждения с трудом контролируют свои цепочки мыслей — и это хорошо

Исследование OpenAI показывает, что современные модели рассуждения не способны эффективно управлять своими chain-of-thought, что является хорошей новостью для безопасности ИИ и надёжности мониторинга.

Читать статью