OpenAI 最新官方发布应对AI 安全的策略
(中文翻译见评论区)

OpenAI主要探讨了安全地构建、部署和使用人工智能系统的方法。

⭐️ 强大的人工智能系统应该接受严格的安全评估。GPT-4在发布之前，内部员工耗时6个月确保模型更加安全和一致。
⭐️ 并且，还让外部专家参与反馈，利用人类反馈强化学习（RLHF）等技术改善模型的行为。
⭐️另外，文中还列出了其他确保AI安全的方法：- 从真实世界的使用中学习，以改进保障措施- 保护儿童- 尊重隐私- 提高事实的准确性

⚜️ https://openai.com/blog/our-approach-to-ai-safety