📝 👤萨姆・奥尔特曼 🌍世界理应相信，开发日益强大人工智能的美国公司会负责任地行事，尤其是在进步轨迹愈发陡峭之际。每一家前沿实验室都必须做到这一点，如果我们做不
- 序号：273
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
📝 👤萨姆・奥尔特曼
🌍世界理应相信，开发日益强大人工智能的美国公司会负责任地行事，尤其是在进步轨迹愈发陡峭之际。每一家前沿实验室都必须做到这一点，如果我们做不到，我们就没有理由来上班。 🤝我们欢迎建立一个联邦框架，为前沿人工智能设定一致的安全要求。但我们认为，不必等待反垄断豁免或立法才能开始开展提供这种信心的工作。制定一致的规则来管理前沿风险，从而让我们能够最大化收益，这是一个好主意（我们对独立审计师等想法感到兴奋）。 📜多年前，像我们这样的公司制定了负责任扩展政策和准备框架等机制。那些机制在当时是好的，主要聚焦于已完成模型的部署，而非其开发过程中发生的事情。 🔧如今转向关注安全开发与评估，将需要新的工具。例如，在 OpenAI，除了我们长期以来在模型发布前所做的安全工作外，我们现在还会在预期会显著提升能力的前沿强化学习运行之前，提前制定明确的安全案例。 🤲我们希望其他公司能从我们的方法中学习，并提出他们自己的方法；我们认为，在失准、监测和安全方面建立共同标准将带来更好的结果。我们期待与业界同仁合作，制定出这些标准的最佳版本。 ⏱当我们谈论 “放缓” 时，我们并不是指 “停止”。进展一直很迅速，而且将继续如此。但它应当比原本可能的速度更慢；像安全案例和监测这样的干预措施会带来显著成本。 ✅放缓完全值得付出这一成本；任何美国竞争压力都不应成为鲁莽行事的理由，也不应让能力发展超前于对齐和监测。 🌐我们需要政府帮助的地方在于国际协调。但首先，我们自己应该尽己所能。
总体总结
主题正文
- 🌍世界理应相信，开发日益强大人工智能的美国公司会负责任地行事，尤其是在进步轨迹愈发陡峭之际。
- 每一家前沿实验室都必须做到这一点，如果我们做不到，我们就没有理由来上班。
- 但我们认为，不必等待反垄断豁免或立法才能开始开展提供这种信心的工作。
- 制定一致的规则来管理前沿风险，从而让我们能够最大化收益，这是一个好主意（我们对独立审计师等想法感到兴奋）。
- 那些机制在当时是好的，主要聚焦于已完成模型的部署，而非其开发过程中发生的事情。
- 🔧如今转向关注安全开发与评估，将需要新的工具。
- 例如，在 OpenAI，除了我们长期以来在模型发布前所做的安全工作外，我们现在还会在预期会显著提升能力的前沿强化学习运行之前，提前制定明确的安全案例。
- 任何美国竞争压力都不应成为鲁莽行事的理由，也不应让能力发展超前于对齐和监测。