---
title: "OpenAI创始人山姆奥特曼： 世界期待着这样的信心：那些研发出越来越强大人工智能技术的美国公司能够负责任地行事。尤其是当技术进步的趋势越来越明显时，这一点显得"
topic_id: 45548818252111158
created_at: 2026-09-14T13:33:31.326+0800
source: zsxq
type: topic
cssclasses: zsxq-vault
---

# OpenAI创始人山姆奥特曼： 世界期待着这样的信心：那些研发出越来越强大人工智能技术的美国公司能够负责任地行事。尤其是当技术进步的趋势越来越明显时，这一点显得

- 序号：216
- 星球链接：[打开网页](https://wx.zsxq.com/group/15522451881222/topic/45548818252111158)
- 附件：图片 0，音频 0，文档 0
- 音频文件：_无音频_

## 图片

_无图片_

## 正文

OpenAI创始人山姆奥特曼：

世界期待着这样的信心：那些研发出越来越强大人工智能技术的美国公司能够负责任地行事。尤其是当技术进步的趋势越来越明显时，这一点显得尤为重要。每一个前沿实验室都必须履行这一承诺，如果我们无法做到这一点，那么我们就没有任何理由继续工作下去。

我们欢迎制定一套联邦层面的框架，为前沿人工智能技术设定一致的安全要求。不过，我们认为不必等待反垄断豁免或相关立法的出台，就可以开始实施这些规则，从而确保系统的安全性。制定统一的规则来管理前沿风险，以便我们能够最大限度地发挥人工智能带来的好处，这是一个很好的想法（我们对像独立审计师这样的解决方案感到兴奋）。

几年前，像我们这样的公司提出了诸如“负责任扩展政策”和“ preparedness 框架”这样的概念。这些方案在当时确实发挥了作用，它们主要关注的是已完成模型的部署过程，而不是在模型开发过程中的各个环节。

今天，我们转向注重安全性的开发和评估工作，这需要我们采用新的工具。例如，在 OpenAI，我们现在会在进行前沿强化学习训练之前明确制定安全方案。这样一来，除了在模型发布之前已经进行的安全性测试之外，我们的能力将得到显著提升。

我们希望其他公司也能从我们的方法中学习，并提出自己的解决方案。我们认为，统一在故障检测、监控和安全方面的标准能够带来更好的效果。我们期待与行业内的同行们合作，共同制定出最理想的解决方案。

当我们谈论“节奏”时，并不是指“停止”。进展相当迅速，并且会持续下去。不过，这种进展应该比实际情况要慢一些；因为诸如安全评估和监督之类的措施会带来相当大的成本。

投入这样的成本是值得的；任何美国的竞争压力都不足以成为采取鲁莽行为的理由，也不能让个人的能力超越团队的协调与监控能力。

在需要政府协助的情况下，我们将会寻求国际上的协调支持。但在此之前，我们首先应该尽自己所能去解决问题。

## 总体总结

主题正文
1. 世界期待着这样的信心：那些研发出越来越强大人工智能技术的美国公司能够负责任地行事。
2. 每一个前沿实验室都必须履行这一承诺，如果我们无法做到这一点，那么我们就没有任何理由继续工作下去。
3. 不过，我们认为不必等待反垄断豁免或相关立法的出台，就可以开始实施这些规则，从而确保系统的安全性。
4. 制定统一的规则来管理前沿风险，以便我们能够最大限度地发挥人工智能带来的好处，这是一个很好的想法（我们对像独立审计师这样的解决方案感到兴奋）。
5. 几年前，像我们这样的公司提出了诸如“负责任扩展政策”和“ preparedness 框架”这样的概念。
6. 这些方案在当时确实发挥了作用，它们主要关注的是已完成模型的部署过程，而不是在模型开发过程中的各个环节。
7. 这样一来，除了在模型发布之前已经进行的安全性测试之外，我们的能力将得到显著提升。
8. 任何美国的竞争压力都不足以成为采取鲁莽行为的理由，也不能让个人的能力超越团队的协调与监控能力。