📰 🔍 💬知情人士称，Anthropic、OpenAI 和谷歌一直在讨论合作创建一个 AI 行业标准机构，这甚至早于 Anthropic 首席执行官达里奥・阿莫
- 序号：576
- 星球链接：打开网页
- 附件：图片 0，音频 0，文档 0
- 音频文件：无音频
图片
无图片
正文
📰 🔍
💬知情人士称，Anthropic、OpenAI 和谷歌一直在讨论合作创建一个 AI 行业标准机构，这甚至早于 Anthropic 首席执行官达里奥・阿莫代伊周六呼吁 AI 公司在技术测试和审计方面进行协调。 🗣️OpenAI 首席执行官萨姆・奥尔特曼本周早些时候在公司全员大会上告诉员工，他支持为人工智能行业建立一个测试和审计组织，但他认为主要的人工智能实验室将不得不在没有美国政府支持的情况下自行创建一个标准机构，一位知情人士透露。
💡这种行业自我监管是阿莫代伊周六发布的更广泛提案的一部分，旨在减缓 AI 发展，并在日益强大的 AI 带来的风险不断加剧之际建立独立监督。阿莫代伊表示，公司可以先行推进自愿安全标准，而政府则同步制定 AI 监管规则，政府可能会促成或协调行业讨论。 📢阿莫代伊在 X 平台上发布的帖子迅速获得了其他几位科技领袖的背书，其中包括奥尔特曼，他写道，减缓前沿 AI 发展近几周一直是其公司内部讨论的话题。最近卸任 Google DeepMind 首席执行官的德米斯・哈萨比斯表示，该提案总体上是朝着正确方向迈出的一步，不过一些细节 “还需要进一步推敲”。SpaceX 首席执行官埃隆・马斯克也支持阿莫代伊的计划。 📄为人工智能设立自我监管组织的想法已在公众讨论中存在数月。今年 7 月，哈萨比斯发表了一篇文章，提出了一个以美国金融业监管局为蓝本的自我监管机构提案，该机构负责监管美国的经纪自营商和证券专业人士。 🔍但此前未有报道披露这些公司已在多大程度上开始合作制定行业标准。据知情人士透露，自 7 月以来，来自谷歌、Anthropic 和 OpenAI 的代表组成的一个工作组一直在定期开会，讨论关于设立标准机构的提案，这些代表的级别低于 CEO。 📜The Information 此前报道，白宫曾流传一份行政命令草案，拟设立这样一个组织，但由于在特朗普政府内部未能获得足够支持，该努力在夏末陷入停滞。前白宫 AI 事务负责人大卫・萨克斯一直公开批评为 AI 设立类似 FINRA 的机构，反对政府介入。据 Politico 报道，Meta Platforms 首席执行官马克・扎克伯格也在 8 月与总统唐纳德・特朗普通话时，对设立全国性 AI 监管机构的计划表达了担忧。 🗣️在本周的全员大会上，奥尔特曼表示，尽管他此前乐观地认为政府会支持一个标准机构，但目前行业共识还不够，一些公司反对这一想法，这位了解相关言论的人士称。他补充说，最好的前进路径是尝试与其他实验室合作。据彭博社报道，奥尔特曼还在向员工讲话时表示，OpenAI 也可以放慢其开发步伐。 🤝Anthropic、OpenAI 和谷歌就行业主导的标准机构举行的工作组会议 —— 知情人士称会议仍在进行中 —— 表明这三家实验室除了高管高调的公开评论和提议之外，还有采取行动的意愿。其中一位知情人士表示，该工作组最近一次会议就在过去一周内举行。 ❓目前尚不清楚 Meta 在这一提案上的立场。周六，该公司首席人工智能官亚历克斯・王在 X 上写道，通用人工智能的基础是 “为每个人打造可信任的超级智能”，他指的是 AI 系统的行为遵循所给指令意图的理念，不过他没有明确表示支持还是反对阿莫代伊的提议。 ⚠️Anthropic 自己的员工近日在 X 上发布的帖子引发广泛关注，再次将人们对日益强大的人工智能潜在风险的担忧推向风口浪尖。Anthropic 的一名研究员表示他正在从公司离职，因为他认为 Anthropic 和 OpenAI 都没有 “负责任地行事”，而 Anthropic 的一名在职员工则表示，公司真心相信 AI 可能对人类构成生存威胁。 📋周六，阿莫代伊提议，每家领先的 AI 公司都应向外部评估机构（例如模型评估与威胁研究组织）提供访问模型并展示其技术的权限，并表示 Anthropic 将率先践行这一举措。他还呼吁政府允许 AI 公司在不触犯反垄断法的前提下就安全问题进行协调，称政府应针对某些特定对话发布 “窄范围豁免”。 💬萨克斯在 X 上表示，AI 公司应继续推进安全方面的工作，无需反垄断豁免即可进行协调。但他质疑放缓开发是否纯粹出于利他主义，并指出产品责任风险本身就已经提供了防止 AI 造成伤害的经济激励。 ⚖️AI 行业的一些人对阿莫代伊的计划持更为批评的态度。Cohere 首席执行官艾丹・戈麦斯在 X 上发帖，对最大的 AI 公司协调制定的可能制约较小竞争对手的规则表示担忧，他写道：“这是卡特尔提出的好主意。”
总体总结
主题正文
- 💬知情人士称，Anthropic、OpenAI 和谷歌一直在讨论合作创建一个 AI 行业标准机构，这甚至早于 Anthropic 首席执行官达里奥・阿莫代伊周六呼吁 AI 公司在技术测试和审计方面进行协调。
- 🗣️OpenAI 首席执行官萨姆・奥尔特曼本周早些时候在公司全员大会上告诉员工，他支持为人工智能行业建立一个测试和审计组织，但他认为主要的人工智能实验室将不得不在没有美国政府支持的情况下自行创建一个标准机构，一位知情人士透露。
- 💡这种行业自我监管是阿莫代伊周六发布的更广泛提案的一部分，旨在减缓 AI 发展，并在日益强大的 AI 带来的风险不断加剧之际建立独立监督。
- 据知情人士透露，自 7 月以来，来自谷歌、Anthropic 和 OpenAI 的代表组成的一个工作组一直在定期开会，讨论关于设立标准机构的提案，这些代表的级别低于 CEO。
- 据 Politico 报道，Meta Platforms 首席执行官马克・扎克伯格也在 8 月与总统唐纳德・特朗普通话时，对设立全国性 AI 监管机构的计划表达了担忧。
- 周六，该公司首席人工智能官亚历克斯・王在 X 上写道，通用人工智能的基础是 “为每个人打造可信任的超级智能”，他指的是 AI 系统的行为遵循所给指令意图的理念，不过他没有明确表示支持还是反对阿莫代伊的提议。
- ⚠️Anthropic 自己的员工近日在 X 上发布的帖子引发广泛关注，再次将人们对日益强大的人工智能潜在风险的担忧推向风口浪尖。
- Anthropic 的一名研究员表示他正在从公司离职，因为他认为 Anthropic 和 OpenAI 都没有 “负责任地行事”，而 Anthropic 的一名在职员工则表示，公司真心相信 AI 可能对人类构成生存威胁。