📊 首先是算力规模,由于内部流程涉及法务、财务等多个部门,协调成本较高,因此服务商至少需要具备千卡规模,万卡规模则更具吸引力,几十张卡的规模不具备商谈的可行性。

图片

无图片

正文

📊 首先是算力规模,由于内部流程涉及法务、财务等多个部门,协调成本较高,因此服务商至少需要具备千卡规模,万卡规模则更具吸引力,几十张卡的规模不具备商谈的可行性。 📊 所以卡的数量重要。 📍 其次是数据中心的位置,考虑到数据迁移的便捷性和合规性,靠近公司机房的数据中心更具优势。 📍 例如,若算力服务商的数据中心位于广东,而客户(如广汽)的数据主要存储在公司云上,远距离的数据迁移会引发合规问题。 ⚙️ 第三是算力集群的稳定性,公司会对算力集群进行稳定性及故障率等指标的测试,并设有相应的标准。 💰 第四是价格。 🏛️ 最后,服务商的背景和资质也至关重要。 🏛️ 具备强大背书,如英伟达为其伙伴协创提供的背书,能显著增强信任。 🏛️ 对于新晋服务商,获得如运营商(例如联通)的背书,或拥有良好的财务状况和银行信用背书,有助于快速进入采购渠道。 💡 算力租赁的商业模式正在演变。 📋 传统模式下,会有一个基础的租赁费用,例如一张 H800 卡每月租金约为 25 万至 30 万元,这保障了算力提供方的基本收入。 📋 在此基础上,当算力使用超出约定阈值时,例如日均 Token 处理量超过 10 亿或 30 亿,算力利用率也随之提升,便会触发分成机制。 ⚡ 一种新兴的模式是 “算电融合” 或 “电算融合”,即基于 Token 产出的分成模式。 ⚡ 这种模式的实现需要租赁双方进行深度合作,确保 Token 的输入与输出对双方都是透明可见的。 ⚡ 算力提供方需要具备独特的优势,例如能够提供绿电资源,从而吸引云厂商或大模型公司进行合作。 ⚡ 通过利用绿电政策,算力提供方可以降低单个 Token 的成本,当 Token 产出量超过一定阈值时,其收益便能与基础租赁费用持平甚至更高。 ⚡ 算力提供方必须能够精确计算出这一成本与收益的平衡点,才能具备与云厂商谈判的资格。 🤝 对于大模型厂商而言,尤其是一些初创公司如智谱 AI,这种分成模式也颇具吸引力。 🤝 它们可以将大部分(例如 60% 至 80%)的 Token 销售收入分给算力提供方,自身保留剩余部分。 🤝 由于大模型厂商在此模式下没有前期高昂的算力硬件成本,只赚取技术服务费,因此依然能够盈利。 🔄 这种基于 Token 分成的模式为租赁市场带来了新的可能性。 🔄 它改变了传统租赁模式中因租赁周期短(如仅 6 个月)而导致的高闲置成本风险。 🔄 服务器一旦闲置,成本极高,一台月租 30 万的服务器若闲置 6 个月,就很难收回成本,而通常算力卡的回收周期在 11 个月到 1 年半之间。 🔄 基于分成的模式则有望实现长期且可持续的盈利。 🔄 不过,这种模式并非普遍适用,与腾讯、阿里、字节跳动等大厂谈判此类合作的门槛较高,除非存在深度的战略合作关系,否则他们未必会接受。 💵 采用固定价格租赁模式能将所有超额收益留在公司内部。 💵 公司的平台和调度能力可以从算力中榨取出远超预期的 token 产出,如果采用 token 分成模式,意味着产生的 token 越多,需要分给供应商的也越多,这在公司看来并不划算。 💵 因此,除非供应商能提供某些极具吸引力的条件,否则公司更愿意以固定成本锁定算力,独享通过技术能力创造的全部增值收益。 💵 不过,token 分成作为一种新的商业模式也被纳入考虑,尤其是在不想预先垫付资金成本的情况下。 💵 可以寻找合作渠道商,由其提供硬件并承担成本,公司则负责提供客户并进行 token 分成,这种模式对扩大 token 使用量和市场话语权有战略意义。

总体总结

主题正文

  1. 📊 首先是算力规模,由于内部流程涉及法务、财务等多个部门,协调成本较高,因此服务商至少需要具备千卡规模,万卡规模则更具吸引力,几十张卡的规模不具备商谈的可行性。
  2. 📋 传统模式下,会有一个基础的租赁费用,例如一张 H800 卡每月租金约为 25 万至 30 万元,这保障了算力提供方的基本收入。
  3. 📋 在此基础上,当算力使用超出约定阈值时,例如日均 Token 处理量超过 10 亿或 30 亿,算力利用率也随之提升,便会触发分成机制。
  4. ⚡ 通过利用绿电政策,算力提供方可以降低单个 Token 的成本,当 Token 产出量超过一定阈值时,其收益便能与基础租赁费用持平甚至更高。
  5. 🔄 它改变了传统租赁模式中因租赁周期短(如仅 6 个月)而导致的高闲置成本风险。
  6. 🔄 服务器一旦闲置,成本极高,一台月租 30 万的服务器若闲置 6 个月,就很难收回成本,而通常算力卡的回收周期在 11 个月到 1 年半之间。
  7. 💵 公司的平台和调度能力可以从算力中榨取出远超预期的 token 产出,如果采用 token 分成模式,意味着产生的 token 越多,需要分给供应商的也越多,这在公司看来并不划算。
  8. 💵 可以寻找合作渠道商,由其提供硬件并承担成本,公司则负责提供客户并进行 token 分成,这种模式对扩大 token 使用量和市场话语权有战略意义。