今天买下的一批H100,几年以后会去哪里?
对于拥有上万张GPU的云厂商或AI基础设施运营商来说,新一代GPU进入数据中心后,原来的设备并不会立刻失去价值。它们可能继续运行,也可能调整到其他工作负载、迁往其他数据中心,或者出售给新的用户。
于是,一个很现实的问题开始出现:
数据中心GPU会不会像服务器、汽车或大型工业设备一样,最终形成一个规模化的二级市场?
目前的答案是:二手GPU已经进入再销售渠道,但距离一个真正成熟的大规模二级市场,还有明显距离。
真正决定这个市场能否形成规模的,不只是未来有多少旧GPU,而是这些设备能不能持续进入市场,以及有没有足够多的“第二任用户”愿意接手,并且能够从中获得经济回报。
完整版分析文字见下方,视频版请查看:https://weixin.qq.com/sph/Apuhm3UUP
二手GPU已经有了交易渠道,但离成熟市场还很远
目前,市场上已经出现主要服务企业客户和数据中心运营商的GPU交易撮合平台。以Compute Exchange为例,该平台为H100、H200、A100、L40S、V100等GPU提供交易撮合服务,交易对象包括二手设备、翻新设备和OEM剩余库存,同时提供不同型号的参考报价。
这说明,数据中心GPU已经有了相对专业的流通渠道。但要说已经形成成熟的二级市场,还为时尚早。
最直接的问题是,公开的真实成交信息仍然有限,市场还没有形成透明、稳定的价格体系。
Compute Exchange公布的价格区间主要根据供应商报价和经纪市场信息整理,只能作为参考,并不代表设备最终的成交价格。具体到每笔交易,价格还会受到采购数量、所在地区、设备状况、具体配置和保修条件等因素影响。平台的公开页面也没有披露具体成交价格、成交量和完整的成交记录。
因此,今天虽然已经能够看到二手H100的报价,但围绕设备定价和成交效率,仍有许多关键问题缺少清晰答案:
同型号、同配置,且使用年限和设备状态相近的H100服务器,实际成交价格通常落在什么区间?
类似设备在不同地区应该有多大价差?
运行时间、设备健康状况和剩余保修,分别会带来多大的价格差异?
不同型号、不同数量的设备,实际成交周期通常有多长?
只有当配置和状态相近的设备能够形成相对稳定、可比较的成交价格区间,资产持有人也能够大致预估出售周期,二手GPU市场才具备进一步规模化的基础。
更关键的问题是:二手GPU供给什么时候会放量?
价格不透明只是当前市场尚未成熟的一面。另一个更关键的问题是:现有公开信息还不足以证明,进入二级市场的设备已经形成持续、稳定的大规模供给。
H100是在2022年9月进入全面生产的。首批板卡和系统从当年秋季陆续交付,AWS、Google Cloud、Microsoft Azure和Oracle等云服务商则从2023年开始部署H100实例。到2023年3月,DGX H100进入全面生产,H100在云服务和整机系统中的供应进一步扩大。
也就是说,目前大批H100实际投入使用的时间并不算长,还没有普遍进入集中处置阶段。
更重要的是,新一代GPU上市,并不意味着上一代设备会很快进入二手市场。
对于云厂商和数据中心运营商来说,一批H100即使不再是最新产品,只要还能以合理成本承担推理、训练或其他计算任务,就可能继续留在原有集群中使用。运营商也可以把它们调整到其他工作负载,或者迁往成本更低的数据中心。
因此,技术换代和二手供给之间并不存在简单的对应关系。
真正决定一批GPU是否进入二级市场的,是运营商在继续运行、内部调整、迁移和出售之间如何选择。只有当出售变得更有吸引力,越来越多设备才会真正流向外部市场。
这也意味着,判断二手GPU市场能否明显放量,不能只看Blackwell、Rubin等新平台的部署规模,更要看早期部署的H100等设备,是否开始被大型持有者持续、批量地出售。
二手GPU为什么更难定价
即使未来有更多设备进入二级市场,二手GPU的定价也不会像普通消费电子产品那么简单。
首先,同样叫“H100”,实际交易的东西可能完全不同。有的是PCIe加速卡,有的是SXM模块,有的已经装进HGX服务器,甚至作为整套机架系统的一部分出售。形态不同,配套的网络、电源和散热条件不同,拆卸、运输和重新部署的成本也不同。
即使型号和配置相同,设备本身的状况也会影响价格。设备累计运行了多久,长期处在怎样的温度环境中,是否出现过ECC错误,物理状态如何,剩余保修期限有多长,都会影响买家的判断。
因此,大额采购二手GPU时,买家通常不能只看型号和报价。Compute Exchange列出的核查项目包括运行时间、温度记录、NVIDIA系统管理接口的诊断信息和ECC错误记录;对于大额采购,买卖双方通常还会事先约定压力测试或退货期限。
目前,部分翻新商和IT资产处置机构已经提供诊断、压力测试、清洁和部件更换等服务。不过,从公开市场信息来看,尚未看到一套被买卖双方普遍采用、能够将检测结果直接对应到交易价格的分级标准。Compute Exchange本身也只负责验证交易对手和撮合买卖双方,并不负责检测、认证或担保设备状况。
这会带来一个很现实的问题:同样是一批使用了两年的H100,不同买家对设备状况和风险的判断可能差别很大。
买家如果无法准确判断设备状态,往往会要求更大的折价来覆盖风险;卖家如果认为折价过高,又可能不愿出售。设备状况越难比较,买卖双方就越难快速形成一致的价格。
因此,二手GPU市场要进一步扩大,除了需要更多买家和卖家,还需要更成熟的检测、分级和估值体系。
只有当设备状态能够按照相对统一的标准进行描述,并在价格中得到较为清晰的体现,交易双方才更容易达成一致。
真正决定市场能不能做大的是有没有“第二任用户”
即使未来大型云厂商开始持续出售上一代GPU,也不意味着二级市场就一定能够迅速扩大。有多少设备被拿出来出售,只回答了供给端的问题;更重要的是,有没有足够多的买家愿意接手。
对潜在买家来说,二手GPU价格更低固然有吸引力,但真正需要考虑的是,买回来以后是否划算。
采购价格只是成本的一部分。与新一代设备相比,上一代GPU在部分工作负载下的计算效率、能效和系统密度可能处于劣势。为了提供相同规模的算力或完成同等工作负载,买家可能需要部署更多设备,占用更多机架空间,并承担更高的电力和维护成本。这样一来,低价采购带来的优势就会被削弱。
如果还涉及服务器和网络重新配置、设备运输、安装以及业务迁移,整体成本还会进一步上升。
因此,二手GPU能否形成稳定需求,最终取决于一笔很现实的经济账:这些设备带来的收入或业务价值,能否覆盖采购、机房、电力、迁移和运维等成本,并为买家留下合理回报。
这也决定了哪些用户更可能成为二手GPU的主要买家。他们未必需要最先进的芯片,但需要有适合上一代GPU的工作负载,同时具备重新部署和持续运营这些设备的能力。
如果这样的买家数量有限,即使市场上出现大量二手GPU,也可能只是供给增加,而不是形成一个真正有规模的二级市场。
所以,决定GPU二级市场能不能做大的,关键不是未来会有多少旧设备被卖出来,而是有没有足够多的“第二任用户”,能够在买下这些设备之后继续算得过来这笔账。
什么情况下二手GPU市场才算真正形成规模?
与其现在就判断GPU二级市场会在哪一年形成规模,不如看几个更实际的变化。
首先是供给能不能持续出现。如果市场上只有偶尔出现的零散批次,很难支撑一个有规模的二级市场。真正值得关注的是,大型云厂商、GPU云服务商和数据中心运营商是否开始持续出售上一代设备,并逐渐形成稳定的货源。
有了供给,还要看有没有足够多的买家承接。二手设备进入市场后,如果能够在相对稳定、可预期的周期内完成交易,说明市场已经开始形成较为稳定的承接需求。
与此同时,设备本身也需要更容易比较。运行时间、健康状况、故障记录、剩余保修和具体配置等信息,最好能够按照相对统一的标准进行描述,并在价格中有所体现。否则,即使是同型号的设备,买卖双方也很难判断合理价格。
另一个重要标志是,公开、可验证的真实成交信息逐渐增多。只知道某款GPU“报价多少”还不够,市场还需要知道配置和状态相近的设备,实际以什么价格成交。随着这类数据不断积累,不同型号、配置和设备状态对应的价格区间才会越来越清楚。
最后,还要看这些设备能否以合理成本重新部署。拆卸、运输、安装、机房改造和软件适配都需要投入。如果重新部署成本过高,即使设备本身价格便宜,对买家来说也未必划算。
所以,一个真正形成规模的二手GPU市场,不能只靠“旧设备越来越多”。它需要持续的供给、稳定的承接需求、相对统一的设备分级、越来越透明的真实成交价格,以及可接受的重新部署成本。
当这些条件逐渐具备后,二手GPU交易才可能从零散、偶发的交易,发展成规模更大、价格更透明、成交周期也更可预期的市场。
2027—2029年可能是一个值得关注的窗口
目前还没有足够依据判断,二手GPU市场会在哪一年明显放量。不过,从H100的部署时间来看,2027—2029年可能是一个值得重点观察的窗口。
H100从2022年下半年开始交付,2023年在云服务和整机系统中的供应进一步扩大。到2027—2029年,距离H100在2022—2023年开始交付并扩大部署,已经过去大约四至七年。与此同时,Blackwell等新平台继续部署,Rubin也已进入全面生产爬坡阶段,相关量产系统计划从2026年秋季开始陆续出货。
这意味着,到了2027—2029年,市场可能更容易看清第一批大规模部署的H100后续会被如何使用和处置。
届时最值得关注的有两个信号。
一是供给端是否发生变化:大型云厂商、GPU云服务商和数据中心运营商是否开始持续、批量出售H100等较早部署的设备,而不是只有零散批次进入市场。
二是这些设备能否被市场顺利承接:进入二级市场的H100能否在相对稳定、可预期的周期内找到新的买家,公开成交信息是否开始增多。
如果这两个信号同时出现,才意味着二手GPU市场可能开始从零散交易走向规模化。
到那时,最值得回答的问题是:第一批大规模部署的H100,有多少开始进入二级市场,又有多少真正找到了“第二任用户”?
数据中心GPU二级市场什么时候会真正形成规模,目前还没有确定答案。
可以确认的是,二手H100、A100等设备已经进入专业撮合和再销售渠道,但市场能否形成持续供给,是否有足够稳定的买家,设备分级标准能否逐步统一,真实成交价格能否更加透明,都还有待观察。
这个市场最终能做多大,不只取决于新一代GPU的迭代和部署,更取决于第一批大规模部署的数据中心GPU是否会持续进入二级市场,以及进入市场后能不能找到足够多的“第二任用户”。
如果这类买家能够持续出现,并形成稳定的承接需求,数据中心GPU二级市场才有可能真正形成规模。
到那时,行业关心的就不只是:下一代GPU有多快?
还会多出另一个越来越现实的问题:上一代GPU,还值多少钱?
304