CGC2026 | 井汤博:构建Token的坚实底座——AIDC需求和技术趋势

CGC2026 | 井汤博:构建Token的坚实底座——AIDC需求和技术趋势

2026-10-30

以下文章来源于微信公众号——全球计算联盟GCC

图片

GCC NEWS

2026 全球计算大会(CGC2026)主论坛上,Open AI Infra 社区技术指导委员会委员、抖音视界有限公司数据中心研发和设计管理负责人井汤博发表了题为《构建 Token 的坚实底座——AIDC 需求和技术趋势》的主题演讲,结合业务实际剖析 AIDC 建设的现实诉求,研判新一代 AI 数据中心的技术演进路径。(本文根据井汤博的现场发言整理,略有删减)

图片

图:GCC‑Open AI Infra社区技术指导委员会委员、抖音

视界有限公司数据中心研发和设计管理负责人

井汤博作主题报告

结合个人观察与洞察,以及字节跳动的全球化部署经验,井汤博分享了 AIDC 需求和技术趋势。整场演讲分为三个部分:算力底座与 Token 经济、支持算力和 Token 经济优化的技术创新,以及对未来的畅想与抖音在 GCC 中的角色和贡献。

Token 成本与创新研发

井汤博以行业熟知的“五层蛋糕模型”展开分享。大众更熟悉的是应用与模型这两个层级,例如豆包、千问,以及腾讯等企业推出的集成大模型产品,包括部分国外知名公司发布的大模型产品。这些产品用户可直接接触,更接近于传统的软件集成服务。

而大模型本身当前最受关注,迭代以周甚至以天为计。在五层蛋糕模型中,最不可忽视的是处于下方的能源、芯片和基础设施三层。其中芯片层是制约交付的核心瓶颈,也是成本占比最高的环节;数据中心基础设施及能源层则扮演着越来越重要的角色。

首先,从成本角度,能源与基础设施在总成本构成中的占比最高可达 30%-40%。

其次,从建设周期看,应用层与模型层的迭代以周甚至以天为计,而基础设施与能源侧的建设周期往往长达数月乃至数年,因此常成为应用与模型交付的最大瓶颈。

抖音在数据中心基础设施领域的创新,核心在于提升 Token 产出效率并降低成本。如下图所示,具体围绕三个方向:第一,从供配电链路入手,提升效率、降低 Token 成本;第二,从解热与散热角度,大规模压低 PUE、提升散热能力;第三,加快交付速度、保障高可用性。

图片

首先从供配电角度进行研发。

传统配电架构存在“交流转直流、直流再转交流”的反复转换过程,损耗巨大,也难以支撑未来的高性能服务器节点。后续研发方向将采用更高密度、更高电压的 800V 直流架构,这也是行业共识。服务器本身即采用直流供电,尽可能减少供电链路中的转换环节,并通过提升电压降低线损,有望将链路配电损耗降至 3%-4%。对于一座 GW 级数据中心,这意味着数亿元的成本节省。

图片

在智能供配电方面,除硬件外,业界正围绕削峰填谷与算力协同探索其他方向,例如通过链路计量、链路能效监控、链路协同优化控制等手段,实现负荷与电网的匹配,进一步提升配电效率。

图片

其次,在散热方面,字节跳动采取“两步走”策略。

第一步是“散热革命 1.0”,旨在持续推动大规模液冷部署。液冷散热效率远高于风冷,业界正积极拥抱这一技术路线,以降低基础设施 PUE、提升能效水平,进而降低 Token 成本。

图片

第二步是“散热革命 2.0”,在现有基础上更进一步。在提升液冷占比的同时,字节跳动将研发 AI 制冷群控,实现从芯片到冷源的全链路效率优化;同时针对更高密度散热与更极致制冷需求,研发相变冷板与浸没式液冷技术。目前该领域尚处产业混沌期,各类技术分别适配何种散热场景尚无业界共识,字节跳动愿与行业专家共同探索。

图片

第三是交付速度与高可用性。此前在数据中心行业,这类工作属于很难量化的部分,但在算力和 Token 时代,它正日益成为产业竞争力的关键变量。

以交付速度为例,传统数据中心行业的建设周期通常为一年乃至两年,部分国家甚至超过两年。对于传统 CPU 及业务而言,这一效率尚可接受,因其业务周期较为漫长;但 AI 时代要求大幅压缩这一周期。

交付速度不仅决定 AIDC 何时投用,更决定算力卡何时上线:上线越早,闲置与折旧带来的时间浪费越少。

字节跳动目前采用预制化交付,交付效率大幅提升,交付周期已从一年以上压缩至一年以内(8-9 个月);长期目标是将该周期进一步降至 6 个月以内。

提升交付效率,主要涵盖三个研发抓手,如下图所示。

首先是预制化与模块化部署。将建筑、子系统及产品在工厂端预制、在现场拼装,可大幅缩短交付周期;

其次是推行标准化。前期需充分考虑不同算力芯片及全球供应链的供给需求,实施强力收敛,确保未来面对变化时交付环节不成为制约瓶颈。这虽需承担一定成本,但从基础设施建设的长远视角看,该投入具有显著价值。

第三是全球化供应链体系。需在全行业建立设备准入清单,打通全球各区域的生产、装配、采购和服务链条,从而在基础设施与能源供给层面支撑更长期的预制化、标准化交付目标。

总而言之,供给端每提前一天,Token 成本就能被更有效地节约。

图片

最后是智能运维。在早期阶段,运维稳定性的效果同样难以量化,例如“99.999%”与“99.99%”可用性之间的差异并不直观。

如下图所示,可用性从“99.9%”提升至“99.999%”,年宕机时间可从数小时缩短至几分钟。这一差异在 AI 时代被极大凸显:AI 芯片技术迭代周期通常仅 3-5 年,若其间发生数小时甚至更长时间的宕机,将对业务连续性与资产价值造成不可估量的损失。因此,基础设施和能源可用性的设计与优化更需得到重视。

具体而言,智能运维的研发涵盖三个方向:一是预测性维护,通过前置手段实现故障的早期预警与干预;二是数字孪生园区,在虚拟空间预演负载变化与故障场景,自动生成最优运行策略;三是自治运维,在异常发生初期即可完成判断与响应。

这些方向投入产出比极高,仅需对算法和系统进行优化,即可带来显著的 Token 经济价值。

图片

研发全景与黑科技

字节跳动目前的研发方向如下图所示,主要分为三大领域。

首先是液冷研发项目。从分工看,液冷与第二项冷源属同一类,但其战略重要性不言而喻——作为未来最重要的散热形式,字节跳动将围绕上图左侧所示的几个角度进行优化。

其次是冷源与风冷研发项目,未来主要聚焦液冷配套技术,并针对不同地域的气候与资源条件,提供差异化的节水、节电解决方案。

第三是能源到配电研发项目。字节跳动将重点支持下一代高密部署、可靠供能与储能,以及面向 AI 的负荷预测。

图片

在冷源架构迭代方面,字节跳动坚定推进风液同源架构。该架构包含多条技术路径,包括以水为基的同源与以氟为基的同源。

图片

在液冷领域,字节跳动当前以单相正压冷板方案为主,同时并行推进其他技术路径:一方面探索单相负压冷板,应对超高可靠性需求场景;另一方面布局两相浸没冷板,为未来三至五年更高功率密度的算力场景进行技术储备。

图片

如下图所示,这是字节跳动自研的负压液冷系统,目前已进入实际灰度落地阶段。该系统以负压设计提供高可靠性与无滴漏能力,同时可进一步提升散热性能、降低整体成本。

图片

在高效可靠的供配电领域,字节跳动围绕四个方向展开研究,如下图所示:一是持续迭代传统电力模块;二是研究负荷侧供配电,例如 800V Sidecar 近端配电方案;三是负荷研究,重点是峰值负荷尖峰;四是绿电、核能与分布式电站的部署调研。

图片

关于下一代 Token 工厂

最后,畅想下一代 Token 工厂。如下图所示,字节跳动将把四个约束耦合在一起进行研发。

第一是业务与芯片侧,既是制约因素,更是驱动力。未来芯片与业务发展的侧重点变化,将驱动基础设施与能源的投资及技术选型;

第二是能源供给与用水。需从资源角度确定 AIDC 选址原则,锚定当地能源与水资源的可获得性;考虑到不同地区供给能力的不确定性与客观限制,需针对性地开发适配方案。

第三、第四是从优化 PUE 与 WUE 的角度,除响应约束外,还需降低总体拥有成本。

从研发周期看,大致分为两个阶段:过去 5-6 年更多处于规模化落地阶段;接下来 3-5 年,字节跳动将实现 Token 工厂的技术引领,所有技术规划与研发方向均瞄准前沿探索,以建设更可靠的 AI 工厂为目标。

图片

下图为字节跳动主要技术方向的全球落地规模。自 2022 年起,字节跳动已启动液冷技术的前沿探索与部署。尽管当时尚未进入 AI 大爆发时代,这一探索已验证了液冷技术方向的正确性。目前字节跳动在运行及在建的机房规模已超过 GW 级别。

在风液同源及无水氟泵方面,字节跳动已实现大规模落地:国内部署规模超过 GW 级别,海外也实现数百 MW 的广泛应用;锂电池与分布式冗余在海外亦有超过 GW 的大规模部署。

图片

关于下一代 Token 工厂的未来合作,从协同落地到国际影响力打造,字节跳动将采取四步走策略:首先坚持以技术落地为起点;其次在落地基础上与业界共同复盘、迭代并优化现有方案与产品;其三以 GCC 等行业组织为载体,联合合作伙伴共建相关标准,推动产业白皮书及开源项目形成;第四,推动中国公司、设备商与互联网企业从中国走向世界,助力GCC成为具备世界影响力的组织。

图片

拓展阅读

图片
图片
图片