挑战GPU、绕过HBM,深挖史上最大芯片背后的Cerebras
By 硅谷101
Summary
## Key takeaways - **晶圆级芯片绕过HBM与CoWoS瓶颈**: Cerebras把整片晶圆做成一颗AI芯片,面积是当时最大GPU的56.7倍,因为计算与内存同处一片硅上,内存带宽达到GPU的数千倍级,产品还避开了HBM、CoWoS封装和3纳米产线这三大最紧张的AI芯片供应瓶颈。 [07:08], [39:50] - **极小核心加冗余路由破解良率难题**: 在46225平方毫米的WSE-3上预计出现约46个缺陷,Cerebras把每个核心缩到0.05平方毫米,仅为H100核心的约1%,再预留1%到1.5%备用核心配合动态片上网络,把困扰行业70年的良率问题变成了可管理的工程问题。 [14:42], [15:27] - **百度Scaling Law催生晶圆级赌注**: 百度研究员Dario Amodei与Greg Diamos发现模型越大越聪明的Scaling Law,并训练了当时全球最大的3亿参数语言模型,意识到未来GPU集群撑不起模型规模,这才有了Cerebras从第一天起就押注晶圆级引擎的激进判断。 [02:48], [03:35] - **推理时代带来约15倍速度优势**: 推理的decode阶段是严格串行的,对内存带宽极敏感,Cerebras在这一阶段比GPU快约15倍,平均每秒输出超过2000个token,让实时代码补全、互动教学和AI科学家等需要即时反馈的应用真正成为可能。 [31:22], [32:08] - **平安夜签下OpenAI 200亿美元合同**: 2025年12月24日,Cerebras与OpenAI签署总额超200亿美元的推理部署合同,承诺部署750兆瓦算力并可扩展至2030年的2吉瓦,是全球史上规模最大的AI推理部署合同,从意向书到主协议仅用四周,速度极为罕见。 [26:00], [26:21] - **G42既是救命客户也是上市绊脚石**: 阿布扎比G42让Cerebras从政府实验室走向商业化,2023年贡献83%营收,2024年上半年升至87%,却因CFIUS国家安全审查导致首次IPO被迫撤回,直到2025年3月才获放行,G42股份也被转为无投票权股份。 [22:28], [24:23]
Topics Covered
- 晶圆级芯片把七十年良品率难题变成工程问题
- 客户集中度如何击碎一次IPO
- 平安夜反转:英伟达吞下Groq,OpenAI反向加注Cerebras
- 推理时代:串行计算偏爱内存带宽
- 速度阈值之下,AI才真正进入实时场景
Full Transcript
十年前 这是一家没人看好的公司 从成立第一天 它就只想做一种 从来没有被造出来过的芯片 它试图挑战英伟达的霸主地位 却在成立之初屡屡碰壁 多次濒临倒闭 十年磨一剑 今年5月 它终于上市了 市值一度接近千亿美元 CEO说 我们愿意和每一家
Hyperscaler(超大规模云服务商)合作 提升AI推理速度 除了英伟达 当别人说“这个问题解决不了”的时候 你心里想的是 是“你”解决不了 我们有幸采访了Cerebras的早期投资人 和最早证明Cerebras产品可以落地的 研究人员 我们还和Cerebras内部负责产品的高管 讨论了近两年来Cerebras的转型 和IPO之后的动作 那串起这些蛛丝马迹之后
我自己也很惊讶地发现 要理解Cerebras上市的辉煌 我们需要回到十年前 回到一块白板 一个快要倒闭的创业公司 一段几乎没有人相信的物理学赌局 还有一个拥有当时全球最大语言模型的 AI实验室 如何在一个不可能的时间节点 成为了这个故事里最关键的那一页
这是Cerebras的故事 2014年 吴恩达离开斯坦福AI实验室 加入百度 受到Google Brain启发 百度投入了3亿美元 成立了位于硅谷的AI实验室 他们最主要的目的是 让深度学习发挥商业价值 而对于当时的互联网公司来说 这大部分都是物理层面的应用 自动驾驶、机器人、语音识别
我当时会这么兴奋是因为在英伟达的时候 我就在想我们应该把整个CUDA的路线图 都转向深度学习 因为AI终于开始真正起作用了 一开始 这主要是在视觉任务上被证明的 比如图像识别 但后来 Andrew(吴恩达)加入百度之后 我们开始重新思考这个问题 他的想法是 我们应该做一些真正有产品影响力的东西 做一些人们真的会使用的东西 所以我们才从语音开始
因为语音的用户规模 比图像搜索要大得多 这是Greg Diamos 他在独家采访当中告诉我们《硅谷101》 吴恩达当时为百度带去了一批 顶尖的AI研究员 Greg就是其中之一 在此之前 Greg在英伟达做了多年的 CUDA软件架构 而当年的CUDA 还是一个无人问津的内部项目 那时候
CUDA基本上就是个笑话 没人用 AI实验室成立后不久 百度团队就发表了一篇知名的论文 《Deep Speech》 端到端的语音识别模型 允许人们点击麦克风标志 对搜索引擎说话 他们还训练了世界上最初的 几个深度神经网络 下一步的计划是训练语言模型 我们当时有一个疯狂的卷发研究员
叫Dario Amodei 我们一起研究语言模型 也研究如何扩大语言模型的规模 那段时间 我们拥有世界上最大的 用于深度学习的CUDA集群 这后来也挺有名的 百度团队研究的语言模型 在当年是全球最大的 拥有3亿参数 训练这个模型 需要三个月的时间 在这个过程中
他们发现了一个规律 模型越大、数据越多、算力越强 模型就越聪明 而这个提升是可以预测的 是线性的 这个规律被称为Scaling Law(规模定律) 在几年后 这个经过验证的结果 被百度团队发表在了一篇论文里 叫做 《Deep Learning Scaling is Predictable, Empirically》 Dario Amodei后来将这个发现 带去了OpenAI
成为了GPT的核心逻辑 我第一次看到这个规律的时候就觉得 这是通向智能的道路 我当时简直不敢相信 智能居然有路可达 你想象一下 像我这一代学计算机的人一直被教育说 计算机科学里的进步都非常困难 每一点提升都来之不易 有些问题几乎是碰不得的 比如语音、语言、视觉这些问题
都非常非常难 但这个东西就是能跑通 而且它很简单 你需要做的 只是训练一个更大的语言模型 但问题也随之而来 如果Scaling Law(规模定律)是对的 那么要训练将来真正有用的模型 所需要的算力 将是现有的GPU集群 完全无法提供的量级 百度的研究员们意识到
他们需要一种新的硬件 在百度团队发现Scaling Law(规模定律)的同一年 有五位硅谷工程师决定离开AMD 在此之前 他们在一家 叫做SeaMicro的微服务器公司共事 2012年被AMD以3.34亿美元收购 这五个人的名字是 Andrew Feldman, Gary Lauterbach Michael James, Sean Lie, J-P Fricker
其中 Andrew和Gary是SeaMicro的联创 第一次聚在一起的时候 五个人在一块白板上写下了他们的愿望 他们希望 硅谷的计算机历史博物馆 有一天会出现他们的名字 从第一天起 Cerebras的目标就是 造一个为AI而生的硬件 在2015年 这个判断要归功于我的几位联合创始人
Gary Sean JP和Michael 他们当时已经看到了AI即将崛起 而这意味着 计算机会面临一个新的问题 AI软件对底层芯片、对处理器提出的要求 会和过去完全不同 我们逐渐相信 针对这个新问题 我们可以造出一台更好的机器
我们知道 最初的AI训练靠CPU和GPU搭配 CPU是总指挥 负责调度任务 GPU则像一座巨大的工厂 里面有成千上万个小工位 可以进行大规模并行计算 但AI训练远不止一次计算 参数、梯度、激活值全得在 显存、缓存、计算单元和GPU间来回倒腾
一旦模型大到单卡塞不下 就得切成几块分给多卡 让它们互相配合 我们看到的是 这将是最难的一个问题 但只要攻克了它 我们就能做出一台 又快又省电的AI计算机 所以真正拖慢AI的 很多时候是数据在不同芯片、不同内存
不同机器之间来回移动的过程 许多芯片公司解决这个问题的思路 是把GPU拼成一个集群 再花大量工程 解决它们之间怎么沟通的问题 而Cerebras的思路是 将尽可能多的计算单元、内存和互联 放在一整片晶圆上 成为晶圆级引擎 普通芯片的制造 是在一张晶圆上
同时印出几百个小芯片 然后切开 一块一块单独使用 但Cerebras是把整张晶圆 做成一个巨大的AI处理器 这片晶圆的面积是最大GPU的58倍 很多原本需要跨GPU、跨服务器 跨网络完成的数据移动 现在都可以在晶圆内部完成 传统GPU架构里
HBM(高带宽内存)是和计算芯片分开的 只要数据需要在内存和计算单元之间传输 就会耗费很长时间 这个过程受限于所谓的内存带宽 因为我们的内存和计算单元在同一片硅上 所以我们拥有极高的内存带宽
达到GPU的数千倍量级 2016年3月 Cerebras正式成立 由Benchmark领投Series A 融资2700万美元 说到这里 我们不得不感叹Andrew的远见 在2015年底 Cerebras决定押注晶圆级引擎的时候 Transformer架构甚至都还没有出现
而今天这套以大模型为核心的AI产业 也还远远没有成型 当时深度学习当然已经在爆发 英伟达也已经开始 把GPU推向数据中心和神经网络训练 但主流路线 仍然是把GPU拼成越来越大的集群 再用软件和高速互联 解决训练速度的问题 Cerebras的不同之处在于
它从一开始就问了一个更加底层的问题 如果AI会成为一种全新的计算负载 那能不能为它重新设计一台机器呢 有投资人回忆 2015年底与Andrew见面的时候 发现他当时有一页slide(幻灯片) 列出了深度学习面临的七个核心问题 而这些问题本质上都指向同一件事
训练时间太长 这也是上一章结尾我们提到的 百度团队所面临的瓶颈 这是投资人周楠 2016年她加入百度AI实验室 成为了Greg的同事 她的第一个任务 就是寻找一种为深度学习打造的计算方案 作为投资人 研究员们交给我的任务是 去寻找一种非常强大的
英伟达之外的AI算力方案 因为他们预测 在未来五到十年 更现实地说 可能是十年左右 会出现非常大的模型 参数规模会远远超过5亿 它会像一个维基百科模型一样 所以在当时他们都说 我们需要一种不同类型的GPU
或者说一种不同的计算架构 来确保模型可以继续扩大 而且训练得更快 因为当时的GPU 并不是为深度学习优化的架构 其实那个时候 挑战通用GPU的尝试还不少 谷歌已经在内部使用TPU 这是一种所谓的ASIC(专门集成电路) 是专门为了 机器学习里的矩阵计算而设计的 英特尔收购了
深度学习硬件创业公司Nervana 英国的Graphcore在做IPU Groq Habana SambaNova这些硬件公司 基本都是在这个阶段成立的 他们沿着不同的方向 试图重新设计AI芯片 Cerebras的方案 在这之中是最激进的 Cerebras对这个问题给出的答案 在当时是非常大胆的
我当时的理解是 如果AI会继续增长 如果模型会继续变大 那么整个计算机系统就必须被重新发明 而Cerebras的做法就是晶圆级计算 也就是Wafer-Scale Engine 所以那个时候 真正的问题和风险是 如果算力会成为AI进步的瓶颈
那么这种结构真的能工作吗 这种架构真的能加速AI计算吗 这个想法听起来非常疯狂 但我十年前做的整个尽调 最后变成了一个非常科学驱动的项目 我们的核心原则是这个架构到底能不能成立
所以我们把所有风险 拆解成很多很小、可以逐一验证的问题 接下来 周楠花了整整四周的时间 把尽调变成了一个科学项目 把所有的投资风险 拆分成了一个个可以验证的技术问题 第一 良率能不能控制 晶圆制造一定会有缺陷 如果一整片晶圆就是一颗芯片
那这些缺陷会不会让整颗芯片报废呢 第二 第一次流片能不能成功呢 在芯片行业 Tapeout(流片)意味着把设计交给工厂生产 一次失败 就可能意味着几千万美元的额外成本 和几个月的时间损失 第三 如果晶圆上有一部分区域坏掉
系统能不能识别、绕开 并且继续运行呢 第四 真实的AI工作负载 能不能被编译器映射到 这样一套全新的架构上 第五 它能不能接入客户已经在使用的 机器学习框架 而不是要求所有人从零开始重写代码 尽调过程当中的一个关键转折点 是在Greg见到Cerebras团队之后
那其实在Scaling Law的初步发现以后 Greg已经见了大概20多家 大大小小的做芯片的初创公司 这20家公司给他的pitch(提案) 都大同小异 基本上就是说 我们要做比英伟达更好的GPU 一开始Cerebras对他来说 也是这20多家当中平平无奇的一家 直到有一天 Greg来到了Cerebras的办公室
我就开车去了Cerebras的办公室 CEO拿出一本实验笔记本 对我说 我想出了怎么把更多处理器 真正集成在一起 接着 他们叫来一群做散热的工程师 搬出一大块金属 说 这是我们要连接到芯片上的热交换器 直接对接在芯片本体上 用来给它降温 我当时的反应是
等一下 GPU根本不需要这么大的功耗 你们想的肯定不是普通GPU 然后他们把一整片巨大的晶圆拿了出来 我一下子明白了 原来你们真的在尝试造一颗更大的芯片 而且不只是想造 你们已经成功有了一片 那一刻他意识到 Cerebras不是一个山寨版的英伟达 他们在做一件完全不同的事情
那就是造一块大到前所未有的芯片 如果Cerebras真的能造出来这样一块芯片 就会解决百度团队的核心问题 速度 周楠告诉我们 团队将Cerebras的编辑器 接入了百度自研的3亿参数语言模型 在Cerebras的模拟器上跑了一遍测试 得到了不错的结果 要知道 当时Cerebras
还没有真正出货的产品 他们只有一张实验室里的晶圆模型 和一台模拟器 四周后 周楠得出了她的结论 是的 这套架构是可行的 而且它非常重要 因为它真的有可能加速AI的发展 当然 那个时候Transformer还没有出现 但我们已经看到
语言模型的规模会变得非常非常大 远远超过5亿参数 其他的技术风险当然依旧存在 但周楠认为 它们都是可以被解决的 而且 如果真的出了什么问题 只要公司有足够的资金 这些问题就是可以解决的 所以我们决定押下这个激进的赌注 在这里 我们可以展开讲讲 Cerebras是如何解决良率这个问题的
在台积电5纳米工艺下 每平方毫米大约会出现0.001个缺陷 听起来很小 是吧 但Cerebras的WSE-3芯片 面积是46225平方毫米 算一下 这样一来 在一整片晶圆上 就大约会有46个缺陷 在一块传统芯片上 如果没有容错设计 这46个缺陷里
任何一个都足以让整块芯片报废 Cerebras的解法包括两个设计 第一 把核心做到极小 传统GPU的一个计算核心特别大 英伟达H100的一个SM核心 大约6平方毫米 一旦缺陷落在上面 这6平方毫米也就全废了 而Cerebras把每个核心
缩小到了0.05平方毫米 大约是H100核心的1% 这意味着同样一个缺陷 砸在H100上要损失6平方毫米 但砸在Cerebras上只会损失0.05平方毫米 仅仅是把核心做小这一点 就让Cerebras的芯片 在面对缺陷时的容错能力 是传统GPU的百倍量级
第二招是冗余加智能路由 Cerebras在整片晶圆上 多放了大约1%到1.5%的备用核心 平时这些核心是关闭的 闲置着 芯片上还内置了一套可以动态重新配置的 片上网络(on-chip fabric) 制造测试阶段 系统可以识别哪些区域有缺陷 然后把这些坏掉的核心屏蔽掉 通过片上网络绕开它们
把工作负载映射到正常区域 从软件的角度看 整片晶圆始终是一块完美无缺的芯片 那46个缺陷 被悄悄地隐藏掉了 这个思路其实不是Cerebras自己发明的 内存芯片厂商和GPU厂商 几十年来都在用“冗余核心”来处理缺陷 英伟达的H100需要132个核心工作
但芯片上实际造了144个 允许最多12个是坏的 Cerebras真正的创新 是把这个冗余的逻辑从一块小芯片 放大到了整整一张晶圆的尺度 用几十万个微小核心 加上一套能在整片晶圆上动态绕障的 路由网络 把一个“70年无解”的良品率难题
变成了一个可以管理的工程问题 在尽调之后 百度共同领投了Cerebras的Series C 其实在做出投资决定之前 周楠还见到了Andrew本人 创始人的个人魅力 也是说服投资人的重要原因之一 他会讲故事 但他也有愿景和信念 十年前 我做那四周尽调的时候
几乎每天都要和他通电话两个小时 问他每一个具体的风险点 他每一个问题都回答得非常好 你能感觉到 他有一种非常严谨的工程思维 他很清楚每一个问题应该怎么解决 当时 Cerebras的团队有70多名PhD
其中大部分人都在SeaMicro共事过 最后Greg告诉我们 就算Cerebras找不到客户 他也相信这个产品是有价值的 (Cerebras)可能最终会被 英伟达、AMD或者Intel之类的公司收购 就算他们找不到客户 (速度)对于百度来说是一个重要的挑战 所以我们决定和他们合作 虽然有周楠这样的投资人
选择相信Cerebras 但那段时间 Cerebras实际上举步维艰 从2016年成立到2019年中旬 Cerebras完全隐身 没有产品、没有客户公告、没有新闻稿 这个在外界眼里神秘莫测的硬件公司 内部却一度非常危险 那个时候Cerebras每个月的烧钱速度 大约是800万美元
每六周开一次董事会 他都要汇报同一个坏消息 芯片还是不能用 三年 也就是将近三亿美元 都花在一个没人见过的产品上 他们要解决的问题 不只是芯片本身 一张晶圆级的芯片 功耗高达25千瓦 大约是一个普通家庭年用电量的两倍多
集中在一块餐盘大小的面积上 这意味着他们还需要重新发明散热系统 重新设计供电结构 重新设计与服务器机架的接口 上一章里我们提到的技术问题 都是壁垒 2019年夏天 Cerebras终于让第一代WSE成功量产 并开始正常工作
那一天 几位工程师坐在Los Altos市中心 一间临时搭建的办公室里 盯着电脑屏幕 看着这个过去被认为不可能的系统 真的跑起来 半小时没人说话 没人做过这件事 当我们做到了 它成功了 2019年8月 Cerebras终于走出了隐身模式 他们在Hot Chips大会上发布了WSE-1
全球第一款晶圆级芯片 WSE-1的规格 在当时看起来近乎荒诞 面积超过4.5万平方毫米 是当时最大GPU的56.7倍 40万个AI计算核心 18GB的片上SRAM内存 相比之下 英伟达同期GPU的片上内存 只有几十兆字节 从具体产品上看
Cerebras会整体交付一台完整的系统CS-1 就是这台冰箱大小的机器 把芯片、散热、供电、接口 全部整合在一起 插进数据中心的机柜就可以直接使用 同年 Cerebras完成了 2.72亿美元的E轮融资 正式成为独角兽 但问题来了 谁会第一个使用它呢
商业AI客户在2019年还没有形成规模 大家也都带使用英伟达 市场上没人看好Cerebras 我们解决了计算机行业里最难的问题之一 但没有人在乎 第一代产品 我们可能只卖出了十几台 第二代 大概卖了300台
而到了第三代 我们现在是按上万台的规模在卖 中间有两三年的时间 我们其实是走在市场前面的 即使我们的速度特别快 也完全没有人在乎 Cerebras的第一批真正的客户 来自于一个意想不到的地方 美国能源部旗下的国家实验室 阿贡国家实验室 用Cerebras系统分析新冠病毒的变异序列
后来 这个实验协助获得了 2022年的戈登贝尔特别奖 那是高性能计算领域最重要的奖项之一 Lawrence Livermore国家实验室 用它来跑核聚变模拟 国家能源技术实验室测试的结果 是Cerebras系统 比实验室自己的超级计算机 快了大约500倍 这些客户用真实、严肃的科学任务
证明了这个技术可以落地 2021年 WSE-2发布 升级至7纳米制程 计算核心增至85万 晶体管数量达到2.6万亿 2022年 Cerebras用一台CS-2 在单台机器上 训练了参数量高达200亿的模型 创下了当时的纪录 这年 美国计算机历史博物馆
为Cerebras的WSE-2揭幕了一个永久展览 题为“The Biggest Chip in the World” 世界上最大的芯片 距离2015年 五位创始人在白板上 立下那个 想要被写进计算机算力历史的目标 过去了整整七年 2021年11月 Cerebras完成Series F融资 估值40亿美元 2026年5月
Cerebras IPO 估值950亿美元 五年间 估值涨了将近25倍 其中一半的功劳 都归功于一个客户 它在三年时间里 把Cerebras 从一家只有政府实验室客户的公司 变成了一家有真正商业规模的企业 但也是这个客户
让Cerebras的第一次上市计划彻底泡汤 G42是阿布扎比的一家AI科技集团 与阿联酋政府深度关联 同时是微软的战略合作伙伴 2023年 G42和Cerebras宣布了一个名为 Condor Galaxy的合作 基于Cerebras的系统 建造一个大规模超算网络 最大的一台超级计算机
算力达到4个exaflops 合同规模超过10亿美元 其实我自己 也是通过这个项目认识Cerebras的 2023年的夏天 是我接触科技报道的第一年 在Cerebras位于Santa Clara的数据中心里 我亲眼见到了 这台6.5英尺高的超级计算机 它在白色的机箱里有序地运作着 平静的白噪音 闪烁的蓝光
对我来说也是一个十分难忘的场景 Andrew当时告诉我 建造这台以WSE为内核的超级计算机 只花了10天 Cerebras和G42的合作始于2021年 通过Condor Galaxy G42想做一个阿拉伯语版的ChatGPT 技术验证本身是不够的 对于一家深科技硬件公司来说 光证明技术可行还不够
你真的需要一个大客户 愿意实际部署你的系统 愿意付真金白银围绕着项技术去建设 G42给了Cerebras这一点 我认为这对Cerebras帮助非常大 因为它为Cerebras带来了真正的收入 这对他们来说非常重要 财务数字就是最好的证明 2022年 Cerebras营收2460万美元
2023年 跳至7870万美元 G42占比超过83% 2024年上半年 G42的占比进一步升至87% 直到2024年9月 Cerebras向纳斯达克提交了S-1招股书 准备上市 美国外国投资委员会(CFIUS) 在看到Cerebras的大批营收
来自阿联酋客户G42之后 几乎立即启动了国家安全审查 最后Cerebras在无法获得 CFIUS(美国海外投资委员会)放行的情况下 主动撤回了S-1申请 G42持有的股份 被转换为无投票权股份 双方关系重新定性 最终 CFIUS在2025年3月31日 正式给Cerebras上市放行 虽然撤回了S-1
但这段时间的等待 并没有白费 2025年里 Cerebras完成了两轮 大规模私募融资 2025年9月的Series G 融资11亿美元 估值81亿美元 2026年2月的Series H 融资10亿美元 估值230亿美元 在等待上市的这段时间里 Cerebras用私募市场完成了再一轮资本化
2025年12月24日的平安夜 本应是安静的一天 但那一天 发生了两件事 改变了整个AI芯片产业的格局 第一件事是英伟达和Groq签署合同 达成了200亿美元规模的技术授权 和资产交易 Groq是Cerebras在推理芯片市场 最直接的竞争对手
它做的是LPU(语言处理单元) 专门为固定大小的模型设计 追求极致的确定性和低延迟 我对Groq一直没有那么兴奋 因为我心里总觉得 如果英伟达真的想做 它其实也可以做类似的东西 第二件事 就是Cerebras和OpenAI宣布合作 他们签署的合同 总价值同样超过200亿美元
OpenAI承诺部署 750兆瓦的Cerebras计算能力 用于OpenAI的推理业务 最大可扩展至2030年的2吉瓦 这是全球历史上规模最大的 AI推理部署合同 大家捋捋这个时间线 Cerebras是英伟达的挑战者 而就在英伟达吃下Groq的同一天
OpenAI选择把最大的推理计算合同 给了Cerebras 其实这个合作也并不令人惊讶 Sam Altman是Cerebras最早期的投资人之一 而两家公司团队从2017年起就频繁交流 他们都相信一点 随着模型规模扩大 硬件架构和模型需求迟早汇合
我大概是在2025年夏天中期 和Sam聊过一次 他第一次明确跟我说 我们之前一直非常努力 只是为了跟上需求 但现在 我们开始看到高速推理的重要性 这之后我们就开始做一系列试验和测试 结果显示 我们比竞争对手快得多 这感觉非常好
因为我们真正想服务的 是那些非常聪明 正在用我们的东西做有意思事情的客户 所以我们和OpenAI的一些工程师开始合作 他们看到之后的反应是 哇 现在我们明白了 于是OpenAI和Cerebras在感恩节前夜 签了term sheet(投资意向书) 在四周后的平安夜 签了master agreement(主协议) 一个200亿美元以上的交易
能在四周内完成 其实是很罕见的 OpenAI选择Cerebras的原因很简单 速度 以及供应链多元化 OpenAI需要的算力 已经不是单一供应商能够完全满足的 它也需要高速推理来支撑实时产品 同时它也不想在推理业务上 只依赖一个算力来源 也就是Nvidia
这个合同落地的速度 也超出了预期 我们在二月份完成了第一个集成 也就是说在宣布合作后的几周内 我们就完成了和Codex的第一次集成 这个合作的反馈非常好 我们推出了Codex Spark模型 它特别针对速度和互动性做了优化 后端由Cerebras提供支持 并向全球开放
这也让很多开发者和个人用户 不只是企业客户 第一次亲身体验到Cerebras的能力 那在讲述OpenAI合作的时候 我们经常提到的一个关键词是推理 在最开始几章 我们关注的是Scaling Law 是模型的训练 这也是2024年之前 Cerebras和大部分硬件公司 都在关注的方向
训练是建造模型 你要把海量的数据喂给一个神经网络 让它学会了语言的规律、世界的知识 这是一个巨大的、一次性的计算过程 GPU非常适合做训练 是因为矩阵乘法是高度可以并行化的 你可以把几千块GPU连起来同时计算 但训练完成 AI被我们用上的时候
发生的就是推理这个过程 从硬件角度看 推理是一个非常特殊的计算过程 大语言模型生成回答的时候 不是一次性把整段话吐出来 而是生成第一个词 才能知道第二个词该是什么 生成了第二个词 才能继续生成第三个词 也就是说 推理有很强的串行性 训练的时候
你可以把海量数据分成很多批次 扔给几千张GPU并行计算 但推理的时候 尤其是生成答案的decode阶段 模型必须沿着时间顺序往前走 每生成一个token 都要进行一次模型计算 都要在模型权重、缓存和计算单元之间 搬动大量的数据 所以在推理时代 关键词是速度
模型能不能足够快地读到数据 足够快地生成下一个token 这个时候我们才能看到 Cerebras的WSE和GPU相比所产生的优势 对于推理来说 最关键的就是内存带宽 所以我们最根本的创新 是把计算机单元和内存放在同一片晶圆上 正是这种设计带来了极高的内存带宽
并最终为终端用户的应用 提供了高性能、高速度的推理能力 换句话说 Cerebras原本想解决的是 AI训练过程当中的数据搬运问题 但当AI进入推理时代之后 反而更加地利好Cerebras 你想想你每次和AI对话 调用agent(智能体)的时候
是不是希望速度快一点 更快一点 推理 也从一个辅助性的需求 变成了AI基础设施的核心 那我也问了Angela Cerebras为什么选择从训练市场 转而关注AI推理市场呢 我们一开始确实是从训练开始的 部分原因是在2016年 大多数公司关注的 都是训练基础模型 但现在不一样了
我们已经有了来自OpenAI、Anthropic 以及很多开源公司的前沿模型 这些模型已经足够强大 可以被广泛用于各种应用 从Cerebras的角度来说 我们其实两边都擅长 但当我们看到推理市场扩张得这么快 而且我们在推理速度上相比GPU 有大约15倍的优势时
我们就意识到这里会有一个非常好的机会 我们可以帮助那些正在使用推理的公司 以过去无法实现的方式继续增长 当然 推理市场的需求 也改变了Cerebras的产品形态 之前就像我们讲的G42这个例子里面 Cerebras卖的是超级计算机 但现在它开始把自己的硬件能力 包装成云服务
客户通过API发送请求 Cerebras在后端完成模型推理 把结果返还给客户 Angela告诉我们 他们已经把整个产品做成OpenAI API兼容 如果一家公司已经在用OpenAI 或者其他的兼容接口 就不需要重写整套代码 换成Cerebras的API key 就可以把请求送到Cerebras后端 在推理服务上
Cerebras目前平均可以看到 每秒超过2000个token的输出速度 相比之下 很多传统方案 可能是每秒200-300个token 只要大家用过agent(智能体)工作流就会知道 这样速度的提升会让使用体验大幅优化 更有意思的是 速度更快的时候 也会创造出全新的工作场景 这里我们来看几个例子
有一家Cerebras的合作伙伴 做了这样一个功能 当程序员把鼠标悬停在一段代码上 系统可以立刻显示这段代码 在整个项目里被哪些地方调用 依赖关系是什么 这个功能本质上 需要模型快速读懂代码上下文 再生成一个完整的调用图 如果推理慢 这个功能就很尴尬
如果光标要停留5-10秒才有响应 那开发者的思路其实已经断了 但如果响应几乎是瞬时的 它就不再像一个查询工具 而更像是IDE里自带的一部分 另一个例子是实时教育 想象你需要让AI给你解释一个复杂的概念 AI一边在虚拟黑板上画图 一边回答用户的追问
那用户可以直接圈出图上的某一部分 让AI再讲一遍 如果AI要停顿很久 这就只是一个普通教学视频加聊天框 但是如果AI能够立刻回应 它就变成了一个真正的老师 可以实时对话 第三个例子是AI科学家 有Cerebras的合作伙伴 在做一个面向药物研发的AI科学家
想象一下 在一个新药研发的会议里 团队正在讨论一个假设 这个AI员工可以在会议进行的同时 实时查找竞争对手研究 检索论文、测试假设 然后直接参与讨论 这些新的使用场景 都需要更快的推理能力 Cerebras的速度让他们能够变成现实
这就是推理时代最重要的变化 Agent(智能体)直接进入实时交互场景 代码、教育、科研、客服、语音助手 这些应用的共同点都是互动 而互动的本质 就在于速度 这也解释了为什么Cerebras 会在2026年这个时间点 迎来它的IPO窗口 在宣布和OpenAI合作后不久
Cerebras又在2026年3月 宣布与AWS合作 CEO Andrew Feldman 在采访中解释了这个合作的逻辑 并且宣布将会和所有的 Hyperscaler(超大规模云服务商)合作 除了英伟达 推理问题的本质是什么 它其实由两个部分组成 第一部分叫做处理prompt
第二部分是生成答案 所以整个推理过程就是先处理prompt 再生成答案 我们把第一部分叫prefill 把第二部分叫decode 而这两个阶段其实有非常不同的计算特征 我们后来意识到 有些机器比我们更适合做第一部分 因为处理prompt是一个可以并行化的问题
它和decode完全不一样 也就是生成答案 是一个严格串行的过程 所以我们带着这个观察去找AWS 说 我们可以用你们的训练芯片 来做一部分prefill 然后用我们的巨型芯片来做decode 这样组合起来 就会得到一个非常强大的解决方案
这个想法后来反响很好 现在我们也在和其他公司做类似的事情 用别人的芯片来处理问题的一部分 用我们的芯片来处理另一部分 基本上我们在和所有 Hyperscaler(超大规模云服务商)讨论这种合作 除了Nvidia 也就是说除了Nvidia之外其他人都可以合作
在我们继续讲Cerebras的IPO故事之前 我想先花一分钟 把Cerebras这十年做的产品解释清楚 第一层产品是芯片 2019年 Cerebras做出 第一代晶圆级引擎 WSE-1 这是世界上第一款晶圆级芯片 大小是当时最大GPU的56.7倍 但我们说过
Cerebras卖给客户的不是芯片 而是机器 这就是Cerebras的第二层产品 系统 WSE-1被装进CS-1系统里面 这是一台可以直接放进数据中心的 AI超级计算机 2021年 Cerebras发布第二代WSE-2 2022年11月 Cerebras用16台CS-2 拼成了Andromeda超级计算机
1350万个AI核心 超过1 exaflop的AI算力 功耗500千瓦 远低于同级别的GPU集群 这展示了多台晶圆级系统 可以组成集群的能力 让大语言模型训练 实现接近线性的扩展 2024年 Cerebras发布第三代WSE-3
这是当时最大GPU H100的57倍 这就是Cerebras的前三层产品 芯片、系统和超级计算机集群 最后一层就是我们上一章的时候提到的 云端推理业务了 2024年8月 Cerebras发布Cerebras Inference 客户不用买一台CS系统 而是直接通过API调用云服务
至此 Cerebras从一家硬件公司 转型为一家推理基础设施公司 2026年4月17日 Cerebras重新提交S-1 5月14日 正式上市 IPO前一天 投行给出的发行价格区间 大概是每股120-160美元
我当时就想 哇 就算是160美元 相比我们Series C进入时的价格 也已经是超过25倍的回报了 但到了IPO当天 我坐在纳斯达克交易台后面 看着那个数字一路往上走 200美元、300美元、380美元
这是我整个职业生涯里 见过需求最疯狂的一次IPO 首日收盘 311美元 涨幅68% 融资规模55.5亿美元 市值在盘中一度触及千亿美元 IPO的意义是把公司带到下一个阶段 让我们真正开始规模化 如果我们想跟上这个市场的增长速度
就必须进行巨大的投入 投入数据中心 投入制造能力 投入产品路线图 当然也要投入我们的整个软件栈 才能把这个产品真正做到它应该达到的样子 所以在我看来 未来一年我们最重要的任务 就是把规模扩到市场需要的地方
并且让尽可能多的客户用上我们的产品 但可想而知 上市并不是Cerebras故事的终点 上市后Cerebras其实面临着更多的挑战 首先我们来看供应链的问题 Cerebras的整条产品链 包括750兆瓦的OpenAI承诺 全部建立在台积电5纳米产能上 台积电是目前世界上唯一能够制造
Cerebras芯片的代工厂 那么Cerebras在未来能拿到多少市场份额 会不会取决于 它能够在台积电拿到多少产能呢 Andrew在Odd Lots播客上 没有直接回答这个问题 他承认 台积电当然是Cerebras供应链里 极其重要的一环 但他也说到 Cerebras有几个意外的优势 比如说它避开了当下AI芯片行业
最紧张的三个供应瓶颈 HBM(高带宽内存) 台积电的先进封装公司CoWoS 和台积电最先进的3纳米产线 这三个竞争激烈的供应链瓶颈 Cerebras的产品都用不到 第二是激烈的竞争格局 英伟达现在和Groq合作 有了自己的推理优化技术
Broadcom在帮各大云厂商设计定制ASIC 谷歌的TPU、亚马逊的Trainium 都在做推理 一批新的推理芯片创业公司也正在融资 对此 Angela是这样回答我们的 我对Cerebras的前景非常有信心 原因是我们拥有刚才提到的全栈能力 我们有能力在每一个层面继续创新 无论市场下一步需要什么
我们都能继续跟上市场的发展方向 由竞争带来的第三个风险 是重要客户OpenAI充满变数的战略走向 就在6月 OpenAI和Broadcom 发布了OpenAI的第一颗自研推理芯片 Jalapeño 这是一个专门为语言模型推理设计的ASIC 也就是专用芯片
OpenAI说 Jalapeño是它长期全栈 AI基础设施策略的一部分 未来OpenAI 想把模型、软件、网络、服务器 甚至是芯片本身 都更深地掌握在自己手里 当然 这并不意味着 OpenAI会立刻放弃Cerebras 因为OpenAI的算力需求太大了 但Cerebras必须证明 它能够提供的推理速度
是长期并且不可替代的产品 6月24日 Cerebras发布了上市后的第一份财报 股价下跌15% 甚至一度跌破IPO发行价 表面上看这份财报并不差 第一季度收入甚至高于华尔街预期 但Cerebras给出的第二季度指引中 调整后毛利率只有36%-38% 低于第一季度的47%
也就是说收入增长留下的利润空间 正在被压缩 对于一家上市公司来说 市场看到的是一个现实问题 包括数据中心、电力、冷却等在内的成本 会不会吃掉技术优势 对此 Andrew是这样回应的 我们在2026年初制定了一个计划 上市时我们也把这个计划分享给了投资人
而现在我们其实已经跑在计划前面 我们的毛利率也明显高于市场共识 而且我们给出的全年指引是 全年毛利率会比原计划高出10个百分点 同时我们也告诉市场在第二季度和第三季度 为了跟上需求 我们会从一些客户那里 把已经卖出去的设备再租回来使用
这会对毛利率造成 大约10到15个百分点的影响 我们这样做是为了继续服务好客户 确保我们能跟上 他们对高速推理产品的巨大需求 所以这就是整个故事
我们公布的每一个指标都跑在计划前面 但市场会不会买单 就是另一回事了 那投资人对Cerebras 长期、稳定盈利的关注 其实也是这个故事最有意思的地方 它不是一个英伟达挑战者上市的爽文 Cerebras的一波三折 其实在很大程度上
是对AI时代基础设施需求变迁的回应 当我们对模型的需求从规模变成推理 从能力变成速度 我们到底需要什么样的计算机呢 英伟达的答案是GPU集群 OpenAI在自研ASIC Groq选择了LPU 而Cerebras给出的答案 是一整片晶圆 十年前 它是硅谷疯子
而今天这个餐盘一样大小的芯片 就在数据中心里面 服务着一系列重要的客户 这个曾经的科幻电影 变成了可以登陆纳斯达克的现实 真实到资本市场开始用毛利率来审判它 这或许才是一个硬科技公司 真正进入主流世界的时刻 好了 以上就是Cerebras崛起的故事
我是《硅谷101》的Yiwen 大家不要忘记关注我们 不要错过来自硅谷的一线分享 大家的点赞、转发和留言 是我们做好深度科技 和商业内容的最佳动力 那我们就下期再见了
Loading video analysis...