LongCut logo

未来公司都将建立在Harness工程之上 | 黄仁勋 | LangChain | Nemotron | 企业AI | 智能体 | RAG | 开源模型 | AI部署 | 深度学习 | 科技前沿

By 最佳拍档

Summary

Topics Covered

  • Highlights from 00:00-03:30
  • Highlights from 03:31-07:35
  • Highlights from 07:36-11:53
  • Highlights from 11:53-16:32
  • Highlights from 16:33-20:38

Full Transcript

大家好,这里是最佳拍档,我是大飞 不知道你有没有想过一个问题 我们现在谈论AI的时候 到底在谈论什么?

是越来越聪明的基础模型 还是各种各样的应用?

7月8号 英伟达的黄仁勋和LangChain的创始人哈里森·蔡斯坐下来聊了一次天 这次对话可能会重新定义未来十年每家公司的构建方式 黄仁勋在这次对话里说了一句非常重的话 他说今天大多数公司建立在业务流程之上 而未来大多数公司 将建立在Harness工程之上 这句话到底是什么意思呢?

Harness工程又是什么?

为什么它会比模型本身还重要?

今天我们就来总结一下这场对话的关键内容 先给大家交代一下背景,过去这半年 整个AI行业的变化其实比很多人感知到的要剧烈得多 我们一直在说模型能力在提升 参数规模在变大 多模态能力越来越强 但是黄仁勋一上来就点破了一个关键 他说尽管英伟达在AI领域已经深耕了15年 但真正改变一切的

就是刚刚过去的这六个月 不是因为某一个模型突然又刷新了什么榜单 而是所有的技术 包括大语言模型的进步、规模扩展、各种重大突破、全能模型、多模态 所有这一切在这个时间点汇聚到了一起 AI终于变得真正有用了 你注意这个词,真正有用 这和我们之前说的AI很厉害是两回事

厉害是你觉得它能写文案、能做题、能跟你聊天 但有用是当世界上每一家公司、每一个企业都想把它拿到自己的业务里去用 这个时候问题就来了,怎么用呢?

黄仁勋说 虽然我们知道大语言模型是核心要素 是关键的赋能技术 但是要把它转化成真正有用的产品 必须在它周围构建一个系统 也就是我们现在称之为Harness工程的东西 回想一下我们这一路是怎么走过来的 最早我们把大语言模型包装成可以调用的API 然后用它构建RAG系统 一步一步走下来 最终催生了今天我们说的AI Agent

黄仁勋说过去六个月真正的大突破 不是模型又涨了多少个点 而是这些Agentic系统真的成熟了 什么叫Agentic系统?

就是以信息和知识为基础 可以自己调用工具去搜索 可以管理自己的记忆,有安全护栏 而且能够不断迭代 一直到把任务完成的系统 当然了 这一切最终都需要模型本身的能力达到一个门槛 所有技术才能在这个爆发点上汇聚 他专门提到Claude Code真正为Agentic系统带来了想象力 当然开源也意义重大

还有LangChain在Deep Agents上做的所有工作 英伟达自己也在使用 所有这一切交汇在一起 Agentic系统就这么诞生了 英伟达为什么要花这么大力气 去建开放的AI Agent生态和技术栈呢?

黄仁勋说这其实是他们多年来一直坚持的方向 就是做开放系统 因为AI本质上是一项基础技术 基础技术的价值就在于 它要被应用到大量不同的场景里才能发挥出来 我们可以想象这样一个世界 科学家在用它 数字生物学家在用它 设计师、机器人专家、学生、研究人员 还有企业里的IT部门

所有人都能用Agentic系统和AI来解决自己领域特定的问题 这里面有个很关键的飞轮效应 我们要解决的很多问题 要么需要外界根本拿不到的专业领域知识 必须把这些知识嵌入、注入到AI里 要么就是当我们把AI放进一个飞轮里 它会越用越强 变成一个超级AI Agent 我们使用它 它就变得更聪明、更实用

用得越多就越聪明,就像我们人一样 随着时间推移不断学习 所以黄仁勋说他们构想的未来是 有强大的基础模型 但同时人们也想要构建专业的、特定领域的AI 英伟达就是要促成这样一个世界的到来 聊到这儿 蔡斯问了一个很实际的问题 专业化到底应该怎么做呢?

是纯粹靠模型本身 还是也要靠Harness和外部的上下文呢?

而且他还抛出来一组很有意思的数据 Nemotron 3 Ultra在LangChain团队的Harness调优之下 内部基准测试拿到了86%的成绩 已经非常接近Claude Opus的87%, 而DeepSeek和MiniMax的模型大概在82%、83%左右 这说明部分开源权重模型已经达到了前沿性能水平 而且成本只有Opus的十分之一 这种成本上的巨大优势

会怎么改变开发者的权衡取舍呢?

黄仁勋的回答很直接 他说专业化的前提 是你得先有一个足够优秀的智能 这也是他们为什么要做Nemotron的原因 Nemotron Ultra本身作为一个起点已经相当棒了 但是当你在它周围套上 Harness 让它能够以特定领域的信息为基础的时候 它就会变成一个不可思议的模型 他打了个很通俗的比方 当一个聪明人能够访问极其重要的信息时

他就会变得超级有用 所以信息的访问权限至关重要 更有意思的是他提出来的下一个阶段 他说把模型放入飞轮之后 甚至可以在Harness内部 针对这个Harness对模型进行后训练 这样模型就会特别善于应用它周围的Harness工程 他认为这个时刻现在已经到来了 但前提是我们需要一个开放的Harness系统 一个我们可以自己构建、自己应用

并且能随着时间推移不断改进的系统 说到成本因素 黄仁勋的视角很有意思 他说成本优势体现在好几个不同的层面 他个人认为 当你拥有高性价比的智能时 人们就会用得更多 因为当你有一个高性价比的AI Agent时 你就可以让它在更大的搜索空间里进行迭代 结果反而可能得出更好的答案 就拿Nemotron来说

它性价比高是因为速度极快 计算效率高 当计算效率高的时候 它就能探索更大的空间 这就好比一个思维敏捷的人可以探索更多的思路 当你能更快地尝试各种可能性时 你就能找到更好的答案 这就是Nemotron 3 Ultra在Harness中的巨大优势 它思考速度快,探索速度快 迭代效率高 所以总能找到更好的答案

黄仁勋说他们创造了一个接近前沿水平的模型 这已经让他很兴奋了 但是真正让他激动的是 通过调整Nemotron周围的环境 也就是Harness 让它展现出了前沿能力 其实这个道理对人也是一样的 我们当然喜欢招世界上最聪明的人 但除此之外 我们还要给他们提供工具 给他们信息访问权限 为他们创造周围的环境

赋予他们发挥全部潜力的条件 所以重点是调整环境 而不仅仅是调整模型 这正是Harness的价值所在 听到这里你可能会问 既然这些开源模型已经这么好、这么快、又这么便宜 那前沿模型还有存在的必要吗?

是不是以后只用开源模型就行了呢?

黄仁勋的回答非常清醒 他说前沿模型一直在不断进步 他完全相信前沿模型会变得极其强大 而且它们在模型改进上还有很长的路要走 Scaling Laws当然会继续发挥作用 它们的Harness工程也在不断改进 处理记忆的技术 不管是工作记忆还是长期记忆 都在以令人难以置信的速度发展

还有压缩技术、RAG、知识图谱方面的所有进展 大量惊人的技术进步正在被整合到这些前沿模型的API里面 那他自己是怎么用的呢呢?

黄仁勋说他所有的工作总是从前沿模型开始 原因很简单 它有用,他知道它的潜力在哪里 虽然要多花一点钱 但是完成工作的速度很快 然而随着时间推移 他会发现自己想要给这些前沿模型添加子AI Agent 想要连接一些在某些技能上 表现得像超级AI Agent一样的子AI Agent 比如英伟达内部有跟供应链相关的优化问题

还有芯片设计优化和布局规划优化的问题 这些优化问题极其困难 你不可能指望让一个通用AI在那里大量运算 就得出一个绝佳的答案 所以他们会专门创建超级子AI Agent 甚至会把它们和专门的工具连接起来 这个东西是为了特定的一项工作而构建的 比如它不会帮你预订差旅行程 它就只想优化好供应链 在那种情况下

就特别需要把它跟大量的专有知识和专有技能连接起来 黄仁勋说他们有一个完整的团队 专门致力于完善这些Agent 说到这里他抛出了一个很重要的判断 他说这其实就定义了一家公司 一家公司实际上是什么?

就是一大堆这类极其专有、极其重要的工作流的集合 现在有了内置Deep Agents和Nemotron 3的LangChain 它为员工提供了所需要的所有控制力 以及超级高效地访问各种不可思议工具的能力 这,就是未来 那企业具体应该什么时候开始走专业化这条路呢?

是不是要等模型再成熟一点?

黄仁勋的答案非常干脆 只要模型变得足够优秀就可以开始 他自己会从Claude Code和Codex开始 并且尽可能长久地使用它们 他说,很多东西永远都不需要替换 因为它们一直在变得更好 而且它们的发展轨迹会带来惊人的能力提升 他把AI的未来和今天公司的运作方式做了个类比 今天我们开公司 雇佣员工是因为他们有领域专业知识

对工作和工作流程有打磨 还有他们在公司里获得的所有终身学习经验 这些都太有价值了 但同时我们也会聘请顾问 也会买外部工具的授权 也会把一些工作外包给其他人等等 他认为AI的未来就是这样的 我们会继续使用前沿模型 但是我们也会创造专业的超级AI Agent 而且这些AI Agent 实际上可以说是企业的核心资产

聊到企业落地,就绕不开一个问题 信任、安全和治理 企业要用AI 肯定要在模型周围构建一整套系统 让整个Agentic系统值得信赖、安全 并且有合理妥善的治理 黄仁勋在这里补了一句他最核心的判断 他说如今大多数公司都是建立在业务流程之上的 而在未来 大多数公司将建立在Harness工程之上

每个人都会创建自己专属的Harness工程 而这个Harness就代表了过去的某一项工作流 现在 这个工作流中的Harness工程正在变得更加自主、更加Agentic 效率也大幅提升 黄仁勋越说越兴奋 他说这是一次巨大的突破 你想想这个未来图景 一旦你成功构建了Harness 让它顺畅运转起来 它就能融入企业的业务流程 取得巨大成功

那接下来的问题就变成了 我们怎么让它表现得更好?

当然你可以不断优化输入的信息 也可以对Harness进行微调 但现在 你还可以在Harness内部直接提升AI模型的能力 也就是Nemotron 3 Ultra本身 他认为这是一项彻底的突破 是过去从来没有存在过的能力 说到这儿他毫不掩饰自己的兴奋 接下来聊到了一个所有企业决策者都会关心的问题 开放生态 企业在采用AI的时候

普遍强烈需要把基础底座建立在一个开放的生态系统之上 因为投进去的是全部的专属知识和流程 掌握完全的控制权至关重要 那黄仁勋究竟怎么看待 开放技术栈在赋能企业深度应用AI方面的作用呢?

黄仁勋的回答上升到了企业本质的层面 他说从根本上说 每家企业都是建立在特定领域或者某些专属知识产权之上的 我们为什么叫它知识产权 因为这里面的智力 本质上就是一种智能 每一家企业都奠定在某种专业化的智能基础之上 比如英伟达有自己的专长 他们不擅长所有事情 但在某一个领域做到了极致

每家公司都是以此为基石建立起来的 这种专业性,你们公司的专属智能 就定义了你们是谁 那你怎么可能不去控制它、不去优化它、不让它变得更好呢?

在黄仁勋看来 无论是个人、企业还是国家 把核心智能外包出去都是毫无道理的 当然,世界上存在通用智能 也有很多所有人都能做的通用工作 这构成了经济活动的重要部分 比如软件编程实际上就是一项通用技能 大家都在用Python或者C++编程 虽然应用在不同领域 但是编程技能本身在很大程度上是相通的

写作也是一项通用技能 正是基于这些底层的基础技能 我们才能进一步应用自身的领域专属智能 他给我们描绘了一个很清晰的分层架构 未来的社会底座会由这些通用基础模型构成 它们会被部署在云端 提供令人惊叹的能力 但是在这个平台之上 我们必须建立属于自己的专业能力 这需要依赖开放的工具 而且绝不能外包

他说,我无法想象 当我需要提升企业自身智能水平的时候 还要去向第三方求助 我必须在企业内部直接完成这件事 所以,未来的发展不是非此即彼的 不是说开源就一定要替代闭源 或者前沿模型就不需要专业化了 而是一个完美互补的愿景 而英伟达正在做的 就是确保自动化智能 深度融入工作与业务的方方面面

最终所有人都会因此变得更强大 说到这儿 蔡斯提到了英伟达当天发布的新产品 NeMo Blueprints里面的Deep Agents与OpenShell蓝图 这个蓝图允许企业在OpenShell这个安全而且开源的运行环境中 运行内置了Nemotron 3 Ultra的Deep Agents 充分发挥它的优势 希望借此大幅降低企业部署和运行AI的门槛 那黄仁勋怎么看待这些系统蓝图呢?

英伟达投入大量资源研发这些蓝图的初衷是什么?

黄仁勋给了很高的评价 他说这是一项具有里程碑意义的成果 为什么这么说?

因为构建属于自己的、特定领域专属的超级AI Agent 所需要的所有核心要素 包括底层技术、核心组件、开发工具、Harness 还有像蓝图这样极具价值的示范 现在已经全部为大家准备就绪了 为什么蓝图这么重要?

因为现有的开发工具依然有些晦涩难懂 而且涉及的组件过于繁杂 构建一个AI Agent真的不是一件容易的事 它囊括了很多不同的技术模块 有大语言模型 有要调用的工具 有需要处理的知识图谱,有记忆系统 有安全护栏系统 有微调系统 还有基于Harness的后训练技术 以及Harness本身 等一切开发完毕 你还需要一个运行环境

必须把它放在沙盒里面确保安全性和隐私性 还要配套严格的访问控制 这必须是企业IT部门能够切实掌控的平台 你看 这么多东西拼在一起才能跑起来 对绝大多数企业来说门槛确实太高了 蔡斯接着问 在企业内部部署运行环境 最困难的部分是不是伴随而来的所有安全管理事项呢?

黄仁勋说这是肯定的 如果不解决安全管控和权限分配的问题 根本就不可能实现部署 他又打了个特别形象的比方 这就像公司不可能招进一个新员工却不办理入职手续、不分配权限一样 我们不会给每个员工开放所有文件和所有网络的访问权限 企业会根据员工的岗位职责和工作需求 给他们分配笔记本电脑

给他们设计软件或者编程工具的使用权 开通特定网络的权限 提供必要的信息 把他们跟其他AI Agent或者一起共事的同事连接起来 同时还会提供一份工作指南 明确告诉他们,这是你的任务 过去我们是这么做的 现在请你把它做得更好 所以他说在很大程度上 我们就像是在为AI构建一套人力资源系统

这套系统能赋能企业的IT部门以及各个业务单元 让他们能够在公司内部顺畅地构建、优化并部署这些AI Agent 这个比喻很有意思 大家可以想想我们是怎么管理人的 就怎么管理AI 入职、权限、培训、考核、协作 整套逻辑其实是相通的 聊到这儿话题转到了一个很有意思的方向 就是拟人化 现在很多人谈论AI Agent

试图把它们带入人类社会体系的时候 往往会极度地把它们拟人化 但AI Agent毕竟不是人类 它在某些方面远超人类 在其他一些领域却跟人类截然不同 甚至表现还不如人类 那我们应该在多大程度上 把这些AI Agent拟人化才是合理的呢?

黄仁勋的回答非常冷静 甚至可以说给很多人泼了一盆冷水 他说它只是一堆电子流 它是基于电子运行的软件 而不是由原子构成的物理实体 它没有生物特性,不具备意识 也没有自我觉醒 所以它根本不是我们人类那样的存在 它只是一个工具 就像满屋子跑的扫地机器人一样 在屋子里转悠、打扫卫生 做着人类以前做的事

想象一下 一百年前第一台洗碗机问世的时候 看着它自动洗碗一定觉得非常神奇 我们甚至叫它洗碗机 听起来就像是在描述一个人一样 他说在很多方面 我们最终都会对这些自动化工具习以为常 现阶段人们确实倾向于赋予AI太多的人类特征 但实际上它离具备人性还差得很远 本质上只是软件和计算机程序

我们完全清楚它是怎么工作的 毕竟围绕它运行的Harness就是我们亲手编写的 既然它能够不断迭代升级 我们显然也洞悉了它的底层逻辑 如果我们不了解它的工作原理 又怎么能不断优化它 怎么修复它的漏洞呢?

所以显而易见 我们非常清楚这些系统的运作机制 我们只需要理性看待它作为工具的本质就可以了 当然黄仁勋也提到了一个很有意思的观察 他说我们看到的一个现象是 使用AI越多 反而需要雇佣更多的人才 为什么?

因为部署AI Agent是一门全新的技能 现在有大量的软件工程师转型去构建AI Agent 他们过去靠敲击键盘编写代码 但现在都在致力于开发AI Agent 他说,你要是问他的团队 他的软件工程师们绝对更热衷于开发AI Agent 而不是枯燥地编写Python代码 传统的编程更像是单纯的打字

所以未来他们亲自打字的工作量会大幅减少 他们会进阶为系统工程师 投入到构建极其酷炫的自主系统中去 他们在设计评测、建立基准测试、打造安全护栏 把AI普及到现实世界中需要付出的工作量是惊人的 这实际上创造了大量的就业机会 他的软件工程师们对此乐在其中 这里他专门强调了评测的重要性

评测是企业内部大规模应用AI Agent的关键前提 你需要清楚它的表现究竟怎么样 而对质量的量化评估 通常最适合交给企业内部的领域专家来完成 专家们可以轻松地提供反馈、跟系统协同工作 从而把繁琐的日常事务自动化 最终腾出时间去从事更具智力挑战和创造性的工作 黄仁勋补充说,在很多情况下

无论你是一名医生、设计师还是软件工程师 你其实都在培养自己的AI Agent 你把繁杂枯燥的任务剥离出来交给它去做 同时在努力让自己的AI Agent进化 去完成那些过去根本无法触及的高难度挑战 当然了 这需要极高的想象力、创造力以及深厚的技术积淀 最后主持人问了一个面向未来的问题

目前AI Agent最好的应用场景大多还是提高效率 核心思路是回溯过去我们在做什么 看看能不能自动化 但未来真正的突破口在于解决那些过去做不到、现在终于能做到的事情 要推动走向这个理想的未来 目前的AI Agent技术栈中 还缺少哪些关键的拼图呢?

黄仁勋的回答非常干脆 他说英伟达如今正在做的 就是为构建超级AI Agent提供最底层的构建模块、基础底座以及所有核心要素 他给大家列了一下现在已经就绪的所有核心组件 有世界级的语言模型Nemotron 3 Ultra 有已经完成针对性微调、能彻底释放全部潜力的 Deep Agents框架 有帮助所有人实现这一目标的蓝图

有保障系统安全的OpenShell运行环境 还有无缝集成的底层加速技术栈 他还举了个很具体的例子 说他的一位好朋友刚刚为DGX Spark构建了一个系统 现在你可以让这些AI Agent直接在DGX Spark或者DGX Station上运行 如果你愿意 甚至可以在公司内部搭建属于自己的超级计算机 当然也可以选择云端部署

如今AI Agent的能力已经触手可及 你可以在任何地方为自己构建专属的系统 最后他说,所有的技术拼图都已拼齐 现在已经没有任何借口不去拥抱它了 聊到这儿这次对话的核心内容就差不多了 其实老黄这次把话讲得很明白 模型当然重要,它是基础是起点 但真正定义企业核心竞争力的 是我们围绕模型构建的那套Harness工程

是我们注入的专属领域知识 打磨的专有工作流 未来每家公司的核心资产 不是你用了哪个模型 而是你自己构建出来的那个专属超级Agent 而且他也打破了一个非此即彼的迷思 不是说开源就要替代闭源 也不是说专业化就不需要前沿模型了 两者是互补的关系 就像公司里既有正式员工也有外部顾问 大家各司其职

但有一条底线他讲得非常坚决 核心智能绝对不能外包 那是定义你是谁的东西 必须掌握在自己手里 感谢收看,我们下期再见

Loading...

Loading video analysis...