Andrej Karpathy：回顾2025年LLM六大变革

你知道, 每 到 年 底 啊, AI 圈 子 总 会 有 各 种 各 样 的 总 结 但是, 要 说 谁 的 盘 点 最 能

让 人 眼 前 一 亮, 那 还 得 是 And re Car path ie 他 最近 对 20 25 年 大 语 言 模 型 的

一个 回 顾 我觉得 他 已经 不 只是 一个 技 术 总 结 了 更 像 是 一 份 未 来 语 言, 告诉 我们 我们 跟

AI 的 关 系 到底 会 怎么 变 来, 我们 就 进 去 看看 Car path ie 这 片 回 顾 一 上 来 就 扔 了 个

重 磅 炸 弹 他 说, 20 25 年 最 大的 变 化 根 本 不是 模 型 变 得 有 多 大 而 是, 它 们 的 本 质 从

根 上 就 变 了 嗯, 这 可 不是 什么 小 打 小 闹 的 更 新 用 他的 话 说, 这是 一 场 范 式 转 型 意思 就是,

整 个 游 戏 的 玩 法 全 都 被 改 写 了 那么 这 句 话 可以 说 是 他 正 格 分 析 的 灵 魂 了 Car

path ie 提 醒 我们, 别 再 把 这 些 AI 当 成 是 普 通 的 工 具 了 真的, 我们 得 开始 把它 们

看 作 是 一 种 全 新 的 我们 以前 从 没 见 过 的 智 能 实 体 只有 你 介 绍 了 这个 设 定 才 能 真 正

理 解 后 面 要 讲 的 这 些 颠 覆 性 的 变 化 那么 问题 来了 AI 的 脑 子 里 到底 发 生 了 什么 好,

第一 部分 咱 们 就 来 深 入 聊 聊 AI 的 训 练 方 法 还有 它 们 所 谓 的 思 考 方 式 到底 是 怎么 被 彻

底 改 变 的 20 25 年 最 大的 一个 Game Ch anger 就是 这个 东 西 叫 RL VR 你可以 这么

想, 以前 的 AI 就 像 个 学 生 做 完 作 业 得 等 老 师 来 批 改 但 RL VR 就 相 当 如 直接 给 了

AI 一 大 堆 带 标 准 答 案 的 练 习 测 比如 说 数 学 题 啊 编 程 题 啊 他 自己 就 能 知道 自己 做 对 了

还是 做 错 了 完全 不 需要 人 来 告诉 他 好 还是 不好 这么 一 来 他 就 能 自己 跟 自己 疯 狂 的 练 习 在 这个

过 程 中 自己 就 琢 磨 出 了 类 似 推 理 的 这 种 高 级 能 力 这个 对 比 就 非常 清楚 了 你看, 旧 的

方 法 RL H F 特 别 依 赖 人 的 主 观 判 断 效 率 其实 很 低 但 新 的 RL VR 呢 它的 奖 励 机 制 是

客 观 的、 自 动 的 所以 模 型 就 能 进 行 时间 更 长 也 更 深 度 的 自 我 修 炼 这 意 味 着 什么 呢 这

意 味 着 AI 公 司 可以 把 宝 贵 的 算 力 更 多 的 用 在 提 高 上 限 上 而 不是 打 好 基 础 上 说 白

了, 就是 花 同 样 的 钱 能 买 到 更 强 的 智 能 但是 啊 这 种 超 级 强 大的 训 练 方 法 也 带 来了

一个 谁 都 没 想 到 过 的 结 果 它 搞 出来 的 这 种 智 能 跟 我们 人 类 的 智 能 完全 不 一 样 甚 至 可以

说 有 点 怪 这里, K arp athy 用 了 一个 特 别 形 象 的 比 喻 他 说, 我们 不是 在 进 化 动 物

而 是 在 召 唤 幽 灵 这 句 话 简 直 是 一 针 见 血 你想 想, 我们 人 类 的 智 能 是 为 了 在 自 然

界 生 存 下 来 而 进 化 出来 的 但 LL M 的 智 能 呢 它的 目 标 只有 一个 就是 预 测 下 一个 词 是 什么

或者 解 除 一 道 数 写 题 这 两 种 完全 不同 的 进 化 压 力 就 搞 出来 一 种 我们 完全 不 熟 悉 的 非常 陌 生

的 智 能 这个 对 比 图 就 更 直 观 了 我们 人 类 的 智 能 大概 就 像 一 条 平 滑 的 曲 线 各 项 能 力

都 还 算 均 衡 但是 AI 的 智 能 呢 是 锯 齿 状 的 什么 意思 就是 它 可能 在 结 微 积 分 的时候 是 个

绝 世 天 才 但 一 转 头 在 某 个 常 识 问题 上 表 现 得 又 像 个 三 岁 小 孩 这 种 能 力 上 的 锯

带 起 伏 和 不 均 衡 就是 它的 特 点 那 这 种 锯 齿 状 的 智 能 会 带 来 什么 问题 呢 嗯 最 直接 的 一个 后

果 就是 以前 那 些 AI 排 行 榜 现在 基本 没 什么 参 考 价 值 了 为什么 因为 这 些 测 试 对 AI 来 说 就 跟 我们

考 试 前 刷 题 一 样 实 验 室 完全 可以 针 对 性 地 去 优 化 模 型 让 它 在 某 个 测 试 上 拿 高

分 但 这 真的 代 表 它 变 聪 明 了 吗 不 一定 可能 只是 变 得 更 会 硬 实 了 好了 我们 刚 刚 聊 了 AI

内 部 的 思 维 变 化 那 接 下 来 我们 看看 外 部 第二 部分 我们 就 来 聊 聊 我们 跟 AI 互 动 的 方 式 和

地方 也 就是 它的 工作 区 在 20 25 年 又 有 了 哪 些 新 花 样 20 25 年 一个 很 火 的 趋 势 就是 像

C urs or 这样 的 应 用 层 开始 爆 发 了 它 们 可 不 只是 简 单 调 用 一下 AP I 就 完 事 了

它 们 更 像 是 一个 项 目 经 理 帮 你 处 理 所有 复 杂 的 背 景 信 息 还 能 指 挥 好 几 个 AI 模 型

一起 干 活 而且 它 们 都有 一个 特 别 友 好的 界 面 最 酷 的是 什么 呢 是 那个 自 主 性 划 块 你可以 自己 调

节 让 AI 多 干 点 还是 少 干 点 这 就 好 比 你 把 一个 什么 都 会 一点 的 大 学 生 模 型 变 成 了 一个

真 正 能 上 手 干 活 的 专 业 团 队 但 真 正 的 改 变 还 不 光 是 我们 怎么 用 AI 一个 更 底 层

的 变 化 是 AI 开始 搬 家 了 它 住 到了 一个 全 新 的 地方 我们 来 看 这个 对 比 就 特 别 明 显 过

去 呢 我们 用 AI 总 是 要 去 一个 网 站 上 像 是 去 拜 访 它 一 样 那 现在 像 C ode C ode

这 种 工 具 的 出 现 就 代 表 了 一个 巨 大的 转 变 AI 变 成 了 一个 本 地 代 理 就 像 一个 小 幽 灵 直接

住 在 了 你的 电 脑 里 它 能 直接 看 你的 本 地 文 件 理 解 你 正 在 干 什么 这 种 无 缝 的 结 合 让 AI

变 得 比 以前 任 何 时候 都 更 实 用 好 既 然 AI 有 了 新 的 大 脑 又 搬 到了 新 的 家 那 很 自 然 的

它 就 给 我们 带 来了 一 种 全 新 的 创 作 方 式 这 也是 我们 最 后 要 聊 的 主 题 这个 新 方 式 就 叫

分 为 变 成 Vi be C oding 我觉得 这个 词 特 别 苦 这 可以 说 是 20 25 年 AI 卖 过 的 又 一个 大 坎

它 意 味 着 什么 呢 意 味 着 你 根 本 不 需要 会 写 代 码 你 只 要 用 大 白 话 描 述 一下 你想 要 个 什么

样 的 感 觉 什么 样 的 功 能 AI 就 能 帮 你 把 复 杂 的 软 件 给 做 出来 至 于 底 层 的 代 码 是 什么

样 的 你 根 本 不用 关 心 这 一下 把 做 软 件 的 门 槛 给 彻 底 干 萌 了 所以 就 像 C arp athy

说 的 关 键 点 就 在 于 代 码 变 得 免 费 可 诉 而且 是 一次 性 的 软 件 不 再 像 以前 那 样 是 个 需要

花 大 价 钱 精 雕 细 作 的 建 筑 了 现在 你可以 为 了 一个 临 时 的 小 需 求 随 口 Vi be 出来

一个 小 工 具 用 完了 直接 扔 掉 这 从 根 本 上 改 变 了 我们 对 软 件 这个 东 西 的 看 法 最 后 还 有一 点

也 特 别 重要 那 就是 AI 跟 我们 说 话 的 方 式 也 变 了 它 不 再 满 足 于 只 给 我们 涂 一 堆 干 巴 巴

的 文 字 了 你 像 我们 现在 用 的 这 种 聊 天 框 其实 跟 80 年 代 的 电 脑 命 令 行 差不多 挺 落

后 的 但 我们 人 类 是 视 觉 动 物 啊 所以 像 Go ogle 的 N ano Banana 这 种 模 型 就 预 示 着

一个 新 时 代 的 到 来 也 就是 大 语 言 模 型 的 图 形 界 面 很 快 当 你 问 AI 一个 问题 它 给 你的

可能 就 不是 一 段 话 了 而 是 一 张 动 态 图 表 或者 一 套 帮 你 做 好的 幻 灯 片 甚 至 是 一个 能 直接 上

手 玩 的 M ind y App 所以 总 结 一下 回 顾 20 25 年 我们 看到 的 就是 这 三 大 转 变 一个

我们 还 不 太 熟 悉 的 全 新 的 AI 大 脑 一个 从 云 上 搬 到 我们 电 脑 里 的 AI 工作 区 还有 一个

就是 从 文 字 进 化 到 图 像 的 全 新 创 作 界 面 不 过 就 在 我们 还 在 为 这 些 变 化 感 到 震 惊

的时候 K arp athy 扔 出 了 它 最 大的 一 颗 炸 弹 他 觉得 我们 现在 看到 的 这 一 切 整 个 行

业 所 做 出来 的 所有 东 西 可能 还 挖 不到 大 语 言 模 型 真 正 潜 力 的 10 % 就是 给 我们 留 下 的 一个

问题 一个 让 人 既 兴 奋 又 有 点 害 怕 的 问题 如果 20 25 年 这 些 天 翻 地 覆 的 变 化 真的

只是 冰 山 的 一 角 真的 只是 那 10 % 的 开始 那么 水 面 底 下 呢 剩 下 的 90 % 到底 藏 着 什么 它 又 会

把 我们 带 到 一个 什么 样 的 未 来 呢 真的 不 敢 想 谢谢 大家