“额度想重置就重置,不问财务”,Codex Tibo首曝幕后:产品没做好,就补偿用户

发布时间:2026-08-25 15:33  浏览量:1

整理 | 褚杏娟

近期,围绕 Codex 与 Claude Code 的使用额度问题,社区出现了一个颇为反常的现象:过去被视为“福利”的全局额度重置,如今开始成为部分重度用户新的抱怨对象。

现在,用户不满的重点已经不只是“额度不够”,而是逐渐转向额度机制本身的不透明和不可预测。尤其是 OpenAI 多次临时为付费用户重置使用额度后,一些用户发现,全局重置可能打乱原本的周额度周期,甚至让此前刻意保留的额度和手动重置机会失去价值。

一名 Plus 用户表示,自己的额度原本将在 8 月 26 日恢复,但 OpenAI 在 8 月 24 日突然将额度提前恢复至 100%,与此同时,下一次重置时间却被推迟到了 8 月 31 日。这意味着,对于已经提前规划好一周工作量的用户而言,一次看似额外赠送的额度重置,反而可能改变后续使用节奏。

这也引发了更多用户对 Codex “重置文化”的质疑。有用户直言,与其不断进行临时重置,“不如直接给更多额度”。还有用户指出,真正的问题并不是浪费了一次手动重置,而是全局重置可能将下一次每周限额的刷新时间进一步往后推。

围绕这一机制,Codex 社区甚至已经出现了“别再沉迷重置了,这是一种心理策略”的讨论。

还有用户进一步计算发现,如果一次临时重置同时意味着新的 7 天周期从当天重新开始,那么用户在一个月内获得的总额度未必明显增加,本质上更接近于“提前使用下一周期额度”。相比之下,如果额外重置并不改变原有刷新日期,才更接近真正意义上的额度赠送。

而近期 Codex 额度重置之后的异常消耗,同样成为用户近期集中抱怨的问题。有人自行追踪后发现,最近一次重置后,Plus 周额度对应的 API 使用价值似乎从约 160 美元下降至约 80 美元。同一天,另一名用户则表示,重置 Codex 额度之前,产品消耗一直较为正常,但重置之后,相似的日常任务让剩余额度迅速从通常约 60% 降至 28%。

Claude Code 社区也正在经历相似的额度争议。8 月 20 日,一名 Claude 用户表示,自己的周额度刚刚刷新,第一次 session 甚至还没有结束,就已经消耗了 Fable 5 周额度的约 20%。评论区另一名用户称,额度重置仅 40 分钟,周额度就已经消耗了 25%,而过去类似工作一小时通常只会消耗几个百分点。

“使用限额简直就是个笑话,而且每周都在变得更糟。”有 Claude Code 用户表示,自己工作约两个小时就耗尽了一个完整的 5 小时窗口,并消耗了约 17% 的周额度;第二天只是继续此前的旧会话、工作约半小时,又很快触发了整个 5 小时窗口限制。

相比单纯的额度缩水,用户更不满的是,为了避免过快消耗额度,他们不得不研究什么时候新开 thread、什么时候执行 compaction,以及是否应该恢复旧对话,额度管理本身已经开始干扰正常开发工作。

近期,针对社区热议的 OpenAI 用户使用限额重置问题,Codex 团队 Tibo 在参与 Matthew Berman 播客中首次公开详解背后逻辑,明确该操作并非营销策略,完全基于个人判断。

Tibo 表示,这一做法最初源于补偿:产品迭代过程中如果某项功能被搞坏、配置出错,或者体验没有达到预期,就给用户增加一些使用量,“感谢你做我们的用户”。同时,这一决定也没有复杂流程,并非先与市场或财务部门讨论。“我想什么时候按就什么时候按,感觉对了就按。”他还确认,办公室里确实存在一个实体重置按钮,

目前,Codex 用户量已突破 2000 万,Tibo 将本轮增长核心得益于 ChatGPT 与 Codex 的融合。依托 ChatGPT 庞大的用户基数,OpenAI 正在将编码能力开放给产品经理、设计师、市场人员等各类非技术从业者。

此外,Tibo 在模型速度上,Ultra Fast 模式理论速度比 Fast 模式快 10–14 倍,但在高频工具调用场景中,受网络开销、智能体执行路径限制的场景,用户实际仅能感知 3–4 倍提速。

而 OpenAI 降价背后,在他看来,效率提升首先来自算法层面,即利用最强模型优化整个技术栈,另一个层面则是算力战略。两年前 OpenAI 因大规模投入算力一度受到质疑,但现在看来,这是一次“疯狂又漂亮的赌注”。

OpenAI 内部对 Ultra Fast 模式采用优先级分配机制,优先供给系统宕机等高危应急场景,保障故障处置效率。同时该模式不对员工无限制开放,大部分算力资源预留外部用户与客户,员工使用量有明确上限。

针对外界关注的递归自我改进,Tibo 给出了更宽泛的定义。递归自我改进不只是用模型开发模型,同样包括使用模型去优化处于关键路径上的基础设施,例如推理栈、CUDA 内核、更高效的交互方式和云端智能体。

同时,他证实 OpenAI 已暂停绝对前沿的强化学习训练,核心目的是全面梳理、加固系统各环节,实现对技术体系的完全掌控后再重启迭代。

下面是播客对话的详细,我们进行了翻译和整理,并在不改变原意基础上进行了删减,以飨读者。

Google 与 DeepMind 的不同内部文化

主持人:我想从你在 Google 的经历说起。你当时在 DeepMind 团队,在 ChatGPT 出现之前,Google 有个东西叫 LMChat,你还发过推文说 Google 太紧张了不敢发布它,DeepMind 被阻止推出可能颠覆 Google 的产品。我经常想到这件事。在 ChatGPT 真正改变世界之前,你在做这些产品的时候心里在想什么?

Tibo:

那是一段非常令人兴奋的时光。DeepMind 是一个非常有创造力的地方。我主要专注的是我的专长,即用来加速研究的基础设施和产品。当时显然有一个团队在做语言模型和规模化扩展,他们取得了相当不错的结果,然后很自然地就会想:能不能把它变成一个你可以聊天、可以用来做各种事情的东西?于是类似 LMChat 这样的想法就自然而然地出现了。它先是内部使用,然后有人想把它做成一个公开可用的工具。

主持人:那是哪一年?

Tibo:

大概是 ChatGPT 出来前一年左右。

当时我们还在做很多其他东西,我就不展开说了,但那确实是个非常有创造力的地方。只不过 DeepMind 不是为发布产品而搭建的组织。OpenAI 在这方面非常不一样:研究和产品协作极其紧密,我们一起构思、一起共同设计很多东西,我们极度倾向于把东西做出来发布,也极度倾向于让人们能用得上这些东西。这正是我来这里的原因,使命、人、人才密度,OpenAI 真的有太多很棒的地方了。

主持人:你在参与 LMChat 的时候,有没有意识到这是个特别的东西,或者说它会变得特别?

Tibo:

当时确实感觉非常特别。那大概是第一次,你真正意识到模型已经可以生成连贯的文本,而且还能告诉你一些有用的东西。最开始,它更多是“好玩”,而不是“有用”,但后来它一点点变得越来越实用。

主持人:你说你经常想到这件事,我完全理解。我觉得在很多方面 Google 是自己绊住了自己。你从那里学到了哪些教训带到了 OpenAI?

Tibo:

这正是我经常回想它的原因。我会从团队文化、OpenAI 自身文化的角度去想哪些好的部分要保留,哪些不能做。OpenAI 有非常自下而上的文化,非常强调赋权。人们可以冒出各种想法,凑在一起,然后非常快地做出东西来。对于新产品想法的推进,总体上几乎没有什么阻力,这让人兴奋又开心,最终目标就是以积极的方式影响世界。对我来说,保留这种文化非常重要。

另一件同样重要的事是不能把产品搞得一团乱麻。你不能堆出一大堆功能,却没有整体方向和一致性。所以,这种快速尝试的文化还需要由另一套原则来平衡,包括简洁性以及真正为产品质量感到自豪。

我觉得 ChatGPT 的 iOS 应用是市面上最好的应用之一,我们希望继续保持这种水平。我们在体验愉悦度、性能、效率和简洁性等方面都投入了很多。也就是说,一方面我们有这些整体原则,另一方面仍然充分授权每个人去尝试新东西,并快速发布。

主持人:如果要给一位创始人提建议,如何培养这种文化,OpenAI 内部有哪些比较具体的元素或做法可以分享?

Tibo:

我觉得要有信念,要找到拥有用户的方式,并且根据反馈非常快速地迭代。还有就是愿意自我颠覆。这一点对创始人来说可能没那么相关,但对 OpenAI 这样的公司很重要。我们不断有新的研究、新的想法,要能判断什么时候是投入的正确时机,即使这意味着要从主业重新调配资源。这非常难,但极其重要。

主持人:这正是你刚才描述 Google 的情况,他们没能做到这一点。

Tibo:

公平地说,他们当然也有自己的计划,那一切都是某个更大计划的一部分。但对我来说,那并不是适合我的地方。

主持人:在 OpenAI,或者任何一家公司走向成熟的过程中,维持这种快速发布、愿意自我颠覆的文化会不会变得更难?尤其是你已经有了像“现金牛”一样不断赚钱的业务,而另一边有个可能很酷、很创新的新东西的时候。

Tibo:

我们是一家面向未来的公司。人工智能最终会变成什么样、它会怎样让人类受益,并不会因为你在未来 1 个月或者 3 个月里已经建立了什么东西,就停下来等你。所以,我觉得非常重要的是主动投入,睁大眼看清楚整体在往哪里发展,然后想清楚自己的定位,以确保能真正抓住那股浪潮。

对 OpenAI 来说也是如,我们训练模型,然后发现它们的能力。基准测试并不会告诉你一切,我们必须亲自大量使用这些模型,才会突然意识到:“原来它还可以通过这种方式创造价值”“原来它还能做这件事”。一旦有了这样的发现,你对产品的理解就可能发生变化。

比如现在我们推出了新的语音功能,跟它聊天特别愉悦,非常自然,它还能使用工具。这改变了很多事情,现在我花更多时间直接跟它说话。还有一件我天天做的事是语音输入,因为听写质量太好了,比打字输入提示词(prompt)高效得多。早上我就拿着手机坐在那儿,巴拉巴拉说几件要做的事,它就去执行了,它能调用我所有的工具。在有真正好的语音模型之前这是不可能的,这一下子就完全改变了你对产品的思考方式。

Harness 的创新空间有多大?

主持人:几周前你发过一条推文,你说:“再过 2 到 3 个月,现在的 Codex 看起来会非常原始。我们马上要经历又一次重大演进,下一代模型需要的不只是你的笔记本电脑。”我们先从智能体 harness 聊起。随着模型能力越来越强,这套 harness 还存在哪些很大的创新空间?

Tibo:

太多了。刚才我提到了语音。还有一个,现在如果你是 Codex 或其他编程智能体的资深用户,你可能已经习惯了某种笨拙感。

比如你要自己管理 skill 文件,这种文件可以用来“教”智能体一些东西,但很多人已发现,时间一长,它其实很难维护。记忆也是类似,它确实存在,但不一定总能记住所有事情。如果你使用子智能体,你又得自己管理这些子智能体。慢慢地,你就像是在手动搭建一个小型网络,而在与系统交互的很多环节里,那种完整的“幻觉”就会被打破。

真正理想的状态,是你拥有一个能够非常深入地理解你、理解你的目标、理解你每天在做什么,也理解你的团队正在做什么的系统。最好它既能响应你,也能主动行动,在日常工作中持续帮助你,同时不会破坏那种“它就是一个完美小伙伴”的感觉。这就是我们正在努力实现的方向。

还有一件事,当你有了非常强大的模型,你会发现笔记本电脑本身就成了一个约束。

笔记本电脑能处理的工作量是为人类设计的。它是为了承载你能产出的工作量、你打字的速度、你思考的速度、你需要同时开多少个应用,这些都是人类的约束。但模型没有同样的限制。未来,一个模型可能同时处理 100 个打开的应用也没什么问题。所以,从资源访问的角度看,未来的模型显然需要获得比一台笔记本电脑更多的资源。

主持人:我猜你说的是云端智能体。而且当速度突然提升以后,比如我们稍后会聊到的超高速模式(Ultra Fast),生成 token 的速度可能是快速模式(Fast)的 10 倍,我记得官方数字是 14 倍,这时瓶颈就会改变。或者更准确地说,是带宽约束发生了变化,CPU 反而开始成为新的瓶颈。工具调用、网络,以及技术栈里的任何额外开销,都会开始成为限制因素。

Tibo:

但你也可以通过并发来补偿。你可以同时做很多事情,比如一边探索,一边写测试,同时编译,再去验证一个新的假设,这些都可以同时进行。这样,你实际上是在不断转移整个系统里的瓶颈,因为你能并行完成更多工作,而模型又可以非常高效快速地处理。

主持人:以现在的 token 生成速度,我经常并行启动 10-15 个智能体,但这会给我带来非常明显的认知负担,因为我要不断进行上下文切换。任务发出去以后,往往要等 30-45 分钟才会回来。

但在超高速模式下,这套工作流会发生很大变化。我甚至觉得自己不可能再同时管理 10-15 个智能体,可能一次只需要 3 到 4 个,而这也许反而是好事。你觉得未来独立开发者的工作流会怎样变化?

Tibo:

我们非常在意怎样帮助人们更好地管理注意力,也就是怎样让产品对人的注意力更加友好。毕竟,我们最终是在为人类构建产品,希望做出真正增强人类能力的技术。这就要求我们围绕人的多任务处理能力来设计,比如你希望怎样管理自己的注意力?一件事情是现在立刻提醒你更好,还是 30 分钟之后再提醒你更合适?

当 Ultra Fast 模式和语音结合起来以后,体验会突然发生变化。你会发现,这个系统已经能够以和你一样快、甚至比你更快的速度工作。于是,你可以一直保持心流,持续构思、实时看到原型、生成一些小型报告,这种感觉非常好。到那时你会突然意识到:“之前那种同时管十个智能体的多任务方式,我真不想回去了。”

所以,我们希望带来的就是一种非常自然、同时又像是专门为你打造的体验。你不需要去适应技术,而是技术来适应你。

主持人:过去几个月,大家讨论了很多智能体编程技术。loops 之前很流行,现在仍然很流行;最近我又开始听到 graphs。这些技术是不是本质上都是为了让独立开发者更好地管理自己的注意力,就像你刚才说的,让系统对人的注意力更加友好?

Tibo:

我会把问题分成两类。第一类,是打造最好的个人通用人工智能或者说个人智能体。它和你一起保持心流,主动在发现价值的时候提出重要的新想法,极其高效地完成你想要的任何事,不管是技术问题,还是研究、建议,它都能做,而且超级为你量身定制。这非常重要,因为它建立在对“你这个人”的深度理解之上,理解你作为一个独一无二个体的特征。我们正在非常积极地推进这一方向。

另一类是完全自动化。这时你更多是在构建能处理非常复杂流程的智能系统。比如有些事情确实需要智能、看起来非常复杂:去看生产日志然后自动做性能优化,或者看回归问题并自动打补丁。在网络安全领域我们也看到了类似情况,比如扫描器发现一个漏洞,能不能自动修补,把漏洞暴露的窗口缩小到几乎为零。

整个过程可以没有 human in the loop,或者只保留极少量人工参与,例如只在某个高风险操作发生时需要人类批准。整体上,它会成为一个高度自动化的系统。这类场景里,你是不是始终直接控制它的每一步,其实没有那么重要。

ChatGPT 为什么要与 Codex 的融合

主持人:我想稍微换个话题。过去几个月,ChatGPT 和 Codex 一直在走向融合。首先我想问,这件事目前进行得怎么样?你们内部是什么感受?从客户那里又收到了什么反馈?

Tibo:

实际效果非常好。最开始我们听到的反馈是:“为什么一定要把它们合并?真的有必要吗?”但答案其实很简单:未来的模型要求我们走向融合。

因此,我们这么做,只因为这是一件更简单、也更正确的事情。我们正在打造一个高度个人化、能力极强的智能体,它可以用各种方式帮助你,而底层会是同一套技术、同一套智能体 harness,我们对它的理解也会是同一种方式。

它会是高度多模态的、语音优先,效率非常高,而且你是不是在写代码并不重要。这个智能体什么都能做,而且会以非常高效的方式完成。

与此同时,你看到的界面应该根据你的需求自动调整。你不应该先决定:“我是程序员,所以我要程序员界面”,或者“我不懂技术,所以我要非技术界面。”

现实中的人本来就处在一个“连续光谱”上。我们会给人贴上“软件工程师”“设计师”这样的标签,但这些只是人类为了处理现实世界中过于复杂的抽象而创造出来的概念。真正的个体就是个体,每个人都处在这个光谱上的不同位置。所以,我们希望构建一个能够适应所有人的完美界面。你是否懂技术并不重要,它会根据你这个具体的人进行适配。这就是做这件事的原因。

主持人:这是不是意味着,最终不可避免地会只剩下一个统一界面?不再有下拉菜单让你在不同产品之间切换?想想还挺不可思议的,我妈妈可能会和我使用完全相同的界面,只不过系统会根据我的需求进行定制。如果我在做更复杂的工作,也许我会需要更多信息。你想象中的最终形态是什么?

Tibo:

对,就是同一个东西。你和你妈妈都会使用同样的产品,它成为你们各自的个人通用人工智能。你们拿它做完全不同的任务,也会从中获得不同的价值,也会把它连接到自己生活中的不同工具,带来不同的想法和需求,然后它会持续适应你,并最大成度上帮助你。对你的朋友、对其他所有人,都是如此。

主持人: 对于一个普通用户来说,那种完美的“幻觉”究竟是什么?如果我们想象几年后的世界,AI 与人之间的交互会是什么样?

Tibo:

对我来说,它应该是一个高度为人类量身定制的东西。

大模型之所以成功,本身也和这一点有关,因为它使用的是自然语言。自然语言本来就是人类的概念,我们习惯彼此交流。比如你明天给我写一封信,我当然能读懂。现在我们彼此也已经有一些了解,所以如果你给我写信,我大概还能理解里面的一些情绪,以及文字背后的细微含义。这一切都非常“人类”。所以,我们正在构建的技术,本质上扎根于人性,也扎根于人类本来就习惯的沟通方式和做事方式。

理想情况下,不应该再出现这种情况:“你误解了我,因为你没理解我语气里的细微差别”,或者“你没有真正明白这段文字想表达什么”。我们希望尽量避免这些问题。我们的目标不是让人去适应技术,而是让技术本身成为人类既有行为方式的一种非常自然的延伸。

主持人:人与人之间的沟通时,会发现很大一部分其实是非语言的,比如我的手势、面部动作。未来你觉得 AI 会在多大程度上感知或者读取这些信息,也许通过视觉来实现?

Tibo:

我认为需要。我想象我们正在构建的未来,它应该是非常环境化、非常自然的。

比如我稍后回到办公室在白板上写东西时,突然有了一个想法,那它也应该能够“在那里”,能够理解我正在做什么。也许我只需要对它说一句:“这个怎么样?”然后我们就可以直接通过语音进行非常自然的对话。自从我们发布新的 ChatGPT 语音以后,这种使用方式增长得非常快。现在,直接只通过语音和 ChatGPT 交互的用户数量正在迅速上升。

我觉得这里面的经验是:每当你把产品做得更接近人类自然行为,人就会倾向于选择阻力最小的路径。就像你说的,在一个小文本框里打字,对一些人来说很自然,但未必对所有人都如此。一旦出现一种更轻松、更好的方式,人们往往会直接转头使用。

“我其实不会太关注 Anthropic”

主持人:首先恭喜,我看到你早上发消息说 Codex 已经达到 2000 万用户。我看过那张增长曲线,一开始还比较平,后来突然就几乎垂直向上了。接下来,我想聊聊你们和 Anthropic 的竞争。

现在很多人都认为 OpenAI 和 Anthropic 是这个行业里最主要的两个竞争者。之前有一段时间,Anthropic 几乎吸走了行业里的全部注意力,表现非常强势,但后来情况突然发生了变化。你现在怎么看这个市场?

Tibo:

现在我们真正关注的是构建能力最强、构建效率极高的模型,同时非常认真地为所有人打造产品。我认为 OpenAI 很擅长的一件事是始终真正关心整个世界,关心怎样把非常强大的技术交到尽可能多的人手里。

我们把 Codex 和 ChatGPT 合并,也是出于这种想法:我们已经有了这项技术,那就要让它变得更安全、更容易使用,并让所有人都能够使用。不管你是产品经理、设计师,还是做销售、市场、公关,都应该能用到这些能力。

然后,我们可以借助 ChatGPT 已经拥有的大量用户,非常迅速地把这些能力分发出去。这也一直在推动你刚才提到的增长。

我其实不会太关注竞争对手。我更关注的是,哪些事情是我们能够独特做好的?我们的价值观是什么?我们怎样才能最大限度地加速朝这些目标前进?

主持人:我知道你并不会一直想着 Anthropic,但其他很多人会。他们会想:“我到底相信哪个产品?我愿意把 2200 美元花在哪个产品上?”如果从市场位置、品牌、OpenAI 对外传递的语气,以及它与开发者和更广泛用户群体互动的方式来看,你觉得 OpenAI 和 Anthropic 的差别是什么?

Tibo:

我更关心的仍然是,我们怎样围绕整个世界建立社区,把所有人都带进来。你可以从很多地方感受到这一点。我们在很多事情上都非常透明,也会从社区吸收大量想法。说实话,这本身也非常有趣,因为我们也会从社区获得非常多的能量。

而且,我们构建这项技术并不只是为了自己,不只为了加速 OpenAI 自己的发展。我们的使命非常重要,这也是我们动力的来源。对我来说,这种状态非常踏实,也非常有趣,而好的结果往往就是由此产生的。

不断重置额度,背后的算力决策

主持人:那我们就聊聊好的结果。我想说说“重置额度”这件事,现在大家几乎会盯着你的每一条推文,就是因为这个。尤其是考虑到 Codex 的增长曲线,我想问一个也许有点傻的问题:这些额度重置,到底有多少是在帮助市场营销和用户增长,又有多少只是你们在向开发者社区释放善意?

Tibo:

可能有点反直觉,但 OpenAI 是一个“你真的可以直接去做事”的地方。

最开始,在我们不断迭代、偶尔让产品宕机,或者某个配置没设好、导致体验不如预期时,我会觉得补偿用户是理所当然的。我们会说:“谢谢你愿意尝试这个产品。我们真的在非常努力地把它做好,现在还处于早期阶段。刚才我们可能让它宕机了 30 分钟,所以多给你一些使用额度。我们知道这个产品对你很重要、你依赖它,谢谢你愿意成为用户。”

最初就是这么开始的,到现在我也仍然这样看。如果我们把东西搞砸了,或者体验不够好,而且我们还没有完全搞清楚原因,那就应该补偿用户,重置他们的使用额度。

后来,这变成了一件挺受关注的事,现在甚至有了一个重置按钮,但背后其实没有太多复杂考量。不是和市场部或财务部商量后做的,就是我想什么时候按就什么时候按,感觉应该按就按。我们的原则是:我们在打造了不起的东西,如果它没做到,我们就补偿。

主持人:这件事确实在社区里建立了大量好感,可能也在一定程度上促进了增长。

Tibo:

我觉得真正关心用户的话,确实会产生很大影响。你可以嘴上说“我们关心用户”,也可以真的去关心。如果我们真搞砸了,我们会说:“真的很抱歉,这是我们补偿你的方式。”

主持人:

这让我想起 Amazon 的退货政策。如果你有任何不满意,就直接退回来。你们似乎也在建立一种类似的文化,或者至少让大家形成了对 OpenAI 的类似认知:如果我们犯错了,那这些 tokens 你就重新用一遍,或者我们再给你一批新的 token。

Tibo:

我很感激你这么说。另外也有一些美好的时刻,我们就是想庆祝一下、记录那个时刻。有时候没有什么比“去探索这个新东西吧”更有意义的了。我们总是会尽可能广泛地发布新功能,但要和整个社区分享点什么,就像是“嘿,去试试这个新东西吧,你还没用过 Ultra,那就多给你一些额度,去体验一下”。

主持人:我听说现在还有一个真正的实体按钮。

Tibo:

对,真的有。

主持人:好,之后你得给我看看。

Tibo:

一定给你看,真的很酷。

主持人:不过,你们能够这么频繁地重置额度,前提是已经做了非常大量的计算容量规划。你必须有足够的算力,才能不断给大家增加额度。

说到这里,我想再聊聊自我改进。我记得大概是几周前你发过一篇文章,里面提到 Soul 优化了 Luna 的效率,让 Luna 的价格下降了 80%,Terra 也降价了。这里面到底有多少来自 Luna 自身效率上的提升,又有多少是因为你们提前做了非常好的算力规划,所以现在利润空间很好,可以直接降价,让更多人使用?换句话说,算法层面的收益和战略规划分别占多大部分?

Tibo:

我们很早以前就开始提前规划算力。如果回头看 2 年前,当时 OpenAI 因为投入了那么多算力,还一度受到很多质疑。

主持人:现在看,那是一个疯狂但非常正确的押注。

Tibo:

对。现在我们非常庆幸拥有这些资源。其中很大一部分计算资源用于研究,也就是投资未来、训练越来越好的模型,同时我们也持续提高现有模型的效率。

现在有一件很令人惊讶的事情,当我们把最先进模型的能力边界继续向前推后,又可以反过来使用这些模型,非常快速地找出怎样改进服务方式,或者怎样重构、重新设计我们的技术栈,从而获得非常显著的效率和性能提升。

而且,我们改善的不只是成本效率。这件事之后我们也会公开更多内容。我们还显著改善了速度效率。即使不算 Ultra Fast 模式,普通模式这段时间也明显变快了。如果你把速度画成一条曲线,现在相比 3 个月前,大概已经快了 60% 左右。

我们就是在逐层处理技术栈里的每一个部分,确保整个系统真正针对我们的工作负载进行最优设计和工程实现。而我们最强大的模型,让一个非常小的团队也能够做到这些事情。

每当我们获得非常显著的效率提升和成本效率收益时,我们的承诺都是:继续让产品保持在性能和成本的前沿,而不是把这些收益单纯留在自己手里。我们会把它分享给客户,也分享给用户。这就是我们在 Luna 上做的事情。

主持人:那你们内部在分配算力时,讨论是什么样的?比如,一部分算力用于研究新模型,一部分用于优化已有模型的效率,还有推理本身。这些方向之间的拉扯是什么样?

Tibo:

我们通常会从第一性原理出发看问题。研究有一部分明确的算力配额,产品也有一部分明确的算力配额,然后在产品内部再做不同的权衡。但 Luna 这次其实几乎算不上取舍,因为效率提升已经出现了。我们基本上是在使用同样的算力预算的情况下,实现了非常显著的吞吐量提升。

主持人:几个月前,你们还发过一篇博客谈到一个模型去训练下一个模型,或者帮助优化下一代模型。现在又看到 Soul 分析 Luna 的运行方式,带来了效率提升。在我看来,这已经很像递归式自我改进的早期阶段了。你怎么看?这就是正在发生的事情吗?

Tibo:

递归式自我改进现在当然是一个非常大的话题。大家最常讨论的是研究层面,也就是模型去开发其他模型。但我们现在取得大量成功的另一个方向,是用这些模型去开发支撑模型运行、位于关键路径上的基础设施。

这其实同样是一种递归式自我改进,因为它们本来就是一个完整的大系统。比如推理栈,包括更底层、更难优化的内核,以及我们使用的 CUDA 内核;再比如开发新的产品、设计与模型交互的新方式,让人能够更高效地使用这些模型。

你刚才提到了云端智能体,如果我们真正把云端智能体做好,人自身的生产力也会大幅提升。那这算不算递归式自我改进?某种意义上,我认为也算,因为你获得了更好的方式来释放模型的实际效用。只不过,这里更多体现在基础设施上,然后你可以再把这些能力反过来用于系统本身。当然,我们正在这么做。如果我们完全不这么做,那反而会很奇怪。

暂停最前沿 AI 训练的决定,谁做的?

主持人:既然聊到了递归式自我改进,我想问一下,Sam Altman 之前谈到过,当前暂停最前沿的强化学习(RL)训练,我记得是这样。你能谈谈这个决定吗?当时是怎么做出的?我们之前也简单提过 Hugging Face 那次事件,究竟有哪些因素进入了决策?

Tibo:

这件事主要是在研究团队内部决定的。OpenAI 一直都能够把资源投入到最重要的地方。随着模型能力不断增强,很明显,对齐和安全会变得越来越重要。所以,在这些方向上进行非常大规模的投入,对 OpenAI 来说是一件非常自然的事情,也是公司一直高度承诺的方向。我们现在已经看到这方面的投入大幅增加。

而那次暂停本身也是必要的,因为团队和每一个相关成员都需要真正理解整个系统,并对系统的各个部分进行加固,这样我们才能确保重新开始训练时,对整个系统拥有充分掌控。我相信,只要有必要,OpenAI 未来仍然会继续这样做。我在公司内部还没有见过我们无法非常高效地做出这类决定的情况。

主持人:当时有没有一个非常明确的目标?比如必须达到某个具体状态以后才能恢复训练,还是说更像“等我们看到足够的信号,自然就会知道可以恢复了”?

Tibo:

这主要属于安全团队的职责范围。在推进过程中,确实包含了大量讨论和探索,不是从一开始就有一个完全固定的答案。但后来,他们确实形成了一套相当清晰的原则,一旦这些原则得到满足,我们就会认为自己已经处在一个比较合适的位置。

大量算力会专门留给外部用户

主持人:我想回到 Ultra Fast。我觉得很多人并没有真正意识到,这样的速度究竟能解锁什么。先从内部使用说起:你们现在有哪些场景,是在拥有这种每秒 token 数以前根本做不到的?

Tibo:

我们会在高风险、高关键性的场景里大量使用它。比如发生服务中断时,事件负责人和响应团队就会获得 Ultra Fast 的使用权限,因为那时候每一秒都非常重要。所以,只要是高风险场景,我们确实会使用它。

还有一个挺有意思的现象:一些正在做非常关键事情的团队,或者至少认为自己正在做非常关键事情的团队,也总会来申请 Ultra Fast 模式。

主持人:“pets”算关键任务吗?

Tibo:

宠物还没有关键到那个程度。但我真的很喜欢我的宠物,它一直会出现在我的屏幕上。你在公司里走一圈,会看到大家屏幕上的宠物,视频会议的时候也有,每次看到我都觉得很愉悦、很开心。但 Pets 目前不算关键。我们确实在维护它,好好照顾我们的宠物。

但假设有人正在尝试一个新想法,他觉得:“我真的认为这可能会变成一个很特别的东西,我们必须试试。但到了周一,我们就得决定要不要把它放进 Dev Day。”那这种时候当然可以使用 Ultra Fast。

不同人偏好的工作方式也不同。有些人喜欢像我们刚才说的那样单线程工作,有些人喜欢大量进行多任务处理。对于特别喜欢多任务的人来说,Ultra Fast 模式带来的收益可能没有那么大,但有些人就是不喜欢不断切换上下文。

主持人:那你自己属于哪一种?

Tibo:

我有 ADHD,所以我会一直切换上下文。

主持人:挺有意思的,我也有 ADHD,但我反而完全不想不停切换上下文,那对我来说很难。我更希望同时只专注在两三件事情上,所以 Ultra Fast 才会让我特别兴奋。没想到你正好相反。

Tibo:

我反而很适应上下文切换,也喜欢做很多小决定。不过有时候,我确实也只想专注在一件事情上。这时 Ultra Fast 模式的体验就非常舒服,因为它能让你一直保持心流状态。

Ultra Fast 还有一点,当涉及的工具调用不多,或者主要是大量生成上下文的时候,它效果惊人。比如你要做一个网站或电子游戏的原型,需要它写大量代码,它会写得非常非常快,能快 10 倍。但如果有大量工具调用,开销在网络的其他地方,或者在智能体执行路径的其他环节,你可能只会感受到 3 到 4 倍的提速,无法获得到完整的 14 倍加速。

主持人:我知道 OpenAI 员工可以使用不限量的 tokens。如果是我,只要 token 不限量,我大概会永远把思考强度调到最大,用 5.6 Sol 或者当时最新的模型。我对 Ultra Fast 模式可能也会有类似想法:只要不用考虑成本,我就会想全部拉满。OpenAI 内部也是这样吗?

Tibo:

我们并不会把 Ultra Fast 对所有员工无限开放,大量的算力容量是专门留给外部用户和客户的。OpenAI 员工如果真的完全不受限制,是有能力把所有资源都吃完的。我们甚至可以把生产环境里的 GPU、Ultra Fast 模式的全部容量都用掉。

但我们不会这么做。我们会进行限制,判断内部使用多少才算合理。内部当然也会使用,这样我们才能真正理解产品、持续改进它,也能从递归式自我改进中受益。但绝大多数 Ultra Fast 模式的容量仍然是留给客户的。

主持人:明白,这很好。那在 OpenAI 之外,你最期待哪些对延迟敏感的应用场景,因为这样的速度而真正成为可能?

Tibo:

有一个方向我非常兴奋,就是非文本交互。能不能在一个共享画布上操作?能不能创造东西?能不能生成想法、生成不同的图片然后选一张,像是“选择你自己的冒险”,然后快速做出一个原型的草图,你可以通过语音或文本实时操控它,然后就呈现在你眼前。这是一个非常有创造力的过程,我觉得这样的速度会带来非常大的变化。

以前作为工程师,你有时会坐下来想:“我要设计这一整套系统,得考虑所有权衡、需求。”但也许未来,你可以先花一分钟把它直接做出来,看看它实际运行效果,然后在真实反馈中继续思考和调整,更自然地留在工作流里。我觉得这种速度会带来非常大的变化。

主持人:那我猜 Ultra Fast 的价格会明显高于普通速度。你觉得这种超高速最终会成为标准配置,还是会一直作为一个需要额外付费的高端档位存在?

Tibo:

这是个很有意思的问题。我觉得和技术通常的发展路径一样,它会随着时间变得越来越广泛可及。

智能体完成任务的速度还会继续提高,我们几乎每个月都能看到非常明显的改善。而且这里不仅仅是推理速度的问题,还包括模型本身的 token 效率。Soul 的 token 效率就显著高于 Terra,而下一代模型的 token 效率也会显著高于 Soul,这是可以预期的。我们一直在推动这件事,所以整体速度会不断提升。推理硬件也是一样,我们会持续创新,它也会越来越快。

因此,我确实认为,也许一两年以后,现在这种速度即使还没有完全变成默认标准,也会非常接近。但与此同时,我也认为永远会有“再高一档”的选择。因为你总可以使用更多硬件,也总可以做一些成本更高的决定来换取额外的一些能力。

缓解人们对 AI 担忧的几句话

主持人:Tibo,我最后通常会问一个面向更广泛人群的问题。现在有很多人对 AI 表示担忧,可能是因为工作自动化、环境影响,或者只是因为眼前正在发生的这一切太陌生了。你会对这些更广泛的用户说些什么,让他们稍微安心一点?

Tibo:

我们真的在为整个世界构建 ChatGPT,同时也做了大量投入来提升它的效率,这件事和广泛可及性以及我们希望提供的广泛效用,是直接一致的。服务成本越低,你就能用它做越多事情,也能在日常生活中获得更多价值。

现在模型已经变得非常高效。以 Luna 为例,它是一个小得多的模型,但效率高得惊人。如果把时间倒回 6 个月前,它的能力其实处在当时的前沿水平。再看看 Luna 的成本,真的便宜得惊人,非常夸张。

未来,对这种高水平智能的访问会变得无处不在,而这只有在日复一日、年复一年持续推动效率提高的情况下才可能发生所以。今天处在最前沿的东西,6 个月以后运行成本可能就会低得多。

这也是我对这个问题的回答:技术往往会随着时间推移变得越来越高效。我们非常关注让它能够被更广泛的人使用,也会持续优化,让用户能从中直接获得最大的实际价值。

主持人:那对于那些甚至还不愿意第一次尝试 AI 的人呢?你会怎么和他们说?

Tibo:

其实不用看得太远。ChatGPT 已经在非常个人、非常垂直深入的层面帮助了很多人。大量用户会用它协助写作,也会用它获取个人建议,甚至医疗建议。我们还推出了健康和金融相关功能,我自己也经常使用。我能从中获得很多支持,而如果没有它,这些支持其实很难以同样方便的方式得到。比如,它可以让我在去见医生之前掌握更多信息。所以,你可以看到当下它已经能够带来的价值。

我觉得一个很好的起点,就是去和别人聊聊,看看其他人是怎样使用 AI、怎样从中获益的,然后从这些真实用法里获得启发,再去想一想它可能怎样帮助到你自己。

原播客链接:

https://www.youtube.com/watch?v=4qjEgPojjzM

声明:本文为 InfoQ 整理,不代表平台观点,也不构成投资建议,未经许可禁止转载。

今日好文推荐

会议推荐

QCon 全球软件开发大会·2026(上海站)现已正式启动。本届大会聚焦 Harness AI 时代的工程实践,从「构建 AI」到「驾驭 AI」,围绕 AI Native 架构、Agent Runtime、AI Infra、Agent 安全与可观测、Loop Engineering、具身智能与世界模型等热门技术方向,邀请全球技术社区与产业一线实践者,共同分享 AI Native 时代最具价值的工程经验。