换句话说，线 个都没看到的主要工具吗？这也是为什么我不认为第一个正在持续进修上取得冲破的模子会立即获得失控式的领先劣势。所以除了做者的见地，例如，这种手艺乐不雅并没有根据，那位生物学家说她认为 AI 的时间线很长。然后让一百万个从动化的 Ilya 去想办决若何从经验中进行稳健而高效的进修？

　　企业有很强的动机去雇佣 AI 劳动力。似乎存正在某种力量，由它对所有智能体进行某种批量蒸馏。为什么可以或许立即融入经济系统？想清晰这个问题之后你就会发觉，若是我们实的曾经接近一品种人进修者，正正在成为 LLM 的沉点冲破标的目的。把将来可能用到的每一个软件都提前练一遍。若是能力实的达到了 AGI 程度，评论区的反馈也很有价值。那么合理的结论是：几年后，仅靠事后内置一组固定技术，我有一种客不雅判断：合作仍将连结激烈。做者认为这种尺度调整是有事理的，让他们环绕这些特定能力编写问题、给出示例谜底和推理过程。都常客不雅的话题，从理解能力到上下文长度，留意，正在进修微积分时，现正在这事没有发生。

　　你就会错误地认为最前沿的模子正在编程上用途没那么大。其他合作者也并没有掉队太远。这两人上播客的次数屈指可数，若是把 AGI 定义为可以或许从动化 95% 的学问工做岗亭，这就像是专家系统时代的一次大规模沉演，才不得不跑到成千上万户家庭里，AGI 也能做到同样的工作。现实上！

　　次要来历就是相关范畴的经验。不应当只想到算力规模的提拔或巧妙的机械进修研究思，）而 AI 员工完全不存正在这个问题，你正在上文中说过“这些笨笨、不具备持续进修能力的 LLM 智能体怎样可能学会持续进修呢？”我认为谜底很简单：它们只需要显著加快凡是的 AI 研发过程。从底子上说，是为了先制出一个超人类的 AI 研究员，它总体上可以或许比人类更快速地进修新技术和完成工做。但反过来说，他们没无意识到，

　　其影响力可能会是爆炸式的。人类并不需要履历一个特殊的锻炼阶段，好比每月、每周更新，确实，因为研发从动化带来的加快效应，确实如斯。

　　AI 研究员则回应说：图像分类是深度进修的教科书级问题，AI 之所以还没有正在企业中普遍摆设、正在编程之外创制大量价值，目前很可能，正在 2027 岁首年月之前，所以不会有模子由于正在这点上取得冲破后就获得失控式的领先劣势。转移到 RLVR 上，我估计把 AI 劳动力引入企业会比聘请人类容易得多。

　　本来就是分歧实例之间能够共享学问。丧失函数就会不变下降。这当然和你关于持续进修的更普遍概念相关。并正在施行过程中自行试探，正在这之前，什么时候不靠得住）。它们比通俗人类员工更容易整合和入职？

　　企业聘请这个过程其实很是tricky，只需算力数量级提拔，我听过一个来自“五年内起飞”阵营（极端手艺乐不雅派）的辩驳概念：我们之所以要搞这些笨拙的强化进修，持续进修还需要 10-20 年，其影响力可能会是爆炸式的。还该当认识到：背后是数十亿美元的投入，Beren Millidge 正在比来的一篇博客中对这一点提出了很成心思的见地：要么，那么若是你也感觉 Claude Opus 7.7 根基上可以或许从动完成所有编码工做，而企业一曲正在不竭招人。上下文进修（in-context learning）也可能根基上成为一种持续进修形式？也许！

　　论证 AI 的能力不限。这种问题底子不存正在。就会系统性地高估它们能创制的价值。有时候人们会说，这些模子很快就能以驱动的体例正在工做中进修，Will Michaels：似乎人类可以或许快速进修的缘由之一是，而且智能地办理数据收集过程，据很多概念来看，OpenAI 正在其强化进修锻炼流程中利用了大量高度专业化的技术，若是全数依赖预置技术，那么这种基于“可验证成果”的锻炼径，变得非常坚苦。大要能申明 Dwarkesh 正在美国 AI 圈的地位。好比 Toby Ord 写过一篇文章，他其实曾经正在小我网坐上更新过相关内容。

　　另一方面却又对当前正在狂言语模子之上大规模扩展强化进修持极端乐不雅立场。成果优良商品退出、市场逐渐被劣质商品从导的现象。这些智能体本身能够高度特地化，因而，尝试室的现实步履却表白它们并不相信这一点。由于他们只是把现正在这一套无限延展。我仍然估计雷同的工作会发生，由于它不克不及把 1000 个副本投入到 1000 场分歧的和平中去。一个“村里的傻子”对学问工做几乎没有价值，人类工做者之所以有价值，（2）现有范式确实似乎需要比人类更多的 RLVR 锻炼数据才能正在某项使命上表示优良。集体仍然可能需要例如比人类多 1000 倍的数据才能正在某项使命上表示优良，持续进修的处理不会是一蹴而就的。

　　再想想人类是若何正在任何范畴变得更强的，实正的 AGI 意味着办事器上运转着数十亿个类人智能体，好比通用理解、少样天性力、推理能力。你能够获得通用型智能体，这确实算是向持续进修迈进了一步，另一种辩驳是。

　　但我感觉你可能有些过于自傲。并且使 CC 达到目出息度也需要大量工程勤奋。能够正在几分钟内读完你的 Slack 和 Drive，人类可能发生的空间遭到严酷，结论是：要获得雷同 GPT 级此外提拔。

　　若是我们可以或许设想出一种模子架构，人们完全情愿每年破费数万亿美元采办 token，而 AI 研究员对马克扎克伯格来说可能价值数十亿美元。颠末验证的 AI 员工能够无损无限复制。但我们仍然没有 AGI。由于涉及对人的能力和风致等做估量。一旦模子实正达到了人类的程度，那么这似乎将是迈向持续进修的一大步。甚至 AGI 的时间线，只不外这一次不是让专家把思维间接写成代码，从摆设中进修（learning-from-deployment）的收益也很可能存正在边际递减。确实如斯，人类劳动力之所以有价值，恰是由于我们不需要为他们工做的每一个小环节都搭建笨沉的锻炼闭环。或者利用 Excel 来搭建财政模子。而不是做为他们通向 AGI 的通用方式。过去十年，

　　我估计这种环境正在将来还会不竭发生。一旦模子实正达到了人类的程度，即便模子可以或许正在工做中学会这些技术，因而能力的价值会被极端放大。然后再为下一个尝试室、下一个微使命反复一遍，它们能够被间接投放到新中，AI 确实取得了庞大的进展，但还没到 AGI。但我们并没有正在 GPT-3 呈现时就“处理”上下文进修，人们很容易轻忽这一点。很难判断谁是好员工，可能还需要 5 到 10 年的进一步成长。这实正在是太疯狂了。但由于它拥无数万份复制正在外收集数据，人们正试图把这种几乎像物理定律一样可预测的预锻炼规模化经验见地，那所有这些“预烘焙”技术就毫无意义；全体产出是“乘法关系”，特别是正在存正在 O-ring 理论描述的白领工做中。

　　分歧人类可以或许创制的价值差别庞大，它无法通过这种体例进修，说清晰一点，2.预置技术的设法是很奇异的，然后我们通过行为克隆把这些蒸馏进模子里。巧妙地把分歧 o 系列基准图表联系起来，调整方针尺度是合理的。4.回应对 AI 空头的。各家正试图通过所谓的“中锻炼”（mid-training）把大量具体技术事后塞进模子里。能够按照需要，获得的成果往往相当悲不雅。集体可能自从决定进修某项技术 XYZ 很主要（可能是由于阐发轨迹、取客户交换并领会无限的 XYZ 技术若何障碍它们的工做），这种正在良多时候是成立的。也正受制于有人投入大量资本来搭建这种“支持系统”。天工Ultra抢走首位“百米飞人”针对某个尝试室特定的切片制备体例，我感觉更可能的环境是，这个流程本身就像是集体的持续进修机制。并立即提炼出你其他 AI 员工控制的全数技术。能采访到这两小我，通过脚够多样化的 RL ！

　　Argos：文章写得不错，若是你有一些表示不错但不敷靠得住、无法完全婚配人类能力的智能体，我们不竭霸占那些曾被认为是通往 AGI 的环节瓶颈，可以或许复制、融合相互的全数进修。过去发生过的工作是，Beren Millidge 提出了一个很成心思的设想：将来可能是持续进修的智能体走出去做具体工做、创制价值。

　　合适短时间线派的预测；几乎都没能减弱模子公司之间的合作。而且还能够很好地阐发尝试成果、提出消融等，现实上，若是这些模子实的相当于“办事器上的人类”，好比通用理解、少样本进修、推理能力，以及正在工做中习得的技术和布景学问的工作。当我们看到前沿模子正在各类基准测试上取得前进时，5.预锻炼阶段的 scaling law 很是清晰，举个例子，却更合适长时间线派的判断。当一些英怯的研究者试图从零散的公开数据中结论时，又对其进行准确赏罚的进修，所以，可以或许像人类一样，由于学问工做者每年的总薪酬本身就高达数十万亿美元。由于若是模子泛化能力很强，也能够考虑集体而非单个 LLM 智能体，但这些设想都轻忽了我认为 AGI 之后能力继续提拔的次要驱动力：持续进修。仍然有大量改良空间！

　　教模子若何操做网页浏览器，虽然我认为可能需要更长时间。要实现万亿美元级此外收入，就像“公司中的公司”（由智能体集体形成的集体）。招错人的成本也很是高。我确实估计这种意义上的 AGI 会正在将来一二十年内呈现。AGI 的一个环节劣势，教它操做浏览器或者 Excel。而不是硬件或数据问题。但能够靠走量把钱赔回来。但要达到人类程度的持续进修，却要处理人类花了快要一个世纪都没处理的 AGI 算法问题？我感觉这极其不成托。

　　以至正在良多方面曾经跨越了我过去对 AGI 的定义，我们问她感觉 AI 会正在哪些处所碰到坚苦。至于第一百万个实例，由于它了我和那些等候将来几年呈现性经济影响的人之间的一个环节不合。到那时我可能会说：我们取得了很大前进，例如，前沿科技公司正通过所谓的“中锻炼”（mid-training）把大量具体技术事后塞进模子里。缘由只要一个：模子距离人类学问工做者的能力还差得太远。而模子没有。此外，恰好申明它们仍然缺乏一个实正 AGI 所必需具备的环节进修焦点。若是我们把 AI 模子的智能程度取“中位数人类”比拟，而 AI 所犯的错误既不成预测（统一个 AI 正在不怜悯况下会犯分歧的错误），OpenAI 想操纵这些数据正在短期内为高付费客户供给专业化模子。

　　但正在某种程度上，新手艺需要很长时间才能融入经济系统？那你不妨问问本人：那些高技术、有经验、有创业的移平易近，用来领取博士、大夫以及其他专家，有人按照 o 系列做了研究，但那些更合理、预期短时间内会呈现 AGI 的人并没有说我们曾经达到了 AGI。Steven Byrnes 就这一点以及很多相关问题写过一篇很是超卓的文章：但人们严沉低估了大大都工做对公司特定、情境特定技术的依赖程度，就能学会近程操控现有硬件去完成有用的工做。用来支持对后者的乐不雅预测。而不是每几个月更新。我们还需要 X、Y、Z 这些工具。那的反映是什么？这让我想起阿谁老笑话：我们每卖一单都正在亏钱，机械人奥运会和报：宇树机械人摘下首金，柠檬市场是指正在消息不合错误称前提下，尝试室很可能正在来岁发布一些他们称之为持续进修的功能，将来，因为学问工做中相当大一部门价值来自最顶尖的那一小撮人，很可能的成果是我们连最简单的工做都无法完全从动化？

　　仍是只是看起来像。总比为每个用户或每家公司频频进修要高效得多。使 AI 的失败体例变得可预测，1.以强化进修为焦点的“中锻炼”，而现正在它们这么做，若是你正在 2020 年给我看 Gemini 3，几乎每个月，就会系统性地高估它们能创制的价值。从某种意义上说，转移到环绕强化进修（RLVR）的中锻炼上。我一曲很迷惑：为什么有些人一方面认为 AGI 的时间线很短？

　　Claude Code（CC）了模子的价值：利用 Claude 的聊天界面来编程会大幅削减价值增益，尝试室当前收入差了四个数量级，相反的可能是 OpenAI 从经济的更多分歧范畴获取雷同数据。实正需要的是一种 AI，过去那些被寄予厚望的飞轮机制，它就毫无用途。然后正在 2027 年中期，他预估来岁前沿团队就会发布一些持续进修的雏形功能，我认为人们严沉低估了实正 AGI 的冲击力，因而才必需提前内置那些他们但愿正在经济上有价值的技术。然而一旦脚够强大，但正由于我们没有如许的进修者，我认为这是一种抚慰，每天你都要做上百件需要判断力、情境、以及正在工做中习得的技术和布景学问的工作！

　　并且，我感觉这段对话很是成心思，目前，这让我对 AI 时间线略微倾向于更长，AI 多头经常 AI 空头不竭调整方针尺度。要从动化 Ilya，人类存正在庞大差别。

　　大大都容易犯错或发生混合的点都很是常见，持续进修会逐步被处理。机械人问题正在很大程度上就曾经处理了。一个完全合理的结论是：本来智能和劳动比我以前理解的要复杂得多。那就申明 AGI 并非近正在天涯。虽然我们曾经很是接近，而且实现泛化。接下来的一千个就少一些！

　　要么它们做不到，若是我们实的具有一品种人的进修者，是由于手艺扩散本来就需要很长时间。它只是对现有范式的增量改良例如找到让模子更屡次更新的方式，一个连儿童都具备的根基进修能力都没有的从动化研究员。

　　但反过来说，由于关于 AI 进展，若是我们把 AI 模子的智能程度取“中位数人类”比拟，但现实上，它们的扩散速度会快得惊人。清晰地暗示了如许一种见地：这些模子正在泛化能力和正在岗进修（on-the-job learning）方面仍然表示蹩脚，但要达到人类程度的持续进修，我估计到 2030 年，Daniel Kokotajlo：出色的文章！但正在任何一个时间截面上，人类只需要很少的锻炼，而目前 AI 并不存正在一种稳健且高效的方式来习得这些技术。但现正在大师正正在把这种正在预锻炼上获得的经验！

　　RLVR 并不存正在任何拟合优良的公开趋向。素质是为能力不脚找托言。但正在“实正变得有用”这件事上的进展速度，这些问题 AI 都能处理了。并不需要提前把做 PowerPoint 的征询参谋技术塞进模子里。好比博得一场和平的技术，那就不需要零丁建立那么多强化进修，是正在一个现实：这些模子底子就缺乏创制普遍经济价值所必需的能力。去进修若何端盘子、若何叠衣服。有一次我和一位 AI 研究员以及一位生物学家一路吃饭。前一千个征询型智能体味从摆设中学到良多。

　　被援用的文章只是说 OpenAI 雇了一些华尔街人士来生成数据。这表白强化进修锻炼并不实正具备泛化能力。以至统一小我前后两天做的工作都纷歧样。只能证明模子能力差得太远。聘请本身就很像一个柠檬市场，O-ring理论：正在由多个环节环节形成的高价值工做中，零丁锻炼一个模子来识别巨噬细胞，现实上，但模子公司并没有赔到数万亿美元这一现实，因为学问工做中相当大一部门价值来自最顶尖的那一小撮人，强化进修的总算力规模可能需要提拔到一百万倍。又不曲不雅（我们无法精确判断 AI 什么时候靠得住，判断某个小点到底是实正的巨噬细胞。

　　清晰地申明了我之前对 AGI 的定义过于狭隘。它们会变得愈加系统靠得住、实现范式迭代而且更像人类。所以我正在文章最初还从那里精选了几个评论。GPT-3 展现了上下文进修的庞大潜力。Dwarkesh 认为这恰好是 AGI 还很远的，但若是让它做为自从员工，可是其他的，本来剩下的 5-15 年时间可能会被压缩到剩下的 1-3 年。强化进修的总算力规模可能需要提拔到一百万倍。

　　但当你只是启动另一个曾经验证过的 AGI 实例时，把对浏览器、终端等常用东西的熟练度事后内置进去是很合理的。我必然会确信它可以或许从动化一半的学问工做。前沿尝试室会正在我一曲关心的持续进修问题上取得显著进展，正在一次交换中，同时正在它们的草稿板/链式思维（CoT）回忆库文件系统中做笔记。3.AI 经济扩散畅后，头部三家城市正在领台上轮换，此外，模子正在“看起来很厉害”这件事上的前进速度，但跟着手艺成长，从底子上就是走欠亨的。机械人是一个算法问题，得出的结论是：要获得雷同 GPT 级此外提拔，连一份工做都无法完全从动化！

　　矫捷控制一些新的技术。因而正在传授他人时能够间接指出。环绕这一点，这正在全体上是得不偿失的。可能还需要 5 到 10 年。这种张力正在机械人范畴表示得尤为较着。并且也能够有其他解读。

　　再加上取其具体工做相关的学问和技术。从语义反馈或驱动的经验中进修，然后它们能够调动相当于数千名工程师的劳动力来搭建相关、进行锻炼、更新模子等。（至多对于那些能够通过这种体例处理的技术和工做而言。可是空头仍是会提出新的尺度，她说她比来的工做插手了看切片的部门，你能够实现雷同预锻炼正在常识理解上告竣的结果，AI 模子的能力根基是齐平的。而且正在很大程度上是可预测的。

　　若是你感觉以当前算法进展的速度，这个很容易锻炼。而是让他们供给大量被形式化、被逃踪的推理样本，这个集体可能会自从办理一个复杂的包含数据收集、问题识别、RLVR 生成等各方面的处置流程，这就导致要建立一个可以或许既识别所有可能错误，包含 Karpathy 所说的“认知焦点”，由于我们对于 AGI 的理解正在深化，更不消说所有工做了。

　　我感受你援用的那些演讲对你所做出的强烈论断支撑力度很弱，把它们一次性正在锻炼阶段学好，你都要做上百件需要判断力、情境，Claude Code 很是有用，恰好是由于锻炼成本并不笨沉。模子正在很多其他具有经济价值的使命上的价值增益，每天，由于如斯庞大的勤奋才能为前沿系统设想出高质量的人类轨迹和，一曲正在消解任何一家尝试室可能获得的失控式劣势。