Anthropic 科学家称「AGI 若三年内到来读博将失去意义」，如何看待这一观点？
保存自：WorkBuddy 个人文章
来源：知乎问题 2096930670463530796 / 回答 2097008086397597434
https://www.zhihu.com/question/2096930670463530796/answer/2097008086397597434
高热回答全文（演讲译文整理）
以下根据演讲内容原文
演讲者：Jascha Sohl-Dickstein（Anthropic）
场合：2026 Conference on Physics and AI（PAI26），斯坦福大学
日期：2026年6月12日
翻译整理：GPT-5.6 Sol
《在人新世最初与最后的日子里，给青年研究者的建议》
第一部分｜演讲正文（含中途插问）
为什么要给青年研究者这样的建议
今天这场演讲的标题，借用了神经科学先驱、诺贝尔奖得主圣地亚哥·拉蒙-卡哈尔的《给青年研究者的建议》。虽然我主要是在对年轻研究者讲话，但我希望这里的思考对所有人都有价值。
请先看这条长期GDP曲线。站在曲线最顶端时，我们很容易觉得自己生活在一个正常而稳定的世界，未来不过是今天的线性延伸。但如果把视野拉长，历史更像一条不断加速的曲线。我们今天习以为常的快速增长，其实大约到20世纪中叶才真正形成。
今天我想做三件事。第一，我想说明未来可能与现在非常不同，AI正在推动一场规模巨大的转型。第二，如果我们认真相信这种可能性，就应该让它真正进入我们的职业选择、研究计划和个人生活，而不能只把它当作抽象判断。第三，我想强调，我们仍然拥有很大的行动空间，今天所做的选择仍然能够影响这场转型将走向哪里。
"人新世"为什么可能很短
地质时代通常依据岩层中生命、气候和地质过程的显著变化来划分。人类活动已经留下足以进入地质记录的痕迹，例如物种快速消失，以及核试验产生的放射性同位素。由人类主导全球变化的这个时期，常被称为"人新世"。
我的标题包含一个值得认真思考的设想：如果AI逐渐成为推动全球变化的主要智能力量，那么由人类智能占据主导位置的时代，在地质尺度上也许会非常短暂。
再看着名AI模型的训练算力曲线。纵轴每一格相差两个数量级。过去十年，最大训练任务所使用的算力大约增长了一千万倍。我们还可以做一个非常粗略的类比：假设人脑每个突触每毫秒的一次活动相当于一次浮点运算，那么一个人一生的总计算量，与今天大型模型的训练计算量，已经进入可以比较的数量级。这个估算既不是实现人类智能的充分条件，也未必是必要条件。它只能说明，把两者放在一起比较，已经不再是一件荒谬的事。
AI能够独立完成多长的任务
我想引用METR关于"任务时间跨度"的研究。这里的时间不是模型实际运行了多久，而是一个人不借助AI完成同一任务通常需要多长时间。模型能够独立完成、且成功率达到50%的软件任务，其长度正在指数增长。即使把成功率提高到80%或90%，曲线也大致保持相同的斜率，只是整体向后移动。
不到一年前，我讲这套内容时还预计，模型会在2026年或2027年达到"一整天软件工作的任务跨度"。现在，曲线已经向前推进了大约一个数量级，并越过了我当时预测的位置。
有人认为，模型只能解决训练数据中已经出现过的问题。我们可以看看保罗·埃尔德什留下的数学问题。数学家们长期整理并尝试解决这些开放问题，而在最近几个月里，AI模型已经开始给出新的解答，把已知数学的边界向前推进。这当然不能自动证明模型已经具备完整的人类式研究能力，但它至少说明，"一遇到训练集以外的问题，模型就完全无法工作"并不是准确的描述。
把AGI当作可以公开讨论的严肃问题
我此前在哈佛发布同题演讲的预告后，收到过一封只有一句话的邮件，大意是："这个摘要太疯狂了。"这让我想到"奥弗顿窗口"，也就是一个社会允许人们公开表达和认真讨论的观念范围。
我希望大家允许自己认真考虑AGI，即使最后并不同意我的具体预测。政府领导人、前总统、科技行业管理者和主流媒体，都已经公开讨论AI达到或超过人类认知能力的可能性。我引用这些声音，不是为了诉诸权威，而是为了说明：这个问题已经进入公共决策的范围。我们不应仅仅因为担心自己听起来过于夸张，就拒绝认真思考它。
当然，有些激进预测并没有按照字面发生。例如，程序员并没有简单地被AI整体取代。AI确实承担了许多过去由程序员完成的工作，但程序员工作的其他部分也随之扩张。一个职业其实由许多任务组成。AI更可能横向改变大量职业内部的任务分配，而不是按照某个固定顺序，把一个个职业整份消灭。
为什么我认为时间表可能只有几年
在旧金山的AI研究圈里，许多人认为，通用而强大的AI可能在几年内出现。那里所谓的"长期时间表"，有时也不过是十年左右。与生物医药等领域不同，直接训练和研究前沿模型的人，通常没有指出一个得到广泛认可、不可跨越的技术障碍。
如果你认为现有指标遗漏了某项关键能力，我的建议是：把缺失的能力定义清楚，把它量化，并把它变成一个可以持续跟踪的测试。过去，一个新基准从发布到模型达到人类水平，可能要经历十几年；近年的许多基准，这个间隔已经缩短到几个月或几年。我参与创建BIG-bench时，相关论文甚至还没有正式发表，就已经有人在其中一些任务上刷新了成绩。
我每天都在使用Claude。和它合作的感觉，有些像面对一位执行力惊人、非常愿意干活，但研究品味还不成熟的研究生。一年前，我仍然需要深入实现细节；现在，我可以直接交代一个更高层的问题，让模型完成分析并生成图表。我预计一年之后，这种分工还会继续改变。
演讲中途的现场插问
在这里，我先暂停一下，回答几个现场问题。
现场插问一：未来会以通用模型为主，还是也会有专用模型？这与Yann LeCun提出的方案有什么关系？
我认为，未来既会有通用模型，也会有专用模型。不过，我对Yann提出的具体方案还不够熟悉，因此不适合在这里作出详细判断。
注：这位听众没有一开始就使用现场麦克风，录像没有完整收录问题；以上问题依据演讲者可辨识的回应概括。
现场插问二：训练资源终究有限，算力增长会不会恰好在达到AGI之前停止？
当然，任何指数增长最终都会停止。但过去的趋势已经跨越了许多个数量级。如果它恰好在距离人类能力只差一两个数量级的位置突然触顶，那会是一个相当特殊的巧合。我们生活在物理世界里，没有任何指数曲线可以永远延续；但如果这条曲线正好在这里转弯并变平，我会非常惊讶。
现场插问三：从当前系统走向AGI，究竟还缺少什么？
这个问题更偏技术层面，我不打算在这里花太多时间。我的基本判断是：我一次次因为"把朴素方法再扩大一个数量级"仍然有效而感到震惊，有时也感到失望或惊叹。
我承认现有方法非常低效。人脑的数据效率可能比当前方法高出四个数量级，我们显然还有很多事情做得不对。但低效并不意味着这条路线不能工作，只意味着它的效率很差。因此，我目前没有看到一个会阻止我们继续前进的明确硬障碍。
现场插问四：如果只有少数人能够负担大量token，如何避免"拥有智能资源者"与"缺乏智能资源者"的分化？
确保即将创造的巨大财富得到合理分配，显然非常重要。推理和智能服务会继续变得便宜，这既令人振奋，也让人不安。但这并不意味着财富与机会会自动公平分配。
我个人认为，社会可能需要建立某种再分配机制，例如对AI公司或机器生成的智能劳动征收较高税收，再把收益重新分配。在美国，失去工作的人会为自己争取权益，现有政治制度或许能够对此作出反应；我更担心的是全球尺度上的不平等。这个问题值得以后展开更长的讨论。
回到演讲：科研项目要跑在能力曲线前面
如果我们认真对待刚才所说的时间表，研究者首先应该问：等这个项目完成时，它还重要吗？最糟糕的情况之一，是你辛苦工作了两年，取得了一些线性进展；可当你准备交付时，最新的基础模型只用几天就得到了更好的结果。
我的建议是，把宏大的目标拆解为周期更短、能够更快获得反馈信号的项目，并与合适的合作者一起加速推进。我知道，这样的环境对缓慢、开放、漫游式的探索并不友好。我自己很喜欢那种研究方式，所以得出这个结论也让我感到遗憾。
Richard Sutton提出过一个著名的"苦涩的教训"：从长期看，能够普遍利用数据和计算的方法，往往胜过大量由人手工编码进去的知识。对我们选择研究课题而言，这意味着两件事。第一，尽量避开那些只要继续扩大规模就会自然解决的问题。第二，优先开发那些会随着算力、数据和智能增强而变得更有效的方法；如果可能，最好让自己的工作还能推动规模化本身。
你也应该迫使自己真正掌握AI工具，即使今天的交互方式仍然显得笨拙。你可以让模型参与创意迭代、批评论文、编写代码、尝试复杂分析，或者生成探索性的图表。不过，我仍然建议你亲自写第一版草稿，然后再让模型批评它。原因不是模型写不了，而是写作本身就是整理、形成和检验思想的过程。
职业规划不能和技术判断分裂
这场演讲最初源于我和一位非常优秀的研究生的谈话。他一方面相信AGI可能在三年后出现，另一方面仍然按照传统路线规划人生：几年后毕业，然后做博士后，再去申请教职。我觉得这两种判断之间存在明显冲突。如果你头脑中的一部分相信世界即将发生根本变化，那么你就不能在做实际人生规划时，假装这种判断不存在。
我不知道十年或二十年后的学术工作究竟会是什么样，也不知道其他职业会变成什么样。但我相当确定，它们不会和今天相同。因此，我们不能再把当前的职业路径视为一种稳定的默认选项。
我们通常会在高回报与低风险之间做权衡。但如果AI转型本身已经带来一种无法回避的基础风险，那么传统意义上的"安全选择"，也许并没有为你买到多少真正的安全，只是让你放弃了潜在回报。因此，我希望年轻研究者可以更勇敢一些，去做自己真正想做、并且一旦成功就能产生更大价值的事情。
研究者仍然能改变AI的发展轨迹
如果我们能够做出贡献的时间是有限的，那就应该选择那些多年以后回头看时，仍然会让自己感到自豪的工作。尽量让项目对长期方向产生积极影响，而不是只制造短暂、局部的变化。
我还想强调，我们今天仍然处在AI增长曲线非常早的位置。Epoch AI的估算显示，到2030年，可用于训练的计算规模有一条现实路径，可能比2025年再增长大约一万倍。如果未来的人回头看，在一张使用线性纵轴的图上，我们今天也许仍然接近起点。
指数增长早期做出的微小决定，会在长期中被不断放大。电子邮件协议就是一个例子。电子邮件很早便形成了跨系统标准，所以任何人都可以跨平台通信；聊天软件却没有形成同样普及的早期标准，于是今天出现了大量彼此割裂的封闭平台。哈伯—博施工艺、医学与法律职业组织、学术同行评议制度也有类似的一面。这些技术和制度在形成初期原本都存在其他可能，而一小群人的早期决定，塑造了之后几十年甚至更久的发展路径。
你决定研究什么问题、加入什么机构、把一项发现描述为"能力"还是"风险"、选择容易解释还是难以分析的架构，以及是否公开表达自己的伦理立场，这些选择都会影响后续的技术树、商业格局、社会规范和政策环境。这既是一种权力，也是一种责任。
我认为，近期可能会出现一段"人与AI互补的黄金期"。少数人类可以组织庞大的AI代理团队，在一周内完成过去一生都很难完成的工作。再往后，人类未必还能在机器无法覆盖的认知方向上继续保持明显优势。所以现在应该学习这些工具，充分利用这段互补期，完成以前不可能完成的工作。
推荐关注的研究方向
如果你正在选择研究方向，我尤其建议关注下面几类问题。
-
AI for Science：例如材料发现、蛋白质研究、天气建模，以及聚变装置内部状态和等离子体研究。更好地理解自然世界，通常具有很高的正面期望价值，而AI能够为我们提供新的实验与建模能力。
-
把AI系统本身当作研究对象：可解释性研究有些像"对模型做神经科学"。我们同样可以使用统计物理、心理学、认知科学或经济学的方法研究模型。你可以问自己：我原本用来研究自然或者研究人的专业方法，能否转而用来分析AI系统？
-
AI安全：这个领域正在成长，但与问题的重要性相比，它的规模仍然偏小。许多风险类别、基本概念和评价方法，还没有形成稳定体系。
-
能力预测与外推：我们越能准确判断系统将获得哪些能力，以及这些能力会在什么时候出现，社会就越有可能提前做好准备。
-
公平、可及性和收益分配：如果我们希望技术惠及更多人，就必须主动设计相应制度。这个领域会进入激烈的文化和政治冲突，因此需要能够在高压环境中保持务实的人。
-
政策与治理：政府非常需要既理解技术、又能参与公共政策的人。高薪和较少的政治摩擦会持续把人才吸引到企业，因此，愿意进入政府或政策机构的技术研究者可能拥有非常大的影响力。学术研究者也具有不同于商业实验室的社会身份，能够提供另一种可信的声音。
第二部分｜演讲结束后的集中问答
问题一：AI会有"研究品味"吗？
提问：研究品味能否被做成基准？它是否天然依赖缓慢探索？
Jascha Sohl-Dickstein：我认为研究品味很难评价。一旦某个测试被机器解决，人们可能会反过来说，它测到的并不是真正的研究品味。更有说服力的证据，也许是模型能够独立提出重要的新概念，并完成一个得到广泛认可的重大成果。
当我们不知道未来的收益究竟在哪里时，缓慢的漫游式探索非常有价值，而这几乎总是科研的真实状态。但如果思考与实验的循环足够快，我们或许可以保留"漫游"，同时减少其中的"缓慢"。
问题二：研究生还需要自己写代码吗？
提问：既然Claude能写大部分代码，研究生是否仍应花大量时间亲自编程？
Jascha Sohl-Dickstein：我认为，研究者必须理解代码究竟完成了什么，所以你仍然需要一定的亲手编程经验；但与过去相比，需要亲自写的代码量可能会少得多。
这种变化有些像我们从打孔卡和底层语言转向Python。新一代程序员对机器内部细节的了解也许更少，但他们能够在更高的抽象层上思考。你可以检查输出、设计诊断图、追问异常结果，并要求模型解释不一致之处，以此保持对工作的真正理解。研究生很容易因为收入不高而低估自己的时间，但你的时间其实非常宝贵。你应该使用那些能够提高自己时间价值的工具。
问题三：为什么不让AI写初稿，却又认为它接近AGI？
提问：如果AI连初稿都不该写，怎么能说明它接近AGI？
Jascha Sohl-Dickstein：我不建议让AI写首稿，是为了保护人的思考过程，并不是因为模型写不了。写作就是思考。把写作完全外包，往往也意味着把组织论证、发现漏洞和形成理解的过程一并外包出去。
如果你认为AI仍然离AGI很远，我还是希望你把这种直觉变成可以检验的东西：明确指出模型究竟缺少哪项能力，设计可以量化的指标，然后持续观察。如果这个指标长期没有进步，我会更愿意相信你的判断。我们之所以关注埃尔德什问题，是因为人类数学共同体已经认可这些问题值得解决。评价"模型是否提出了一个好问题"，要比评价"模型是否解决了一个公认的好问题"困难得多。
我把泛化理解为一架层级连续的梯子：替换同义词，把算法应用到新的数字，在不同问题中使用微积分，再到组合更高层的概念。现在还没有充分理由断言，这架梯子会在某个特定高度突然出现一道不可跨越的断裂。
问题四：实验科学会不会成为AI难以进入的领域？
提问：理论和软件研究受到AI影响很大，实验科学却相对隔离。许多物理过程难以精确模拟，NASA仍需使用真实风洞；化学发现也常包含偶然性。大模型对材料和实验研究的作用是否被夸大了？
Jascha Sohl-Dickstein：我认为机器人最终会变得足够可靠，能够执行物理实验，只是它的时间表比数字任务更难预测。我的猜测是，十到十五年以后，具备实际实验能力的机器人很可能已经出现。
理论目前还不能充分预测实验结果，这件事本身也说明，我们的理论和模型仍有巨大的改进空间。如果AI能够增强理论建模和实验设计，我们就可以减少那些需要盲目尝试的实验。当然，最终收益仍然取决于具体任务，也取决于交互界面是否足够好。如果使用一个系统所付出的成本，比它节省的工作还多，实验人员自然不会采用它。
页面中的其他观点摘录
观点一（批评视角）：
多问问ai可以给我们现实世界做什么，能不能培育出来更高产的粮食，让更多人吃上饭，能不能帮更多的人缓解病痛，怎么研发出来续航更高的电池，让机器人走进千家万户，如果一个普通人因为经济形势不好濒临破产，怎么才能指导他走出困境。我希望看到这些。而不是在网络漏洞挖掘这种几乎全是负外部性的东西上后训练，然后一边跳大神一边用人新世这种狗屁不通的词来吓唬大众。
openai创始人在ilya sutskever在发起对altman的罢免之前，最后一条推特是：if you value intelligence above all other human qualities, you're gonna have a bad time（如果你把智力看得比所有其他人类品质都重要，你会过得很惨）。当时大家的解读是，ilya看到了什么克苏鲁一般的超人类智能。现在看来，他可能看到的不是克苏鲁一般的人心。而在agi时代，后者可能更可怕。
观点二（事实澄清）：
说这话的科学家名叫 Jascha Sohl-Dickstein，现在在 Anthropic，以前是在 Google Brain，是扩散模型最早的提出者之一。题干中提到的观点是他在今年6月在斯坦福一个物理与AI的会议上面向早期职业阶段的科研人员讲的，他并没有说"读博没意义"。他当时提到：自己遇到一个很优秀的研究生，这个学生自己估计AGI三年内到来，可几分钟后聊职业规划，说的还是读完博士、做博后、找教职。他觉得这里面有矛盾：嘴上相信AGI三年内会来，但行动上却按"AGI还早、读博做博后找教职这条老路照样走得通"来规划人生。所以严格说，他批评的是信念和行动对不上。
观点三（深入分析）：
演讲里有给到一条具体建议：要避免花两年时间做出重要进展，结果做完时别人给最新的基础模型写个提示词就能得到更好的结果；所以应该做目标明确的项目，和别人合作，速度要快，要跑在指数曲线前面，不鼓励缓慢的、开放式的探索。
问题来了，Sohl-Dickstein 最出名的应该是2015年那篇把非平衡热力学用到生成模型上的论文，也就是扩散模型的源头。这篇论文发表之后好几年都没什么人关注，生成模型领域那几年是GAN的天下。一直到2020年 Jonathan Ho 等人的 DDPM 出来，扩散模型才真正火起来，后来又成了 Stable Diffusion、Sora 这一整条技术路线的底座。
从2015年到2020年这五年，这篇论文就是一项"缓慢的、开放式的探索"，它不是目标明确的冲刺项目，在当时也看不出能"跑在指数曲线前面"。如果2015年的他按照2026年的他给出的建议来选题，大概率不会去做这件事。这倒不是说他自相矛盾，说明了一个他在演讲里没有展开的问题：一个领域里最有分量的东西，往往是在"看起来不划算"的时间段里做出来的。而这种时间段在博士阶段最多，因为博士生的机会成本最低，被考核的压力相对小，可以允许自己在一个冷门方向上耗几年。
再把这个逻辑往下推，AGI时间线对博士教育真正的冲击，其实不在"学位贬值"。读过研的朋友应该了解，大量时间是花在了现在看来很笨的事情上：手推公式推错了重来，复现一篇论文复现了三周发现作者漏写了一个归一化细节，调参调到凌晨。所谓"研究品味"，就是从这些笨活里磨出来的。你复现失败过几十次，才会对"这个结果好得不太正常"产生直觉；自己推过那些公式，才能知道哪个假设是整个推导里最脆弱的一环。
Sohl-Dickstein 的建议之一，是让AI去承担编码、执行和验证的工作，人保留判断和思考。这条建议对他那样已经有二十年积累的人完全成立，可是对一个博一学生来说，编码、执行、验证这些活，本身就是判断力的来源，如果把这部分交出去，剩下的"判断"从哪里来？他在演讲里其实碰到了这个问题的边界，他说可以用AI给写作提反馈，但是不要让它替自己写初稿，因为写作就是思考。可这个逻辑不应该只停在写作上。推导是思考，复现是思考，debug也是思考。他给写作留了一个例外，为什么只给写作留？
日本经团联今年2月出过一份关于博士人才的报告，结论和"博士过时论"正好相反。他们认为在生成式AI和智能体的浪潮下，博士训练出来的深度专业能力、全局视角和独立探究能力反而更重要。分歧也许不在要不要读博，而在入门阶段的训练要怎么重建。
他提出的那个矛盾是真实的，我身边就有不少人一边在朋友圈转"AGI两年内来"，一边按十年前的模板规划人生。如果你真心相信极短的时间线，那确实应该重新想一遍自己的选择。他说的另一点也成立：当整个系统的风险都很高时，所谓"安全的选择"可能并不安全，只是让你放弃了上行空间。
不过这番话的听众是斯坦福会场里那批已经拿到入场券的人，讲的人是一位在"慢研究"上收获了巨大回报的科学家。他今天站的位置，恰恰来自他现在劝别人避开的那种路径。这并不让他的话变得没有价值。
如果你拿到了一个不错的博士offer，又看到这类新闻，开始怀疑要不要去——别问学位会不会贬值，先问问自己想不想要那四五年里可以安心做一件"看起来不划算"的事情的机会。如果想，那这个机会在AI时代只会更难得；如果本来就只是想要一个头衔，那AGI来不来，这个决定都值得重新考虑。
注：以上内容为页面可访问部分的全文整理；页面中部分回答显示有"阅读全文"折叠，已尽量抓取可见内容。