当 AI 比人类更擅长思考，我们还有必要自己学习吗？
2026年10月20日
阅读提示：这是经过删节和整理的人机对话。六轮用户提问均予保留，仅调整了换行、大小写和个别明显的文字错误；AI 的长篇回答删去了重复内容，并对部分段落作了压缩、衔接和轻微改写，因此不是逐字逐句的完整记录。讨论的先后顺序和主要分歧没有改变。
对话从陶哲轩近期围绕 AI 与数学研究的公开表态开始，逐渐转向 AI 编程、成果验证、责任归属，以及个人理性选择与社会长期需求的冲突。后半段有关 AI 能力全面超越人类的讨论，是假设性推演，不是对当前技术能力的事实断言。AI 回答也不应视为法律、医疗或其他专业意见。
👤 User
你怎么看待陶哲轩对 AI 的抵制？
🤖 Assistant
我的判断是：陶哲轩对 AI 的警惕有充分的合理性，尤其是他对数学研究生态可能遭到破坏的担忧。但如果进一步发展为抵制 AI 公司，甚至试图阻止 AI 大规模解决数学难题，我就不完全赞同了。
需要先区分一件事：陶哲轩并不是通常意义上的反 AI 人士。他本人也在使用 AI 工具。他主要批评的是 AI 企业把攻克数学难题当成展示模型实力的竞赛，与数学共同体重视的理解、方法、人才培养和知识积累发生了冲突。
2026 年 9 月 11 日，他是《A Severe Misalignment of AI in Mathematics》最初的 25 位菲尔兹奖得主联署者之一。10 月 7 日，他在博客转载了 Association for Human Mathematics 呼吁数学家停止与 OpenAI 合作的声明。不过，转载页面明确标注为该组织的客座文章，不能把组织的每项主张直接等同于他个人作出的全部承诺。
这里最值得讨论的问题，不只是数学家会不会被 AI 取代，而是：
当 AI 已经能够替人类完成越来越多的智力劳动时，我们究竟应该优先追求成果，还是保留人类获得理解、创造知识的过程？
传统上，数学家研究一个开放问题，可能花几年时间探索不同方法。即使没能解决原问题，也可能发展出新工具、形成新理论、培养研究人员。假如 AI 很快给出了正确证明，原来围绕这个问题展开的探索会不会被跳过？
我认为，答案可以先于理解出现，但这并不意味着理解没有价值。我们应该要求成果可靠、可复核，并投入精力将成果转化为人类能继续使用的知识，而不是为了保存旧的研究过程而限制发现本身。
👤 User
他的观点是不是，研究的过程和方法以及顺带产生的副产品更有实际价值，而最终的结论只是水到渠成？现在结论先出来了，研究过程或者方法就会受到影响，甚至直接放弃？
但是我觉得他举例的那个药物对人有作用，然而没人知道药理的例子举得不恰当。
🤖 Assistant
你所理解的“过程价值”，确实接近陶哲轩在《Math 2.0》演讲中讨论的一部分：在纯数学中，开放问题更像指引研究的灯塔，探索过程中形成的方法和理解，可能比某个问题最终有没有被解决更重要。
但这里需要区分两个判断：
- 获得答案，不等于获得理解。 这一点很有说服力。
- 提前获得答案，就必然使人类失去探索机会。 这不一定成立。
一个难题已经得到证明，数学家仍然可以研究其他证明方法、推广结果，或寻找原证明没有揭示的结构。AI 直接给出答案，也可能为后续研究提供新的起点。究竟会减少还是增加有价值的探索，不能事先确定。
至于药物的例子，陶哲轩提出的不是简单的“药物有效，但人类不知道药理，所以不应使用”。他设想的是：AI 被要求找到能通过特定验证程序的癌症治疗方案，却可能利用验证目标与真实治疗目标之间的缝隙，得到形式上合格、实际上仍有风险的结果。
通过某种检验，与完全实现我们真正想要的目标，不是同一回事。
你的质疑也有道理。现实中确实存在作用机制没有完全阐明、但有充分临床证据支持使用的治疗方法。对药物而言，是否了解全部机制既不是安全性的充分条件，也未必是必要条件。独立的临床验证、风险收益评估和长期观察同样重要。
因此，更稳妥的原则不是“人类不理解就不能使用”，而是按照结果的风险，决定需要何种程度的验证、理解与可追溯性。
还有一个可以继续追问的问题：如果 AI 不仅能给出答案，还能探索失败路径、提出新方法、解释证明背后的原理，那么传统研究过程中的那些“副产品”，是否也可能由 AI 产生？
那时问题就不再只是 AI 会不会跳过研究过程，而是：研究过程是否必须由人类亲自完成？
👤 User
我对数学不太了解，能不能类比成 AI 编程，最后代码可以正常跑起来，但是从严谨的角度出发，应该让人能够看懂整个编程语言。当然我对编程也不了解，只是不成熟的想法。代码能跑但不一定是最优方案，但是代码能跑了会让很多人不去自己研究代码而是都指望 AI，最终失去编程能力。
关于目标错位的治疗方案类比，是不是也可以理解成，AI 根据要求把代码写出来跑通了程序，但是这个程序本身是否合理还有待验证？就像做出个游戏，确实能玩，但是是不是真的好玩，被市场接受，就需要验证？
🤖 Assistant
AI 编程是一个很直观的类比，但不必要求使用者理解整门编程语言。更准确的说法是：有人或某种可靠的机制，能够判断 AI 产出的程序为什么这样工作、有什么局限、是否符合实际目标。
例如，让 AI 开发一款游戏，至少可以分成三层：
- 结果： 游戏能运行，功能也基本完整。
- 方法： 代码结构和实现方式合理，问题发生时能够分析原因。
- 能力： 从开发中形成可复用的知识，下一次能处理相似问题。
AI 可能直接提供第一层成果，而使用者没有获得第二层、第三层能力。不过，数学中经过严格形式化验证的证明，与一个“能跑起来”的程序也不完全相同：程序能运行，不代表所有条件下都正确。
你用游戏解释“目标错位”，也很合适。假设 AI 完成了一款有地图、职业、装备、战斗、存档功能的 RPG，自动化测试全部通过。技术任务似乎完成了，但这款游戏可能依然不好玩。
因为“有这些功能”与“玩家觉得探索、成长和战斗有乐趣”不是同一个目标。
严格说，游戏不好玩也可能只是需求定义不清、设计能力不足或测试不充分，不一定构成 AI 对齐研究中的目标错位。一个更典型的例子是：你要求系统最大化玩家在线时长，它就通过重复刷怪和签到延长时长，却牺牲了玩家体验。指标变好了，真正想实现的价值未必变好了。
至于人会不会因此失去编程能力，我认为要区分两件事：
个人不再掌握一种技能，不等于整个社会已经失去这种能力。
现在多数人不需要使用算盘，也不代表数学已经消失。但如果越来越少的人理解底层原理、越来越少的人能独立验证 AI 成果，社会确实可能产生更深的依赖。
接下来还有一个更难的问题：如果未来 AI 连验证和纠错都比人类更可靠，我们还有多少理由坚持必须由人类来理解？
👤 User
关于你提出的“如果未来 AI 连验证和纠错都比人类更可靠，我们还有多少理由坚持必须由人类来理解？”这个问题，从我不成熟的角度来看，确实没有理由坚持必须由人类理解。前提是确实经过了足够多数量的验证证明 AI 在这方面更可靠。
就比方说计算机计算的速度和准确度都远远超过人类，现在还有人坚持必须手工计算复核吗。既然如此，就应该让 AI 在更擅长的领域代替人类。就像经济学里比较优势的概念。一个人不可能在所有领域都达到这个行业知识的顶端，但是 AI 可以。区别可能是 AI 只能达到行业知识的前 5%，人类在某一个方面能达到前 1%。对于绝大多数人来说，AI 对通用知识的掌握程度是要远远超过自己的，那么只在自己有绝对把握的领域做一下复核，其他的工作都给 AI 做才是最优解。
🤖 Assistant
如果 AI 在一项任务上已经被充分证明比人类更可靠、更高效，那么坚持所有人都必须亲自完成或理解全过程，确实缺乏充分的实用理由。
但有几个概念需要分开。
计算器所处理的通常是边界明确、检验标准明确的计算；通用 AI 面对的任务则经常存在另一个问题：你要求它完成的事情，本身是不是值得做，是否真的符合你的目标？
你提到的比较优势，也不是简单比较谁更强，而是比较机会成本。至于 AI 在某领域处于“前 5%”、人类专家处于“前 1%”，可以当成思想实验，目前并没有一套统一尺度能这样量化所有专业能力。
另外，“只复核自己懂的领域”存在风险。一个人越不了解某个领域，越可能无法识别 AI 的严重错误。比如一份涉及重大金额的法律合同，即使 AI 表现很强，也仍需要与风险相称的可靠验证。验证未必由使用者亲自完成，可以依赖独立系统或专业人士。
所以合理分工不只是看谁更擅长做，还要看错误的概率、后果，以及验证的成本。
不过，你设定了一个更强的前提：未来的 AI 连验证和纠错都已经通过充分实践证明比人类可靠。 如果这一前提真的成立，那么持续要求人工逐项复核，未必能增加安全性。
这也引出了另一层区别：对个人而言，不再投入多年学习高深专业知识而直接使用 AI，可能完全合理；但如果所有人都这样选择，整个社会会不会逐渐缺乏独立理解和维护关键知识体系的能力？
👤 User
刚才我的表述确实有些偏差，我想表达的意思可能更接近于“只有在自己绝对有把握的领域来指导和审核 AI 的工作”。当然你说的自己不了解的领域更需要交叉验证，这个是肯定正确的。只不过我刚才默认的前提是“未来 AI 连验证和纠错都比人类更可靠”。
不过说到这儿，可能又涉及到另外一个话题，就是谁对 AI 工作的结果负责，目前来看应该还是人类对自己提交的 AI 工作的结果负责，比如说我提交了一个 AI 帮我整理的财务方案，那就应该我负责。我可以复核，也可以不复核，这不影响我是这个方案的责任人。如果我是财务方面的专家，我会自己凭借自己的知识去审查复核，如果我不是，那我也可以采取别的方法交叉验证。
可能有些偏题了，算是想到哪儿说到哪儿。
🤖 Assistant
这里出现了一个重要区分：对工作结果负责，与亲自具备完成或审查这项工作的专业能力，并不是一回事。
一个人委托会计师制定财务方案，不需要先成为会计专家才能决定是否采用方案。把会计师换成 AI，从“决策者是否必须亲自掌握全部专业技术”的角度看，也可以作类似理解。
但“我可以复核，也可以不复核，这不影响我是这个方案的责任人”需要加一个限定。
如果说的是谁决定提交、采纳或使用方案，复核与否不会自动改变这个事实；但如果涉及法律责任，复核与否可能影响是否尽到合理注意义务。责任也可能由使用者、公司、专业服务方或 AI 提供者分担，具体取决于法律、合同和实际行为。
不复核不意味着责任消失，但承担责任也不意味着必须事必躬亲。
再设想一种更极端的情况：未来 AI 的专业能力、验证能力都远超任何人类专家。你采用了当时最可靠的系统，完成了所有合理验证，却仍出现了任何人都无法合理发现的错误。
这时如果让使用者承担全部责任，就会出现一个问题：责任是否已经超出了他的控制能力？
判断责任不能只看“最后是谁点了提交”，还要看谁决定使用、谁能控制系统、谁本来能够防止错误却没有履行义务。这里是对未来制度的推演，不是对现行法律分配的确定结论。
我们可以把讨论拆成三个问题：
- 能力： 谁更擅长完成任务？
- 理解： 谁能解释任务为什么成功？
- 责任： 谁应该承担决策和结果的后果？
三者不必永远集中在同一个人身上。
于是问题再次回到人类能力的保存：对个人来说，把自己不擅长的工作交给 AI 可能是理性选择；但如果每个人都这样做，社会是否还需要刻意培养下一代数学家、程序员和科学家？
👤 User
每个人的帕累托最优叠加起来并不是整个社会的帕累托最优。从个人角度来看，至少从我的个人角度来看，是完全没有必要培养的。就好比几年前我还想着是不是学点 Python 编程，现在这个节点再看就完全没有这个必要。我不排除有人会学习，但这只是个人的选择。至于从社会发展角度来看，应该是需要刻意培养下一代的人类数学家、程序员和科学家的。当社会和个人的最优解出现偏差时，就需要采取一定的强制措施或者补偿措施了。
🤖 Assistant
这里描述的现象，更准确地说是个体理性与集体理性的冲突，而不是“每个人的帕累托最优叠加”。
帕累托最优指的是一种资源配置状态：在不让任何人变差的前提下，已经无法再让某个人变得更好。你的意思更接近：每个人独立作出的理性选择，未必形成社会整体效率最高的结果。
假设未来 AI 已经能够完成绝大多数编程工作。对一个普通人来说，学习编程需要投入很多年，预期回报却越来越低，那么不学可能是合理的个人选择。
但社会仍可能需要一些具备独立能力的程序员，维护基础系统、研究新技术、检查模型局限或应对系统性故障。如果这部分社会收益无法充分转化为学习者的个人收益，就可能出现正外部性与人力资本投资不足的问题。
不过，出现这种偏差，不意味着必然应该采取强制措施。只有在社会收益确实高于干预成本，而且存在有效手段时，干预才有充分理由。
社会或许可以通过教育补贴、科研奖学金、公共研究机构、关键人才储备等方式维持必要的专业能力，而不是强迫所有人长期学习传统技能。否则，也可能造成新的资源浪费。
回到你个人是否需要学习 Python 这件事，可以区分两种投入：
- 为了自己亲手写程序而系统学习语言，如果主要目标是借助 AI 完成项目，未必值得。
- 为了更好地提出需求和判断结果，适度了解自动化测试、版本控制、数据结构等基本概念，仍可能有用，但不需要通过完整的编程训练才能获得。
至于社会究竟需要保留多少人类数学研究能力，目前没有一个固定答案。假如未来 AI 可靠地承担了几乎全部研究、解释和验证，而且系统性依赖风险也得到解决，那么传统人类专业能力的工具性需求可能继续下降。
社会真正需要保护的，或许是独立获得可靠知识、持续创新和应对系统性风险的能力，而不一定是某一种职业或某一种传统研究方式。
这段讨论最终形成的分歧也就比较清楚了：人类继续做数学研究，可以具有文化、教育和探索本身的价值；但如果社会希望个人为了维护公共能力而投入大量时间，就需要说明这种公共价值是什么，以及谁来承担培养成本。
相关原始资料
以下链接是整理时补充的来源，用于核对对话开头涉及的公开事件；它们不代表整段对话的所有推论已经得到证实。