跳到主要内容
李不言的博客
返回

教 AI 学会“自我怀疑”:DeepMind 谈不确定性、概率与可靠决策

编辑此页

核心结论:DeepMind 研究副总裁 Zoubin Ghahramani 在一期技术对谈中把“不确定性”提到了智能决策的核心位置——从天气预报到机器人,可靠决策的前提不是模型更自信,而是模型“知道自己不知道”。访谈给出了三个递进的关键命题:一是正确性与置信度是两回事,模型必须学会校准;二是概率化思考(贝叶斯思维)是处理未知的成熟工具箱;三是把不确定性显式地带入现实世界系统,才能得到更安全、更可靠的 AI。本文基于 2026 年 8 月 Google DeepMind 官方账号发布的访谈内容整理,不涉及任何未发表的研究工作。

2026 年 8 月底,Google DeepMind 官方账号发布了一期对谈,主题一句话概括:从天气预报到机器人,智能决策都依赖理解未知。参与对谈的 Zoubin Ghahramani 是 DeepMind 研究副总裁,也是贝叶斯机器学习领域的代表人物——他推动的“概率化深度学习”方向,主张让神经网络不仅给出答案,还给出答案的置信度。这期内容值得单独写一篇,因为它把学术界的“老话题”(不确定性量化)重新摆到了 AGI 语境下讨论。

一、访谈说了什么:一张表看懂

章节时间点核心内容
引入00:00为什么从天气预测到机器人,决策都依赖理解未知
不确定性的角色01:06系统何时需要显式表达“我不确定”
正确性 vs 置信度07:45模型答对 ≠ 模型有把握,校准是关键
历史视角09:40概率思维在统计与 AI 中的演变
AI 中的贝叶斯思维16:10用贝叶斯方法量化参数与预测的不确定性
现实世界的不确定性26:30自动驾驶、机器人等场景如何落地
未来研究与 AGI36:42不确定性研究的前沿与通用智能的关系

二、最值得展开的三个观点

第一,“正确性”与“置信度”是两回事。 访谈中 Ghahramani 反复强调校准(calibration)的概念:一个模型如果答对了 90 道题,但在答错的 10 道题上也给出 95% 的置信度,那它就是“过度自信”的。在天气预测里,说“明天 70% 概率下雨”而实际下 7 成的天,这才是好的预报员——不是每一次都斩钉截铁。正确性与置信度分离,是可靠决策的第一道门槛。

第二,贝叶斯思维是处理“未知”的成熟工具箱。 16:10 的章节把话题引向贝叶斯方法:把参数和预测都视为概率分布,用数据不断更新先验。Ghahramani 是这一路线的旗手,他参与推动的深度学习贝叶斯化(如贝叶斯神经网络、不确定性量化)正是为了让模型在数据稀疏、分布漂移的场景下仍然诚实。对工程落地而言,这比单纯堆精度更有价值。

第三,把不确定性带进现实系统,才有“安全”。 26:30 章节落到自动驾驶与机器人:一个机器人面对从未见过的场景,如果模型不输出不确定性,系统就无法决定“该不该停下来问人”。自我怀疑不是模型的缺点,而是安全的组成部分——这正是访谈标题里“teaching systems self-doubt”的含义。

三、我的看法

第一个观察:“校准”正在从学术指标变成产品要求。 过去评估模型只看准确率,现在大模型时代,“什么时候该说不知道”直接影响用户信任。拒绝回答、给出置信区间、主动承认证据不足,这些能力正在成为模型质量的组成部分。

第二个观察:贝叶斯方法与深度学习的结合远未结束。 Ghahramani 访谈里强调的历史视角(09:40)其实在提醒我们:概率思维是统计学的底色,深度学习只是最近二十年给它换了个引擎。未来数据稀缺领域(医疗、工业、科学发现)会越来越需要“带不确定性的预测”,而不只是点估计。

第三个观察:“自我怀疑”可能是一条通往 AGI 的路径。 访谈最后(36:42)把话题引向 AGI:一个通用智能体必须知道自己在哪些领域无知,才能决定何时学习、何时求助、何时冒险。从这个角度看,不确定性不是模型的短板,而是智能的元能力。

需要说明的局限:本文基于 DeepMind 官方账号发布的访谈摘要与时间码整理,未观看完整视频内容;时间码对应的具体论述以原视频为准。访谈中提到的技术方向(校准、贝叶斯深度学习、不确定性量化)均为已公开发表的研究范畴,不涉及任何未发表工作。


参考来源:


编辑此页
分享这篇文章:

上一篇
OpenClaw 2026.8.1:个人 AI 助手的“2.0 时刻”
下一篇
《此间》——李不言 AI 制作

评论