Google DeepMind Podcast #8: Zoubin Ghahramani 谈 AI 不确定性的数学
- ID: c5f29b8f
- 原文链接: https://x.com/Xudong07452910/status/2093520192072536209
- 作者: Xudong07452910
- 日期: 2026-08-29
- 分类: models
- 来源类型: x_post
- 标签: uncertainty, bayesian, hallucination, continual-learning, deepmind
- 质量评分: 4/5
- 抓取时间: 2026-08-29T23:47:00+08:00
中文导读
@Xudong07452910 整理 Google DeepMind Podcast 第 8 期《The mathematics of AI uncertainty》8 个要点，嘉宾为剑桥教授、DeepMind 前沿 AI 联合负责人、贝叶斯机器学习重要人物 Zoubin Ghahramani。核心论点：LLM 真正危险的不是答错而是"非常自信地答错"——模型缺少稳定的内部状态表达"我有多相信这个判断"，被随口质疑就立刻改口，说明它没有真正的信念，这与按证据做贝叶斯更新是两回事。GenCast（飓风预测输出大量可能路径随观测更新）与 AlphaFold（标注低可信区域）是"承认不确定性"的既有工程范式。AGI 最缺的是持续学习：当前范式是训练→发布→再训练下一代，而贝叶斯更新天然是持续修正。贝叶斯几十年未成主流只因算不起，如今算力让这些旧思想值得重审；语义熵等不确定性估计则还是"模仿计算器"而非真的会计算
原文摘录（节选）
摘录来源：X API 抓取证据（evidence JSON）
[
{
"id": "2093520192072536209",
"author": "Xudong07452910",
"bio": "🎓PhD ing @ University of Sussex | LLM & AI Agents\n📖AI Agent Product Development\n🛠️Sharing AI tech insights\n📩DM for collab",
"text": "非常推荐最近这期 Google DeepMind Podcast：\n\n《The mathematics of AI uncertainty》\n\n嘉宾是 Zoubin Ghahramani，剑桥大学教授、Google DeepMind 前沿 AI 联合负责人，也是贝叶斯机器学习领域的重要研究者。\n\n整期只有 44 分钟，但信息密度很高。\n\n它从「为什么今天的 AI 总是那么自信」开始，一路谈到贝叶斯、幻觉、持续学习、规模扩展、新架构，以及通往 AGI 可能还缺什么。\n\n按对话顺序整理 8 个我觉得最值得听的地方：\n\n1. 智能的基础能力之一，是知道自己有多不确定\n\nZoubin 开场就提出：\n\n现实世界里的智能，一直在做「不确定条件下的决策」。\n\n我们无法掌握全部信息，也无法准确预测未来，所以一个可靠的智能系统，需要知道自己掌握了什么、缺少什么，以及当前判断有多可信。\n\n比如自动驾驶遇到「冰雹天气里突然冲出一匹马」这种极少见的场景，重要的是意识到：\n\n「这个情况我以前几乎没见过。」\n\n然后更谨慎地行动。\n\n---\n\n2. AI 真正危险的地方，是「非常自信地答错」\n\n这里他们区分了两个概念：\n\n正确性和置信度。\n\n模型答错并不奇怪，麻烦的是，它明明错了，却依然表现得像自己有 99% 的把握。\n\nZoubin 提到经典的对抗样本：\n\n只修改校车图片里几个肉眼几乎看不出的像素，神经网络就可能非常确信地告诉你：\n\n「这是一只猎豹。」\n\n今天的大模型也有类似问题：\n\n能力很强，但对自己能力边界的认识依然很弱。\n\n---\n\n3. 大模型一直在算概率，但它没有真正稳定的「信念」\n\n大模型每生成一个词，都会计算下一个词出现的概率。\n\n但这和：\n\n「我对这个事实有 70% 的把握」\n\n不是一回事。\n\n今天的大模型缺少一个稳定的内部状态去表示：\n\n「我到底有多相信这个判断。」\n\n所以模型刚刚还非常肯定，你说一句「我觉得你错了」，它可能马上改口。\n\n这也是 Zoubin 强调贝叶斯思维的原因：\n\n有新的证据，再更新判断。\n\n而不是因为用户随口质疑一句，就突然改变立场。\n\n---\n\n4. 幻觉可能只是一个「症状」\n\nZoubin 对幻觉的看法很有意思。\n\n如果你让模型写「爱因斯坦坐火箭登上月球的故事」，虽然是假的，但属于创作。\n\n真正的问题是：\n\nAI 能不能区分什么时候需要创造力，什么时候需要准确事实。\n\n如果回答的是事实问题，它最好还能告诉你：\n\n「这个说法我有多确定。」\n\n他们也谈到了「语义熵」这类方法，用模型内部概率去估计不确定性。\n\n但 Zoubin 用了一个很好的类比：\n\n给模型看无数道算术题，让它学会答案，像是在「模仿计算器」。\n\n我们真正想要的，是：\n\n一个真的会计算的计算器。\n\n同样，最终希望 AI 真的能够推理，而不是只表现得「像会推理」。\n\n---\n\n5. 为什么贝叶斯这些思想几十年前没有成为主流？因为算不起\n\n理论上，贝叶斯方法可以持续吸收证据、更新判断，同时表达自己的不确定性。\n\n问题是：\n\n计算量太大。\n\n如果真的给现实世界各种可能状态维护完整概率分布，很多问题几乎无法计算。\n\n于是后来 AI 走向了一条更现实的路线：\n\n更多数据 + 更大模型 + 更多算力。\n\n事实证明，这条路线非常成功。\n\n但 Zoubin 认为，现在的计算能力已经完全不同了，也许可以重新审视那些过去因为太贵而被放弃的思想。\n\n---\n\n6. GenCast 和 AlphaFold 已经证明了「承认不确定性」的价值\n\nGenCast 预测飓风时，不会只给出一条确定路线，而是生成很多种可能路径，再随着新的观测不断更新。\n\nAlphaFold 也会告诉研究人员：\n\n哪些区域比较确定，哪些区域可信度较低。\n\n但 AI 也不能什么都说「我不知道」。\n\n这里就引出了概率校准：\n\n如果一个系统经常说「有 70% 概率发生」，那么长期来看，最好真的有大约 70% 的情况发生。\n\n好的 AI 应该做到：\n\n该自信的时候自信，该犹豫的时候犹豫。\n\n---\n\n7. 然后进入整期我最感兴趣的部分：只靠规模扩展够不够？\n\n主持人把今天 AI 的路线粗略分成两种：\n\n继续增加数据、算力和模型规模；\n\n或者寻找新的模型架构和学习方式。\n\nZoubin 更接近第二种观点，但他也完全认可规模扩展已经取得的巨大成功。\n\n只是当 AI 真正进入医疗、机器人、自动驾驶和现实世界决策之后，现有方法的缺口会更加明显。\n\n他特别提到：\n\n持续学习、能源效率、数据效率，以及新的模型架构。\n\n尤其是持续学习。\n\n今天的大模型基本是：\n\n训练 → 发布 → 再训练下一代。\n\n而人和动物会持续获得新信息，并不断整合进已有知识。\n\n贝叶斯更新天然就是这种持续修正判断的过程。\n\n---\n\n8. 那些过去因为「算不起」而被放弃的 AI 思想，会不会重新回来？\n\nZoubin 形容贝叶斯有点像一个：\n\n「带着诅咒的魔法。」\n\n理论上很漂亮，但精确计算太贵，只能不断寻找近似方法。\n\n有意思的是，主持人提醒他：\n\n几十年前大家对神经网络也说过类似的话。\n\n太慢、太贵、不现实。\n\n而当年 Zoubin 使用的顶级并行计算机，现在甚至还不如他口袋里的 Pixel 手机。\n\n所以他现在重新思考的一个问题是：\n\n在今天的算力和算法条件下，那些过去因为「算不起」而被放弃的 AI 思想，是不是可以重新拿回来？\n\n---\n\n整期听下来，我最喜欢他最后表达的这个观点：\n\n相比一个过度自信的 AI，他更希望拥有一个知道自己什么时候不知道的 AI。\n\n过去几年，我们一直在想办法让 AI：\n\n知道更多、回答更多、推理更久。\n\n但再往前走，还有一个很基础的问题：\n\n它能不能知道，什么时候自己其实不知道。\n\n这期真的很值得完整听完。https://t.co/JUxCU4bCDC",
"likes": 32,
"retweets": 7,
"created_at": "Sat Aug 29 02:04:44 +0000 2026",
"url": "https://x.com/Xudong07452910/status/2093520192072536209",
"has_media": false,
"media_urls": [],
"card": {
"name": "player",
"title": "The mathematics of AI uncertainty",
"description": "Long before the current wave of large language models, one academic...",
"url": "https://t.co/JUxCU4bCDC",
"domain": "www.youtube.com"
},
"quoted_tweet": null
},
{
"id": "2093520607644385293",
"author": "QT9277",
"bio": "｜推特记录撸空投日常 ｜捡瓶资本CEO｜空投猎人｜撸毛养家｜Alpha猎手｜#蓝鸟会 成员 #BNB 21年到今日亏了近90个，进圈初衷想改善生活。结果最后负债累累。最大的梦想就是找回她和孩子。",
"text": "@Xudong07452910 这期播客太顶了！",
"likes": 1,
"retweets": 0,
"in_reply_to": "2093520192072536209",
"created_at": "Sat Aug 29 02:06:23 +0000 2026",
"url": "https://x.com/QT9277/status/2093520607644385293",
"has_media": false,
"media_urls": [],
"card": null,
"quoted_tweet": null
}
]
Update available: v1.8.0 → v1.8.7
Run: npm install -g @jackwener/opencli
Extension update available: v1.0.22 → v1.0.23
Download: https://github.com/jackwener/opencli/releases
本文由 daily-intake-evening 流水线于 2026-08-29 归档；摘录为原文节选，全文见原文链接。