能证明“就是这个模型答的”：Anthropic 的可证明推理原型 FlashProve

深度摘要

用户今天无法确认回答自己的究竟是不是所选的模型：路由服务可能偷换更便宜的模型，攻击者可能篡改 token 流，而只看输出质量无法识破。Anthropic 的回答是密码学证明：服务方随回答附上一份简短证明，验证者无需知道权重、也无需重跑模型，就能在几秒内确认输出确实出自承诺的模型。原型 FlashProve 在单张 H100 上对 400B 混合专家模型做到约每秒 110 个 token，证明约 19MB，代价约为原生推理的 70 至 95 倍 GPU 时间。作者同时用 Lean 形式化证明了完备性、可靠性与零知识性三条顶层性质，并开源了证明器、两种验证器与技术报告。

关键要点

• 问题定义清晰：防偷换模型、防 token 流篡改、防评估时被掉包，三者都归结为“输出是否出自承诺的权重”
• 硬数字跨越式：同款 Llama 4 Maverick，此前 VerInf 需 14.3 小时证明 1000 个 token、证明 93.6GB，FlashProve 为每秒 110 token、证明 19MB
• 可信锚点分层：Lean 慢速验证器带形式化保证，日常用的 C++ 快速验证器不带保证，但测试中与 Lean 验证器结果一致
• 作者自承的边界：只证明整数模型加贪心解码，上下文限 1024 个 token，架构不隐藏，旁路攻击不在范围

关键事实

模型为 Llama 4 Maverick，400B 参数混合专家，4 位量化，prefill 用整数运算；单张 H100 证明速度约 110 token/秒，每 1024 token 请求的证明约 19MB，GPU 时间约为 vLLM 原生推理的 70 至 95 倍；对照：VerInf 对同款模型约 0.02 token/秒，14.3 小时证明 1000 token，证明 93.6GB，验证需近一天；zkLLM 在 2024 年对 13B 模型约 2.5 token/秒；发布物共五项：博客文章、技术报告、Claude 撰写的协议规范、可执行代码与 Lean 证明及定理可视化，代码与证明采用 Apache 2.0 协议；权重本身不在发布物中，读者需自行从 Hugging Face 获取。

作者观点

作者主张可证明推理能同时服务三类用途：消费者对服务方的信任、评估者对“测的正是被测模型”的确认、监管者对算力用途的核查；并认为约两个数量级的开销远低于此前预期，进展应能迁移到更多模型与架构。作者同时强调这是中期进展而非完成的研究议程，公开就是为了让别人拿去改进。

为什么重要

它把“你到底在和谁说话”从信任问题变成了可验证问题。一旦证明成本继续下降，路由偷换、评估作弊、合规自证都会多一个硬锚点；反之，若只停留在原型，它仍是衡量零知识机器学习实用化速度的一把标尺。

编辑点评

本期技术含量最高的一篇，价值在两处：一是可复核的对照表，把四年间从每 token 数百秒到每秒百 token 的爬坡钉在数字上；二是作者没有藏起短板，整数加贪心、1024 上下文、快验证器无形式化保证都写在明处。读者应注意，证明“输出出自某权重”不等于证明“输出正确”，这是它与本期第 3 篇验证一文的分工线。

深度摘要

Moonshot 发布 K3.1 系列首个模型 Kimi K3.1 Pro 的开放权重，定位是原生多模态智能体模型，也是该团队迄今最强的 3T 级模型。它由 Kimi K3 经数百个下游领域的大规模联合强化学习后训练得到，上下文窗口 100 万 token，架构上用门控 DeepSeek 稀疏注意力层替换了全注意力门控 MLA 层，以换取更高效的长上下文建模。模型卡称其在编程、三维生成、金融研究与事实准确性等智能体能力上有显著提升，并附有覆盖编程、科学、办公、金融与多模态任务的大量基准对照与评估方法说明。

关键要点

• 开放权重且原生多模态，定位智能体模型而非单纯聊天模型
• 1M token 上下文，架构改动直指长上下文效率：Gated DSA 替换全注意力 Gated MLA
• 后训练路线是跨数百领域的大规模联合强化学习，而非单领域微调
• 模型卡附有大量基准对照与评估口径说明，但分数均为发布方自报，独立复核尚待跟进

关键事实

模型为 Kimi K3.1 系列首个模型，由 Kimi K3 后训练得到，训练方式为跨数百个下游领域的大规模联合强化学习；上下文窗口 100 万 token；架构改动为以门控 DeepSeek 稀疏注意力层替换全注意力门控 MLA 层；评估默认设置为最大推理努力度、温度 1.0、top-p 0.95；模型卡对照的基准包括 Terminal-Bench、SWE-Marathon、ProgramBench、DeepSWE、PostTrainBench、Kimi Code Bench、BenchCAD、BioMysteryBench、Agents Last Exam、OfficeQA Pro、Frontier Finance、OSWorld、BrowseComp 与多模态任务集。

作者观点

发布方主张 Kimi K3.1 Pro 是其迄今最强的 3T 级模型，在编程、三维生成、金融研究与事实准确性等智能体能力上相对 K3 有显著提升，并把架构改动与长上下文效率直接挂钩。

为什么重要

开放权重加 100 万上下文，意味着任何人都能在本地或自有算力上复现、评测与改造一个前沿智能体模型；对关注智能体编程与长上下文任务的读者，这是本周可直接动手验证的一手材料。

编辑点评

消息本身的价值大于模型卡里的分数：权重已公开，基准表再长也只是发布方自报，真正的检验在社区复现之后。值得留意的是它与上一期本地复现权重解读的呼应：开放权重正在从“能下载”走向“能验证、能审计”。

深度摘要

当 AI 智能体能大规模验证文献、复现实验、证明定理，科学似乎终于可以摆脱人的判断，只靠程序抵达真理。作者沿着科学史反驳了这个设想：十九世纪“机械客观性”运动本想用程序取代对个人的信任，但从未真正成功；数学中可验证的证明仍需品味来决定哪个定理值得证明，同行评议的价值也不只是筛掉错误，更是让共同体成员为彼此的主张负责。作者警告，若把选题、批判与判断都交给验证引擎，科学会得到一堆正确答案，却失去提出好问题的人、失去下一代判断者，最终产出“没有对应问题的答案”。

关键要点

• 核心区分：可验证的答案不等于知识，知识还需要理解、批判与责任归属
• 历史论证：机械客观性从未真正取代对人的信任，程序只是转移了信任的位置
• 数学案例：证明可被机器验证，但“哪个定理有趣”仍需品味与共同体判断
• 风险警告：验证规模化可能 sterilize 领域，让人失去提出问题与 adjudicate 价值的能力

关键事实

作者为西北大学计算机科学教授 Jessica Hullman，客座文章；文中引用的思想资源包括数学家 Bill Thurston 关于证明之作用的论述、哲学家 Helen Longino 关于“变革性质疑构成客观性”的观点、陶哲轩把开放问题比作灯塔而非终点的说法；费马大定理的例子：最初受关注源于费马自称有证明而未给出，真正成为中心问题是在它与模性猜想建立联系之后，形式化验证则到近年才完成。

作者观点

作者主张科学不是自然对齐的程序执行，而是价值驱动的社会实践：选择研究什么、接受什么、批判什么，都离不开人的判断；AI for science 的修辞若默认“方法规模化即等于真理规模化”，会抽掉科学赖以自我更新的判断供给。

为什么重要

它给本期第 1 篇划了一条边界：密码学能证明输出归属，形式化能验证证明正确，但“这是否值得知道、由谁负责”仍是科学共同体的工作。做 AI for science 或用 AI 做评审的读者，需要这篇来校准对验证的期待。

编辑点评

本期最值得慢读的一篇，也是与第 1 篇最有意思的对照：两篇都在谈验证，却谈的是两个层次。作者的论证不是反 AI，而是反“验证万能论”；若只读结论不读论证，容易把它误读成怀旧。建议对照着读：先读第 1 篇的技术，再读这篇的追问。

深度摘要

一个 2024 年就上报给 PHP 基金会的内存越界 bug，当时只会被当作“会让程序崩溃的小毛病”而搁置；今年在一家安全公司借助 AI 工具的独立审计中，两周内就被做成了可在服务器上执行任意代码的严重漏洞，波及 NASA、维基百科、白宫及所有 WordPress 与 Drupal 站点。补丁由四名工程师花了两个月才赶出来。文章的核心判断是攻防不对称正在被 AI 放大：找漏洞越来越像“费力的精细推理”，正是 AI 擅长的；而修漏洞必须封死所有攻击路径且不破坏现有功能，仍是慢活。受访者一边呼吁给防守方更多前沿模型额度与形式化验证工具，一边悲观地认为只有等到真正出大事，系统性的投入才会到来。

关键要点

• 旧 bug 新命运：2024 年上报的内存错误被搁置，AI 辅助审计两周内将其武器化为任意代码执行漏洞
• 波及面极广：WordPress 与 Drupal 支撑的站点均受影响，包括 NASA、维基百科与白宫网站
• 攻防不对称：找漏洞的速度在 AI 加持下大增，修漏洞仍需封死全部路径且不破坏功能，四人花了两个月
• 防守出路：受访者提到前沿实验室捐赠 token 额度做审计，以及 LLM 生成补丁再由 LLM 生成正确性证明的形式化验证路线

关键事实

PHP 语言诞生于 1994 年；漏洞根因为内存分配不足导致的越界错误，2024 年已上报但未被重视；安全公司 Calif 受 OpenAI 赞助独立审计 PHP，两周内借助 AI 工具找到武器化路径，随后与 Wiz 共同确认并扩展漏洞；补丁由四名工程师耗时两个月开发；文中提到的形式化验证新进展为 Anthropic 于 10 月 22 日发布的相关工作；约翰霍普金斯大学 Matthew Green 预测真正严重到让普通人愤怒的事件可能出现在 2027 年初。

作者观点

受访研究者的共识是 AI 让顶尖专家的产能放大，也让次顶尖者得以触及以往够不着的漏洞挖掘；分歧在出路：哥伦比亚大学 Suman Jana 对“AI 找漏洞加形式化验证修漏洞”的组合乐观，Matthew Green 则认为在真正出大事之前不会有系统性投入。

为什么重要

它把 AI 安全讨论从“模型会不会作恶”拉回到更具体的账本：过去四十年攒下的遗留代码正在被 AI 逐行重读一遍。防守方的窗口期不是无限的，先被白帽子找到还是先被黑产找到，正在变成运气问题。

编辑点评

一篇克制的报道，优点是没有夸大“AI 自主黑客”的叙事：文中明确说明，Calif 的研究者本身就是深耕 PHP 与安全的专家，AI 放大的是他们的推理，而不是替代他们。读者应注意文末的悲观判断与乐观路线的并置：两者都是预测，不是事实。

深度摘要

Doctorow 的收据扫描 App 有个用了多年的工作流：点“新建扫描”，再点“重命名”，标题栏里预填的日期时间一键就能清空。最近更新后，那个一键清空的叉号被换成了一个 AI 新功能的广告：要清空标题，得按 16 下退格键；每次误触旧位置，广告就再出现一次。作者把这件事放进一条长线里：Google Plus 时代，奖金与点击指标挂钩的团队最容易的办法就是把用户最常用的按钮换成自家按钮；流媒体时代，推荐指标催生了“误触即换片、且没有返回键”的界面；如今轮到 AI，厂商只要查一下遥测面板就知道该把哪个按钮换成 AI 精灵，好向老板和投资人汇报“用户对 AI 功能兴趣浓厚”。

关键要点

• 个案：终身订阅用户最常用的“一键清空标题”被换成每年 40 美元的 AI 功能广告，1 次点击变成 16 次按键
• 机制：遥测面板能排出按钮使用排行，产品团队据此把最高频按钮换成 AI 入口，指标随即“证明”用户喜欢 AI
• 先例链：Google Plus 的奖金挂钩、流媒体的误触换片与取消返回键，都是同一套 KPI 奖励黑客玩法
• 作者的判语：即便付了费，用户仍是产品；当每个指标都成为目标，指标就不再能度量任何东西

关键事实

作者 2023 年购买 Genius Scanner 终身订阅，此前因 CamScanner 变质而换用；被替换的是重命名时清空预填日期时间（共 16 个字符）的叉号按钮，替代物为该公司 AI 工具的广告，年费 40 美元，且无“不感兴趣”的关闭选项；作者称已误触该广告约 100 次；Google Plus 的例子中，时任副总裁 Bradley Horowitz 要求各产品团队把 G+ 塞进产品并与奖金挂钩；作者本人已从 Android 转用去谷歌化的 GrapheneOS，并称在 Graphene 自身界面中从未误触过 AI 元素。

作者观点

作者主张这不是个别产品的失误，而是 KPI 驱动的奖励黑客在 UI 层的系统表现：当“AI 采用率”成为考核指标，损害用户体验恰恰是最省力的达标方式；所谓“用户对 AI 功能兴趣浓厚”的汇报，在这种机制下不值得相信。

为什么重要

它给了一个可操作的怀疑工具：下次看到“用户热烈拥抱 AI 功能”的数据时，先问这个数字是不是用误触、默认勾选或删不掉的入口刷出来的。本期第 6 篇从投资端讲了同一个机制，两篇合读效果最好。

编辑点评

Doctorow 的老套路，但这次的个案足够具体：16 次按键对 1 次点击，是能量化到让人不舒服的程度。需要注意的是，文中对厂商动机的推断（“他们明知用户依赖这个按钮”）是作者的解释，不是厂商的自认；事实部分与动机推断应分开读。

深度摘要

作者从一个挑衅开场：没人能说清篮球为什么重要，只能说它赚多少钱；AI 正落入同一个度量陷阱。生成式 AI 号称已创造数十亿美元，但为此花掉的钱远多于此：AI 之所以被判定为“好”，是因为人们预期它会赚很多钱，而预期本身又由投入的金额与估值支撑。作者用“卖空披萨盒”作比：没有面粉和番茄，却先印好美味披萨的高清照片贴在空盒上，等融资到账再承诺做披萨。更尖锐的一问是：如果 AI 抢走所有工作，谁来付费？目前真正的买家不是公众，而是企业之间互相倒卖 AI 的循环经济，背后是期待无限回报的风险资本。文末的“企业 AI 四骑士”速写尤其生动：从严禁触碰、到谨慎使用、到用量竞赛（冠军得一部 iPhone）、再到预算恐慌与审批限额，短短四年走完一轮。

关键要点

• 核心论点：AI 的价值判断已被投入金额绑架，古德哈特定律下，度量一旦成目标就不再是好度量
• 披萨盒比喻：用高清照片与融资承诺先行销售，食材（可持续收入）尚未到货
• 付费者之问：若劳动者被替代后失去收入，谁来为企业 AI 订阅付费
• 企业 AI 四骑士：四年间从禁用恐慌、谨慎使用、用量竞赛一路摆荡到预算恐慌与审批

关键事实

作者为软件工程师 Ibrahim Diallo；文中称生成式 AI 自 ChatGPT 发布以来号称创造数十亿美元，但投入远超于此；企业 AI 政策摆荡的四个阶段分别为：严禁触碰（担心知识产权与安全泄露）、谨慎使用、用量竞赛（优胜者获一部 iPhone）、要求停用原有工具并经书面审批才能超出削减后的 token 预算；四个阶段的培训均由受雇顾问完成。

作者观点

作者主张用市值与炒作而非效用来度量技术，最终会让市场不再相信空披萨盒；AI 产业目前的消费者主要是企业间互相销售的循环，而非购买成品的公众；当度量只剩下花了多少钱，行业就活在自己编造的幻觉里。

为什么重要

它把“AI 泡沫了吗”从情绪争论拉回机制层面：不是问估值高不高，而是问价值判断的度量本身是否已被投入绑架。与第 5 篇合读，同一机制在产品层与资本层各出现一次，互为印证。

编辑点评

短而锋利的随笔，价值在比喻与四骑士速写，不在数据：文中“投入远超收入”的判断没有给出可核查的口径，应读作作者的论断而非财报事实。它的分量来自与第 5 篇的呼应，两篇各自独立却指向同一机制，这是本期最实在的跨来源共识。

深度摘要

随着 iOS、iPadOS、macOS 与 visionOS 27.3 测试版发布，Apple 把 Siri AI 的开发者预览开放给所有开发者：任何应用都可以通过 App Intents 把内容与操作带进新一代 Siri，让用户用自然语言完成订咖啡、订机票、查包裹、找播客等任务。Apple 称已有数千名开发者为 Siri 构建集成，并已在日历、文件、健身、健康、邮件、地图、信息、音乐、备忘录、照片、播客、提醒事项、Safari、TV 等自家应用中推出这些能力。首批支持英语、法语、日语、韩语、葡萄牙语与西班牙语，繁体中文、挪威语、土耳其语与越南语即将加入；但欧盟的 iOS、iPadOS 与 watchOS 暂不可用，13 岁以下用户也不适用，广泛可用预计在明年，届时才会公布扩展体验的条款与使用政策细节。

关键要点

• 开放范围：所有开发者均可通过 App Intents 把应用接入 Siri AI，不再限于受邀者
• 入口形态：以自然语言表达的意图贯穿应用全旅程，而非单点快捷指令
• 语言与地区限制：首批六种语言，繁体中文在下一批；欧盟三平台暂不可用，13 岁以下不适用
• 时间表：当前为开发者预览，广泛可用在明年，条款与使用政策细节随后公布

关键事实

开发者预览随 iOS 27.3、iPadOS 27.3、macOS 27.3 与 visionOS 27.3 测试版发布；Siri AI 本身在 iOS、iPadOS、macOS、watchOS 与 visionOS 27.3 测试版中提供；首批支持语言为英语、法语、日语、韩语、葡萄牙语、西班牙语，即将支持繁体中文、挪威语、土耳其语、越南语；Apple 已在 Calendar、Files、Fitness、Health、Journal、Mail、Maps、Messages、Music、Notes、Photos、Podcasts、Reminders、Safari、TV 等自家应用中推出相关能力；11 月 4 至 5 日设有 Apple Intelligence Group Labs 供开发者与 Apple 工程师交流；部分依赖服务器端模型的 Apple Intelligence 功能受每日使用限额约束，某些功能可能受限或需排队。

作者观点

Apple 的主张是 Siri AI 是更强大、更会话化、更个性化的新一代 Siri，深度集成于操作系统与日常应用；开放给所有开发者后，更多客户将通过向 Siri 提问来发现与使用应用。

为什么重要

这是 Apple 把 AI 助手从系统功能变成应用分发入口的关键一步：谁的应用能被 Siri 自然调用，谁就多了一条不经过 App Store 搜索的流量通道。对开发者的实际意义在明年广泛可用前完成集成准备，窗口期就是现在。

编辑点评

一篇平台公告，事实部分扎实但立场部分全是发布方口径：数千名开发者的集成质量、欧盟缺席的真实原因、每日限额的具体数值，文中都没有交代。入选理由是事件本身的分量，而非公告的说服力；读时应把 Apple 的主张与可用性限制分开看。

深度摘要

作者重看乔布斯解释为何不做触屏 MacBook 的老视频，拎出一句话：“演示效果极佳。”触屏竖在面前，演示时惊艳，用上一阵手臂就想掉下来，人体工学上完全站不住。作者认为这句话适用于远超触屏 Mac 的范围：许多技术在被展示时光彩夺目，落到日常使用才发现相当糟糕；而今天的注意力经济里，演示本身就是一切，能不能在实际中好用反而没人关心。全文很短，论点就一个：区分“演示时好看”与“每天用着好”，是判断技术时最便宜的一道筛子。

关键要点

• 引子：乔布斯论触屏 Mac，竖直触屏演示惊艳但用久了手臂疲劳，人体工学上不可行
• 提炼：一句“演示效果极佳”概括了演示惊艳、日常糟糕的一类技术
• 延伸：注意力经济下，演示本身就是目的，实际好不好用反而被搁置
• 读法：把这句话当作筛子，先问演示之外的日常使用体验

关键事实

引用的乔布斯原话大意为：多年前已考虑过触屏 MacBook 并做了大量用户测试，结论是行不通，触屏不适合竖直面，短时间尚可、时间一长手臂疲劳，演示效果极佳但人体工学糟糕；因此 Apple 转而打磨多点触控板；作者声明不评论新款 MacBook 本身。

作者观点

作者主张“演示效果极佳”是一句适用于大量技术的判语，演示驱动的注意力争夺正在让“看起来好”压倒“用起来好”。

为什么重要

本期最轻的一篇，却是给其他七篇配的筛子：读模型发布、读平台公告、读基准分数时，先问一句这是演示还是日常。AI 演示文化尤其需要这道筛子。

编辑点评

全文仅 1518 字符，是本期最薄的一篇，入选理由是透镜价值而非论证密度：作者的论点停留在一般技术层面，AI 层面的迁移需要读者自己完成。把它放在最后一位，正是按分量排序的结果。