Anthropic新技术推动AI透明度提升，商家承诺的可靠性提升？

• 2026-11-05

在使用AI时，你是否能确保自己调用的模型就是商家所承诺的那一款？例如，某些第三方平台可能声称接入了先进的旗舰模型，但实际上却使用了价格低廉的旧版本。单凭回答的语气和质量，我们很难做出准确判断；或者同样的问题，在官方渠道能顺利解决，而在中转站却无法得到满意的答案。这点对于依赖第三方API或聚合平台的国内用户来说，常常是一个亟待解决的问题。在一个表面简单的模型请求背后，它需要经过多个步骤——“用户—中转站—上游服务商—模型”。如果其中任何一个环节缺乏透明度，就很难确认自己真正获得的模型是否与标价相符。

最近，Anthropic发布了一项新研究，旨在将这一口碑、截图和直观感受上争辩不休的问题变为可用数学方法验证的课题。这项名为FlashProve的开源原型，致力于为模型推理过程生成密码学证明，从而帮助服务商为模型的计算结果提供可核查的证明。用户可以不用获得模型权重或重新运行模型，就能验证所用模型的有效性。

在大多数API调用中，用户只需提交问题，服务器会返回答案，而模型则运行在远程的计算机上，这导致用户无法得知具体的计算过程。斯坦福大学的研究项目《Model Equality Testing》曾对2024年发布的四款Llama模型的31个商业API端点进行测试，结果显示其中11个端点的输出分布与Meta发布的参考分布存在显著差异。同样的模型名称有时并不能代表相同的性能。即使服务页面上标注的都是Opus 5.5，也不能保证用户获得的模型是相同的。有时用户尝试通过某些问题来识别模型的真实性，例如有人在内测Opus 5.5时问模型2026年5月Karpathy的去向，如果模型无法回答他去了Anthropic，便说明没有经过相应的测试。然而，依靠这些问题来辨识模型常常会受到服务商路由的影响，具体原因难以明确，有可能是偶然答错、参数差异或上下文不完整等因素，最终可能演变为“怎么变笨了”或“这不是我想要的模型”。

FlashProve的关键在于一种称为zkSNARK的零知识简洁证明技术。首先，模型服务商为模型权重生成一个“承诺”，这相当于生成了一组密码学指纹，可以唯一标识特定的权重，但不需要公开实际权重。接着，服务商会针对给定的输入及待核实的输出生成证明，用以验证输出是否符合预定的模型计算。当用户收到模型承诺、提示词、回答和证明文件后，就可以在本地核查：这一被锁定的权重在处理某段输入时，是否会产出所声明的输出。如果中转站私自替换了模型，或者修改了输出，证明就无法与原来的权重承诺匹配。

实现这种零知识证明的目的是使检验过程不会泄露模型权重、中间计算值，及模型在各层调用的专家情况。这就解释了为何比起“让AI自我证明”，这种方法显得更为可靠，答案中提及的模型名称不再充当身份证明，而是重点检查输出与指定权重之间的计算关系。

以往，为大模型生成零知识证明面临的最大挑战是成本，证明过程可能比普通推理慢几个数量级，生成的证明文件体积也可能很大。Anthropic采用公开的4-bit权重的Llama 4 Maverick进行实验。这是一个具有4000亿参数的混合专家模型，每个token使用约170亿参数。根据Anthropic提供的数据，生成证明的吞吐量约为每秒110个tokens，而每个1024-token请求的证明文件约为19MB。验证过程无需GPU，24线程的CPU上约需17秒，单线程则约需21秒，而模型权重初始承诺的生成仅需39分钟。但生成证明的速度仅为速度较慢的推理过程，不是用户在聊天时的模型输出速度。虽然证明的生成依然昂贵，但在Anthropic的条件下，其GPU时间是普通vLLM推理的70%到95%之间，尽管不是免费，但这一方案的出现使得先前难以承受的验证方式进入了可操作阶段。

对于中转站的用户而言，这项技术最直接的吸引力在于识别模型替换。然而，这要求我们必须提前了解正品模型的承诺内容。如果中转站能够提供有效的证明，但只能证明回答源于其自身选择的模型B，而用户无法确认模型B是否与原本购买的模型A相同，那么这种证明仍未能解决身份确认的问题。真正有效的使用方式应当在模型厂商、可信机构或其他平台之间建立更为清晰的标准和信任机制。