TechCrunch AI 技术与创作工具资讯· Russell Brandom·· 4 小时前AI 评分58
Anthropic 研发 FlashProve 系统,用密码学证明 AI 模型身份
Anthropic is working on a system to prove AI models’ identity
先看结论
原文给出的是中间研究进展与开源规范,可用于理解模型输出溯源机制,尚不能作为可部署的验证服务使用。
报道讲了什么
- Anthropic 在博客中宣布正在研发开源系统 FlashProve,用于验证输出由哪个模型产生。
- 研究团队随公告发布了详细技术规范和系统各部分的可运行代码,以开源许可放在 GitHub 上。
可以做什么
- 系统可防止 AI 公司暗中换成更便宜或更贵的模型,也可核验第三方声称某任务由某模型完成。
- 模型方发布不暴露权重的“指纹”,因此闭源商业模型也能纳入该机制。
- 系统设计为轻量,验证可在本地设备上完成。
怎么使用
原文没有提供可复现的操作步骤,请从下方原文或官方说明确认使用方法。
结果与限制
- 研究仍在进行,Anthropic 及其他实验室都没有部署该系统的计划。
- 机制依赖 AI 实验室主动为每个发布的模型公布指纹。
使用入口与依据
来源:TechCrunch AI 技术与创作工具资讯 · techcrunch.com
事件后续
查看事件全部正在读取事件进展…