Hugging Face 提出 Transformers 模型集成契约 MIC 标准

报道讲了什么

• Transformers 为 T5 启用 SDPA 后，UMT5 解码器可看到未来 token，该缺陷在 main 中留存近两个月。
• 作者用小型 UMT5 fixture 回放五个月提交，标记出该回归从引入到修复的区间。
• 在 CI 中回退修复后检查以相同差异失败，T5 契约的 runner 步骤在 CPU 上耗时 13.4 秒（不含准备）。

可以做什么

• 契约由 fixture、可运行用法路径和人工审核基线三部分组成，覆盖架构与用法路径而非单个 checkpoint。
• SmolLM 契约示例从固定提示生成文本，并将 token ID 与记录答案比较，同时检查训练损失、梯度有限性和优化器步是否改变权重。
• tmic CLI 可起草契约、构建 fixture 并在本机记录基线，上传前停下等待逐步审核。

怎么使用

1. 安装运行时与 doc-builder 依赖并登录 Hugging Face。
2. 用 tmic run 以本地模式针对自己的源 checkpoint 起草契约、构建 fixture 并记录基线。

结果与限制

• 回放中只跑 eager 注意力变体会漏掉该缺陷，fixture 必须走与真实 checkpoint 相同的代码路径。
• 随机权重 Whisper fixture 在注入故障研究中捕获 24 个中的 18 个，过拟合版本捕获全部 24 个，但两者都漏掉真实 checkpoint 能暴露的 assisted-decoding 缺陷。
• 模型族与常用 API 的覆盖仍不完整，MIC 任务在 CI 中只报告失败而不阻塞 PR。

使用入口与依据