fal 与 Fireworks 发布 EAGLE-4 技术分析与 Prompt Enhancement SpecBench

报道讲了什么

• fal 与 Fireworks 联合发布 EAGLE-4 技术分析，并公开用于创意任务投机解码评测的数据集。
• 公开的 Prompt Enhancement SpecBench 含 400 个样本，来自 18 个数据集，四类各 100 例。
• 所有实验在 NVIDIA B300 GPU 上运行，张量并行设为 4。

可以做什么

• 已发布模型通过滑动窗口注意力限制 drafter 注意力上下文，并用低秩候选头先在小表示上打分再计算完整 logits。
• Harness 依据 GPU 延迟测量逐层扩展验证树，按累计概率增益与边际成本之比决定加宽或加深。
• 拒绝采样接受最长匹配前缀，原文称输出分布保持不变。

怎么使用

原文没有提供可复现的操作步骤，请从下方原文或官方说明确认使用方法。

结果与限制

• 多 draft 层、MoE 支持与 Latent ReLU 尚未包含在已发布模型中。
• 创意提示词对 drafter 更难预测，高熵分组的接受长度低于低熵分组。
• 吞吐数据来自特定 GPU 与并行配置，且为文本解码环节，不代表图像视频生成端到端效果。

使用入口与依据