Runway 发布 Characters 实时对话视频推理研究：57B 模型在 4 张 H100 上实时运行

报道讲了什么

• Runway 发布 Characters 推理系统研究论文，说明 57B 自回归视频扩散模型如何支撑实时对话。
• Characters 最初每会话需 8 张 H100，优化后 4 张即可实时运行。
• 融合内核于 2026 年 8 月上线，经回滚修复后于 10 月 8 日重新启用。

可以做什么

• 在 24 fps 下每 166.7ms 生成一个 704x1088 四帧视频块，维持对话节奏。
• 把 RoPE 与 FP8 量化移到写入时执行，并用环形缓存避免窗口拷贝。
• 将张量并行 all-reduce 融合进 FP8 矩阵乘，在生产形状下耗时 153.8µs 对 208.2µs。
• 解码器独占一张 GPU，与扩散步骤重叠执行。

怎么使用

原文没有提供可复现的操作步骤，请从下方原文或官方说明确认使用方法。

结果与限制

• 质量评估只能界定变化范围，不能证明与改动前等价。
• SyncNet 在风格化角色上更弱，区间宽 2 到 5 倍，四次长会话也无法排除缓慢漂移。
• 部分 H100 优化不能迁移到 B200，FP8 缓存在 B200 上反而增加 2.4 到 6.7ms。

使用入口与依据