Hugging Face 上线 Trainium 模型支持查询 Space

Hugging Face 发布 torch-neuronx 模型支持查询 Space，可查询 Hub 上热门模型能否在 AWS Trainium 上不经修改运行，并给出对应运行脚本。每条结果包含分片使用的 Trainium 核心数、含编译的墙钟时间和峰值显存。 目前该 Space 只测试 Transformers 的文本生成和图文转文本模型，且限于最多 4 台 Trainium2 设备（16 核）。Hugging Face 称，查询结果为 PASS 不代表吞吐量或更长生成的表现；后续计划扩展到 diffusers、sentence transformers 及其他 Transformers 任务。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。