SemiAnalysis 测试 Amazon Trainium3 的原生 PyTorch 训练栈与 Neuron Explorer 分析器

SemiAnalysis 的工程团队在 TorchTitan 和 TorchNeuron 栈上测试了 Trainium3 机架，发现原生 PyTorch 体验相比旧的 PyTorch/XLA 方案有重大改进，但 bug 和较长的编译时间仍然存在。在编译模式下，用 16 块 Trainium2 芯片训练 Qwen3-32B 达到每秒 14,156 个 token、MFU 为 30.47%，相比 eager 模式提升 1.28 倍；而 gpt-oss 20B 配方编译耗时 27 分 17 秒。团队还将 Neuron Explorer 评为业界领先的分析器，领先于 Nvidia 和 AMD 的工具，并报告 Trainium3 通过了 96 个 FlexAttention 测试用例中的 89 个。