TorchNeuron将原生接入Hugging Face

TorchNeuron将于2026年10月20日推出公开测试版，为AWS Trainium提供原生PyTorch后端，Hugging Face的Transformers、Diffusers和Kernels将直接支持它，可运行PyTorch模型并使用eager execution、torch.compile、FSDP2、DTensor及张量并行功能。 开发者届时可通过`pip install torch-neuronx`安装。TorchNeuron方面建议Neuron用户直接使用这些库，不再经过Optimum Neuron；由于Transformers内置的异步权重加载暂不支持Neuron，目前需设置`HF_DEACTIVATE_ASYNC_LOAD=1`将其关闭。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。