AWS 开源 TorchNeuron,Trainium 原生支持 PyTorch
先了解这件事
AWS 发布 TorchNeuron,一个面向 Trainium 芯片的开源原生 PyTorch 后端,10 月 20 日以 Apache 2.0 协议在 github.com/aws-neuron/torch-neuronx 开启公测,开发者可通过 pip install torch-neuronx 安装。AWS 称,已有 PyTorch 模型代码、库和工具可直接在 Trainium 上运行。 据 TechCrunch 报道,基于 PyTorch 的 AI 应用只需改一行配置即可迁移到 Trainium,无需重写代码,直接挑战 Nvidia 凭借 CUDA 在 PyTorch 生态中的默认地位。 Hugging Face 同日宣布,其 Transformers、Diffusers、Accelerate、PEFT 和 TRL 库已通过 TorchNeuron 原生支持 AWS Trainium。
AI 根据报道生成 · 14 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- TechCrunch:AIAWS 发布 TorchNeuron 开发工具,助 PyTorch 应用一行配置迁移至 Trainium 芯片
AWS 周一发布 TorchNeuron 工具,让基于 PyTorch 的 AI 应用只需改一行配置即可在自家 Trainium 芯片上运行,无需重写代码,直接挑战 Nvidia 凭 CUDA 在 PyTorch 生态中的默认地位。
- PyTorch:Blog精选AWS 发布 TorchNeuron:Trainium 的原生 PyTorch 后端开源
AWS 宣布推出 TorchNeuron,一个面向 Trainium 的开源原生 PyTorch 后端,10 月 20 日以 Apache 2.0 协议在 PyTorch Conference North America 开启公测。
- Hugging Face 官方团队博客TorchNeuron 开放公测:Hugging Face 库原生支持 AWS Trainium
Hugging Face 宣布 Transformers、Diffusers、Accelerate、PEFT 和 TRL 通过 TorchNeuron 原生支持 AWS Trainium。