跳到正文
Hugging Face 社区博客·· 2025-11-17精选AI 评分73

使用Hugging Face轻松构建和共享ROCm内核

Easily Build and Share ROCm Kernels with Hugging Face

AI 导读

Hugging Face的kernels库简化了高性能深度学习内核的构建与共享,支持CUDA、ROCm等多种后端。本文以ROCm兼容内核为例,展示如何利用kernel-builder工具构建、测试并共享内核。以RadeonFlow的GEMM内核为具体案例,该内核是针对AMD Instinct MI300X GPU优化的FP8块状矩阵乘法实现,采用e4m3fnuz浮点格式和每块缩放因子以保持低精度计算准确性,并在2025年AMD开发者挑战赛中获最高奖。指南涵盖项目设置、构建配置及通过kernels社区分享的完整步骤。

推荐理由

AMD GPU开发者可快速上手构建高性能AI内核,提升部署效率。

来源:Hugging Face 社区博客 · huggingface.co