AMD CPU 的 AI 怎么用？有类似 CUDA 一样的生态吗

[f1ynnv2]

作为 AMD 第二代 AI PC 处理器，锐龙 7 8845HS 的核心竞争力，是对 AI 引擎部分进行了调优，NPU 的 AI 算力从 10 TOPS （万亿次）提升到了 16 TOPS ，60%的改变就问你怕不怕，而且整体算力（ CPU+GPU+NPU ），也同步从 32TOPS 增加到 38 TOPS （锐龙 9 8945HS 是 39TOPS ），比酷睿 Ultra 的 34 TOPS 还要更高一些，具备了 [战未来] 的 AI 算力底蕴。

如果安装了 Linux 比如 Ubuntu ，有类似的 CUDA 工具吗，是需要专门针对 AMD 适配 AI 吗，还是说就直接用 CPU 跑一些模型，它会自动的分配给 GPU/NPU 去跑？

[minami]

NPU 是 NPU ，GPU 是 GPU ，可以参考 AMD 官方文档
https://community.amd.com/t5/ai/how-to-run-a-large-language-model-llm-on-your-amd-ryzen-ai-pc-or/ba-p/670709
NPU 目前除了特定少数应用，没啥生态，基本是个战未来的功能。GPU 对位 CUDA 的是 ROCm 平台，主要是挑卡，如果你在 linux 或 wsl2 下，可以用 rocm 版的 pytorch ，就基本和 cuda 一样了。Windows 上 ROCm 生态非常不完善，建议是别玩，可以试试用 zluda 跑一些 cuda

[xz410236056]

@minami Metal 邪教可否一战？

[f1ynnv2]

@minami 感谢，那还是搞 CUDA 吧，资料也多。