7900 XT 上跑本地大模型，走不通的那些路 我的显卡是 AMD RX 7900 XT（RDNA3）。前一阵子一直在折腾本地大模型，跑通了不少东西，也留下一些没能继续走下去的方向。这篇文章记录的是后者，也就是试过、但行不通或者不划算的部分。 这块卡没有独立张量核，唯一的矩阵指令是 CU 上的 WMMA，规格只到 16×16×16，支持 fp16/bf16/int8/int4。实测 bf16 峰值约 16–17 TFLOP/s，与 NVIDIA …