KNOWLEDGE & PRACTICE

文章

从部署教程、模型评测到行业观察,把复杂问题整理成可执行的路径。

2
篇文章
5
内容板块

LATEST ARTICLES · 其余文章

02NInfer:70+ t/s 的速度代价是显存NInfer 主打速度极致:单卡 3090 跑 27B 稳定 70+ t/s,远超 llama.cpp。代价是显存占用激进——上下文拉长或多并发时显存就是墙。