FEATURED · 精选文章
实战案例一张老 3090 跑出 100+ tok/s,双卡 R9700 直接 200+:lcz 社区两组最新实测
48 小时内两组社区实测:单张 2022 年的 3090(24G)用 IQ3_XXS 特化量化跑 Qwen3.8 Flash Next 125B 级模型,128K 上下文下 Coding 破 100 tok/s、Chat >60 tok/s;双卡 AMD R9700(32G×2)配 vLLM+Paiton 插件 decode 站上 200+ tok/s、prefill >8000 tok/s。