KNOWLEDGE & PRACTICE
从部署教程、模型评测到行业观察，把复杂问题整理成可执行的路径。
FEATURED · 精选文章
部署教程Qwen3.8-Flash-Next 125B 激活 6B，NVIDIA QAD 蒸馏 NVFP4 量化 GPQA 91.5%。官方验证硬件只有 RTX PRO 6000 和 DGX Spark；24-32GB 卡走 GGUF（最小 72.5GB）或 Strata 按需加载，内存才是真瓶颈。含量化细节、容器要求与照抄配置档。
LATEST ARTICLES · 其余文章
14AMD ROCm 10.1 发布：Hyperloom 自主优化系统AMD 把让 AI 自己调优 AI 引擎做出来了：Hyperloom 自动 profile、找瓶颈、改 kernel、验证，官方口径 3.3 倍推理提速。A 卡阵营的结构性动作，本站环境踩坑与升级路线。15Strata 冲上 HN 榜首125B 模型跑普通游戏 PC，881 分登 Hacker News 榜首，消费级推理出圈。16Kolibri 78B 开源主权模型78B MoE / 1M 上下文 / Apache 2.0，面向受监管行业本地私有化部署。17vLLM 0.31 发布权重驻留快速重启、DeepSeek-V4.1 优化、新投机解码，717 次提交。18AMD 市值破 1 万亿美元OpenAI 6GW 与 Oracle 5 万颗 MI450 真单驱动，坐实第二供应商。192026 年大模型推理框架横评：vLLM / SGLang / TensorRT-LLM / Ollama 怎么选四款主流推理框架 2026 年 10 月实时数据对比：vLLM 9.3 万星、Ollama 18.2 万星、SGLang 3.7 万星、TensorRT-LLM 1.5 万星——从吞吐量、显存效率、上手成本到适用场景，一张表说清该选谁。20PXA 洋垃圾老卡量化引擎：V100/P100 单卡 27B 代码 61 t/s、双卡 108 t/s 全表拆解PXA 是专攻 Pascal/Volta 的量化推理引擎：自研 PXQN 量化（29% 体积 97% 保真）+ 老卡专用 kernel + MTP 投机解码，单张 V100 跑 27B 代码 61.2 t/s、双卡 107.6 t/s、16GB 单卡 131K 上下文。本文把 PXQN 精度表、多卡速度表、v2026.10.1 修复数据全部拆开，附 R9700 实测横向对照。21R9700 多卡企业级部署方案：TP 链路验证 + vllm-radiance + 第三张卡为什么别买单卡 161 tok/s 之后的下一步：TP vs layer split 选型、卡间通信四步验证（ReBAR/ACS/showtopo）、引擎实测对比、锁功耗负面清单、双卡采购决策表22APXInf 端侧推理引擎：Rust 零依赖，机器人本体跑 VLA 提速 10.7 倍清华 + 无问芯穹 + 上交 9/15 开源：官方 README 全部硬数据拆解，PI-0.5 上 Jetson Thor/Orin，BF16/FP8/INT823小米 MiMo-V2.6-Pro 开源：1.02 万亿参数 MoE，开源榜第一 + 350 万美元账本420 亿激活 MoE 的算力账本、Artificial Analysis 开源榜第一的完整档案，含单源未交叉验证的争议标注242026 高性价比 AI 装机方向：从洋垃圾老平台到高端工作站整理社区几套不同预算的 AI 主机真实配置与用途：老平台洋垃圾、中端工作站、高端 Pro 卡，帮你按预算定方向。252026 消费级显卡跑大模型性能横评：从 3080 到 R9700 的真实 tok/s整理社区热帖的实测数据：各显卡跑 Qwen 系列 27B 的 tok/s 对照，帮你按预算选对卡。