KNOWLEDGE & PRACTICE
从部署教程、模型评测到行业观察，把复杂问题整理成可执行的路径。
FEATURED · 精选文章
部署教程Qwen3.8-Flash-Next 125B 激活 6B，NVIDIA QAD 蒸馏 NVFP4 量化 GPQA 91.5%。官方验证硬件只有 RTX PRO 6000 和 DGX Spark；24-32GB 卡走 GGUF（最小 72.5GB）或 Strata 按需加载，内存才是真瓶颈。含量化细节、容器要求与照抄配置档。
LATEST ARTICLES · 其余文章
02复旦开源 MOSS-Image 进 ComfyUI：int8 量化 5.41GB，16GB 显存跑中文海报级出图（含文件清单与原生工作流坑位）OpenMOSS 5B DiT 文生图，中文文字渲染+JSON 坐标控版，Apache-2.0 可商用。ComfyUI 原生支持 10-16 已合入主干，官方 int8/W4A8 量化文件体积实测，Base 与 SFT 怎么选、原生与插件工作流不能混用等坑一次讲清。03DeepSeek 官方 Search & Fetch API 上线：$0.75/千次，Agent 联网成本被打到地板（含代码与计费细节）DeepSeek 自研搜索引擎开放 API：搜索+抓网页转 Markdown，按成功请求计费 $0.75/千次，失败不收费。本文拆官方文档、给最小可用代码、算本地模型+外包联网的成本账。04OpenVINO 2026.4：Qwen 3.8 27B 获 day-0 支持，Intel 平台本地跑 27B 有了官方路径Intel OpenVINO 2026.4 发布：更广模型支持+更快推理+Node.js 语音识别，并对 Qwen 3.8 27B 提供 day-0 支持、可跑在 Intel Agentic PC 上。本文拆解更新内容、day-0 支持的含义、与现役 R9700/ROCm 路径的对比、部署脚本该怎么按平台分流，以及踩坑。05NVIDIA DGX Spark 64GB 版：4999 美元的本地 AI 入门内存涨价潮下的降配版：64GB 统一内存、存储减半。统一内存带宽陷阱、双机组集群网口瓶颈、与 R9700 的带宽优先对比。06AMD ROCm 10.1 发布：Hyperloom 自主优化系统AMD 把让 AI 自己调优 AI 引擎做出来了：Hyperloom 自动 profile、找瓶颈、改 kernel、验证，官方口径 3.3 倍推理提速。A 卡阵营的结构性动作，本站环境踩坑与升级路线。07Qwen-Image-2.1 本地部署：7B 轻量模型同时做文生图+图像编辑阿里千问 2026-09-20 开源的 7B 图像模型（Qwen-Image-2.1），文生图+图像编辑一体，评测 60.28 分登顶开源榜首——8GB/12GB 显存怎么跑、和 FLUX.1 dev 怎么选，一篇讲透。08Wan 视频本地部署 2026：开源版怎么跑 + Wan3.0 走云端通义万相 Wan 视频模型 2026 版本线：Wan2.2（开源本地主力）/Wan2.5（音画同步）/Wan2.7/Wan3.0（30 秒长视频，未开源走 API）。显存需求、本地 vs 云端怎么选、常见坑。092026 年大模型推理框架横评：vLLM / SGLang / TensorRT-LLM / Ollama 怎么选四款主流推理框架 2026 年 10 月实时数据对比：vLLM 9.3 万星、Ollama 18.2 万星、SGLang 3.7 万星、TensorRT-LLM 1.5 万星——从吞吐量、显存效率、上手成本到适用场景，一张表说清该选谁。10PXA 洋垃圾老卡量化引擎：V100/P100 单卡 27B 代码 61 t/s、双卡 108 t/s 全表拆解PXA 是专攻 Pascal/Volta 的量化推理引擎：自研 PXQN 量化（29% 体积 97% 保真）+ 老卡专用 kernel + MTP 投机解码，单张 V100 跑 27B 代码 61.2 t/s、双卡 107.6 t/s、16GB 单卡 131K 上下文。本文把 PXQN 精度表、多卡速度表、v2026.10.1 修复数据全部拆开，附 R9700 实测横向对照。11R9700 多卡企业级部署方案：TP 链路验证 + vllm-radiance + 第三张卡为什么别买单卡 161 tok/s 之后的下一步：TP vs layer split 选型、卡间通信四步验证（ReBAR/ACS/showtopo）、引擎实测对比、锁功耗负面清单、双卡采购决策表12双卡 / 多卡 TP 跑通 P2P 的完整实战：从 BIOS 到带宽实测R9700 等多卡张量并行的落地全记录：主板选型、BIOS 三件套、ACS 绕过、卡间带宽实测数据与常见坑。1312GB 显卡跑 125B 大模型：真实速度 9-40 tok/s，hugepages 和 PCIe 校准两个坑一次讲完Strata 把 125B 的门槛定在 12GB 起步：3500 Ada 12GB 实测 decode 9-10 tok/s 是'能用级'，但加内存、跑 calibrate、配 hugepages 三步做完速度明显提升。两个坑：nr_hugepages 给小了系统静默退化成 4K 页不报错，PCIe 启动探测读数漂移 3 倍必须手动校准。附 12GB 完整配置和选型建议。