KNOWLEDGE & PRACTICE
从部署教程、模型评测到行业观察，把复杂问题整理成可执行的路径。
FEATURED · 精选文章
部署教程Qwen3.8-Flash-Next 125B 激活 6B，NVIDIA QAD 蒸馏 NVFP4 量化 GPQA 91.5%。官方验证硬件只有 RTX PRO 6000 和 DGX Spark；24-32GB 卡走 GGUF（最小 72.5GB）或 Strata 按需加载，内存才是真瓶颈。含量化细节、容器要求与照抄配置档。
LATEST ARTICLES · 其余文章
02复旦开源 MOSS-Image 进 ComfyUI：int8 量化 5.41GB，16GB 显存跑中文海报级出图（含文件清单与原生工作流坑位）OpenMOSS 5B DiT 文生图，中文文字渲染+JSON 坐标控版，Apache-2.0 可商用。ComfyUI 原生支持 10-16 已合入主干，官方 int8/W4A8 量化文件体积实测，Base 与 SFT 怎么选、原生与插件工作流不能混用等坑一次讲清。03RTX 5080 一年翻倍到 1.2 万：AI 抢走显存产能的完整链条，与本地模型玩家的买卡逻辑5080 渠道价 12000-15000 元、GDDR7 颗粒翻倍、DRAM 合约价涨 90%——这轮涨价是结构性产能转移不是矿潮。老卡/大内存/A卡三条对冲路线拆解。04OpenVINO 2026.4：Qwen 3.8 27B 获 day-0 支持，Intel 平台本地跑 27B 有了官方路径Intel OpenVINO 2026.4 发布：更广模型支持+更快推理+Node.js 语音识别，并对 Qwen 3.8 27B 提供 day-0 支持、可跑在 Intel Agentic PC 上。本文拆解更新内容、day-0 支持的含义、与现役 R9700/ROCm 路径的对比、部署脚本该怎么按平台分流，以及踩坑。05STEPX Neo：首个国标 L3 智能体手机 10/13 发布，智能体第一次进操作系统层阶跃 STEPX Neo 智能体手机 10 月 13 日上海发布，国内首个通过国标 L3 测试，搭载智能体原生 OS Step AOS + 个人智能体"阶跃Amoo"，首批接入支付宝/美团。本文对比它和"AI 手机"的本质区别、L3 含义、对本地模型+智能体方案的意义与注意点。06RTX Spark：笔记本首破 1 PetaFLOP + 128GB 统一内存，端侧 AI 算力平民化的标志英伟达×微软 10 月 7 日联合发布 RTX Spark 平台，消费级 Windows 笔记本首次做到 1 PetaFLOP FP4 + 128GB 统一内存，官方定位就是本地跑大模型+智能体，10 月 16 日上市。本文拆解平台规格、为什么重要、对本地部署/端侧方案视角的意义与踩坑。07一张老 3090 跑出 100+ tok/s，双卡 R9700 直接 200+：lcz 社区两组最新实测48 小时内两组社区实测：单张 2022 年的 3090（24G）用 IQ3_XXS 特化量化跑 Qwen3.8 Flash Next 125B 级模型，128K 上下文下 Coding 破 100 tok/s、Chat >60 tok/s；双卡 AMD R9700（32G×2）配 vLLM+Paiton 插件 decode 站上 200+ tok/s、prefill >8000 tok/s。08被低估的 6800XT：32G 云桌面退役卡 V620 跑大模型全记录云桌面退役卡 V620 = 6800XT 核心 + 32G 显存：刷 BIOS + 装涡轮后跑 ROCm 实测——34B Q4 全量装得下，推理 15-28 tok/s（比 2080Ti 慢 30-60%），全参微调打平 2080Ti，绘图短板 2-6 倍。买前问 BIOS/散热/显存三件事。09MTP / DFlash2 / MXFP4 加速矩阵：N 卡 vs A 卡支持情况 + R9700 实测同一个 27B 模型，N 卡开 MTP 快 2.5 倍，R9700 上 MTP 反而比 DFlash2 慢 2.8 倍。MTP、DFlash2、MXFP4/NVFP4 量化、FP8 KV、前缀缓存在 CUDA 线与 ROCm 线的版本级支持矩阵 + R9700 一手实测数据 + 踩坑清单。10NVIDIA DGX Spark 64GB 版：4999 美元的本地 AI 入门内存涨价潮下的降配版：64GB 统一内存、存储减半。统一内存带宽陷阱、双机组集群网口瓶颈、与 R9700 的带宽优先对比。11Gemini 4 Argon：1M Token 输出上限，15 倍提升上一代 64K 到 1M，$2/$10 定价、缓存五折，分阶段发布。长输出成本算账与本地私有化对照。12Reflection Beam：501B 开源权重 MoE，推理算力省 3-4 倍23B 激活的 coding/agent 向开源 MoE，23.8T token 预训练。老卡跑大模型的新选项：显存估算与 offload 路线。13Mistral Large 4：1 万亿参数 MoE，10 月 27 日开源1T 总参/49B 激活、160+ 语言、Dense200 视觉超 GPT-6 Astra。权重 10/27 公开，本地可跑性与显存档位估算。