KNOWLEDGE & PRACTICE

文章

从部署教程、模型评测到行业观察，把复杂问题整理成可执行的路径。

15
篇文章
5
内容板块

LATEST ARTICLES · 其余文章

02RTX Spark：笔记本首破 1 PetaFLOP + 128GB 统一内存，端侧 AI 算力平民化的标志英伟达×微软 10 月 7 日联合发布 RTX Spark 平台，消费级 Windows 笔记本首次做到 1 PetaFLOP FP4 + 128GB 统一内存，官方定位就是本地跑大模型+智能体，10 月 16 日上市。本文拆解平台规格、为什么重要、对本地部署/端侧方案视角的意义与踩坑。03被低估的 6800XT：32G 云桌面退役卡 V620 跑大模型全记录云桌面退役卡 V620 = 6800XT 核心 + 32G 显存：刷 BIOS + 装涡轮后跑 ROCm 实测——34B Q4 全量装得下，推理 15-28 tok/s（比 2080Ti 慢 30-60%），全参微调打平 2080Ti，绘图短板 2-6 倍。买前问 BIOS/散热/显存三件事。04MTP / DFlash2 / MXFP4 加速矩阵：N 卡 vs A 卡支持情况 + R9700 实测同一个 27B 模型，N 卡开 MTP 快 2.5 倍，R9700 上 MTP 反而比 DFlash2 慢 2.8 倍。MTP、DFlash2、MXFP4/NVFP4 量化、FP8 KV、前缀缓存在 CUDA 线与 ROCm 线的版本级支持矩阵 + R9700 一手实测数据 + 踩坑清单。05Underdog：全端侧 AI 助理，基于 Qwen3.8 27BThiel Fellow 的端侧助理：Husky 引擎优化 GPU 到 CPU 搬运，免费无订阅，部分 benchmark 宣称对标 Opus 4.6（厂商口径）。本站同款底座实测对照。06Gemini 4 Argon：1M Token 输出上限，15 倍提升上一代 64K 到 1M，$2/$10 定价、缓存五折，分阶段发布。长输出成本算账与本地私有化对照。07Reflection Beam：501B 开源权重 MoE，推理算力省 3-4 倍23B 激活的 coding/agent 向开源 MoE，23.8T token 预训练。老卡跑大模型的新选项：显存估算与 offload 路线。08Mistral Large 4：1 万亿参数 MoE，10 月 27 日开源1T 总参/49B 激活、160+ 语言、Dense200 视觉超 GPT-6 Astra。权重 10/27 公开，本地可跑性与显存档位估算。09开源文生视频横评 2026：Wan 系列 vs HunyuanVideo vs CogVideoXWan 系列（2.2/2.5/2.7/3.0）+ HunyuanVideo + CogVideoX 三大开源文生视频模型横评：画质、时长、显存、可控性、开源状态，一张表选对视频模型。10AI 声音工具指南：零样本克隆选 Fish Speech，精调音色选 GPT-SoVITSGPT-SoVITS / Fish Speech / Bark / OpenVoice 四款热门开源语音工具分工：零样本开箱用 Fish Speech，1 分钟样本精调音色用 GPT-SoVITS——附显存需求与中文效果对比。11小米 MiMo-V2.6-Pro 开源：1.02 万亿参数 MoE，开源榜第一 + 350 万美元账本420 亿激活 MoE 的算力账本、Artificial Analysis 开源榜第一的完整档案，含单源未交叉验证的争议标注122026 消费级显卡跑大模型性能横评：从 3080 到 R9700 的真实 tok/s整理社区热帖的实测数据：各显卡跑 Qwen 系列 27B 的 tok/s 对照，帮你按预算选对卡。13Chatterbox：ElevenLabs 的开源平替（本地跑、情绪可控、5 秒克隆）Resemble AI 开源 TTS（MIT，26.6k star），号称开源 SoTA：零样本 5 秒克隆、情绪强度可控、Turbo 350M 消费级显卡可跑。注意 ElevenLabs 本身闭源，Chatterbox 是第三方本地平替。