KNOWLEDGE & PRACTICE

文章

从部署教程、模型评测到行业观察,把复杂问题整理成可执行的路径。

107
篇文章
5
内容板块

LATEST ARTICLES · 其余文章

02复旦开源 MOSS-Image 进 ComfyUI:int8 量化 5.41GB,16GB 显存跑中文海报级出图(含文件清单与原生工作流坑位)OpenMOSS 5B DiT 文生图,中文文字渲染+JSON 坐标控版,Apache-2.0 可商用。ComfyUI 原生支持 10-16 已合入主干,官方 int8/W4A8 量化文件体积实测,Base 与 SFT 怎么选、原生与插件工作流不能混用等坑一次讲清。03RTX 5080 一年翻倍到 1.2 万:AI 抢走显存产能的完整链条,与本地模型玩家的买卡逻辑5080 渠道价 12000-15000 元、GDDR7 颗粒翻倍、DRAM 合约价涨 90%——这轮涨价是结构性产能转移不是矿潮。老卡/大内存/A卡三条对冲路线拆解。04DeepSeek 官方 Search & Fetch API 上线:$0.75/千次,Agent 联网成本被打到地板(含代码与计费细节)DeepSeek 自研搜索引擎开放 API:搜索+抓网页转 Markdown,按成功请求计费 $0.75/千次,失败不收费。本文拆官方文档、给最小可用代码、算本地模型+外包联网的成本账。05OpenVINO 2026.4:Qwen 3.8 27B 获 day-0 支持,Intel 平台本地跑 27B 有了官方路径Intel OpenVINO 2026.4 发布:更广模型支持+更快推理+Node.js 语音识别,并对 Qwen 3.8 27B 提供 day-0 支持、可跑在 Intel Agentic PC 上。本文拆解更新内容、day-0 支持的含义、与现役 R9700/ROCm 路径的对比、部署脚本该怎么按平台分流,以及踩坑。06STEPX Neo:首个国标 L3 智能体手机 10/13 发布,智能体第一次进操作系统层阶跃 STEPX Neo 智能体手机 10 月 13 日上海发布,国内首个通过国标 L3 测试,搭载智能体原生 OS Step AOS + 个人智能体"阶跃Amoo",首批接入支付宝/美团。本文对比它和"AI 手机"的本质区别、L3 含义、对本地模型+智能体方案的意义与注意点。07RTX Spark:笔记本首破 1 PetaFLOP + 128GB 统一内存,端侧 AI 算力平民化的标志英伟达×微软 10 月 7 日联合发布 RTX Spark 平台,消费级 Windows 笔记本首次做到 1 PetaFLOP FP4 + 128GB 统一内存,官方定位就是本地跑大模型+智能体,10 月 16 日上市。本文拆解平台规格、为什么重要、对本地部署/端侧方案视角的意义与踩坑。08n8n 2.x 从零搭一个会决策的 AI Agent:订单助手完整链路(附成本测算与 6 个坑)n8n 2.43.3(10-09 发版)+ 10-12 更新版教程整理的完整搭建链路:Chat Trigger → Tools Agent(Chat Model+Tools+Memory)→ 查单/查物流/发邮件 → Human Review 审批 → 发布。含 MinerU 4.0.12 文档备料、MCP 三方向、40 条/日成本测算(880 次/月落 Starter)、ROI 基准数字与 6 个常见坑。09一张老 3090 跑出 100+ tok/s,双卡 R9700 直接 200+:lcz 社区两组最新实测48 小时内两组社区实测:单张 2022 年的 3090(24G)用 IQ3_XXS 特化量化跑 Qwen3.8 Flash Next 125B 级模型,128K 上下文下 Coding 破 100 tok/s、Chat >60 tok/s;双卡 AMD R9700(32G×2)配 vLLM+Paiton 插件 decode 站上 200+ tok/s、prefill >8000 tok/s。10被低估的 6800XT:32G 云桌面退役卡 V620 跑大模型全记录云桌面退役卡 V620 = 6800XT 核心 + 32G 显存:刷 BIOS + 装涡轮后跑 ROCm 实测——34B Q4 全量装得下,推理 15-28 tok/s(比 2080Ti 慢 30-60%),全参微调打平 2080Ti,绘图短板 2-6 倍。买前问 BIOS/散热/显存三件事。11MTP / DFlash2 / MXFP4 加速矩阵:N 卡 vs A 卡支持情况 + R9700 实测同一个 27B 模型,N 卡开 MTP 快 2.5 倍,R9700 上 MTP 反而比 DFlash2 慢 2.8 倍。MTP、DFlash2、MXFP4/NVFP4 量化、FP8 KV、前缀缓存在 CUDA 线与 ROCm 线的版本级支持矩阵 + R9700 一手实测数据 + 踩坑清单。12Underdog:全端侧 AI 助理,基于 Qwen3.8 27BThiel Fellow 的端侧助理:Husky 引擎优化 GPU 到 CPU 搬运,免费无订阅,部分 benchmark 宣称对标 Opus 4.6(厂商口径)。本站同款底座实测对照。13Hark:隐私优先的 AI 个人助理,估值 60 亿美元为 computer use 专门训练的全屏助理,浏览过程可视化,不卖广告不偷数据。7 月 7 亿美元 A 轮,硬件 2027 年才到。