全部子文章(19 篇)
- LM Studio部署Qwen3.8-27B实战(GB10):一键安装、GGUF模型加载与OpenAI兼容API服务在 GB10 上使用 LM Studio 部署 Qwen3.8-27B 的完整步骤:一键安装、启动守护进程、下载 GGUF 模型、加载、启动 OpenAI 兼容 API 服务器,以及本机与远程调用测试。
- Qwen3.6-27B与Qwen3.8-27B部署实战:vLLM Docker镜像、FP8量化与单卡推理Qwen3.6-27B与Qwen3.8-27B大模型部署实战指南,覆盖vLLM Docker镜像启动、FP8量化配置、FlashInfer后端优化与Chunked预填充参数调优。
- H20部署DeepSeek-V4-Flash-0731实战:FP8 KV Cache、DSpark投机解码与专家并行调优H20 上部署 DeepSeek-V4-Flash-0731 的完整记录:硬件层面、模型权重、vLLM/SGLang 启动脚本与调优配置(FP8 KV Cache、DSpark 投机解码、专家并行等)。
- PaddleOCR-VL部署遗留问题排查:容器报错、API文档与vLLM部署配置参考PaddleOCR-VL 部署遗留问题排查记录:容器报错 issue、PaddleOCR-VL-1.5 API 文档、vLLM 部署教程及配置参考链接。
- H20部署GLM5.2-FP8实战:SGLang Docker命令与投机解码参数配置在 H20 上用 SGLang 部署 GLM-5.2-FP8 的 docker 命令与投机解码参数说明。
- AI Skills能力包深度思考:提示词、规则与工具调用的打包封装及description路由机制关于 AI Skills 的整理与思考:Skill 把提示词、规则、示例、工具调用等打包成可安装、调用、迭代和传播的能力包;Skill 的 description 是路由触发器而非功能摘要。
- NvLink多卡互联配置实战:GPU集群组网与带宽调优记录NvLink 配置相关截图记录,涉及多卡互联与集群组网配置。
- A100八卡部署Qwen3.5-122B-A10B实战:Docker与裸机vLLM启动、FP8优化与BenchmarkA100 八卡部署 Qwen3.5-122B-A10B 与 Qwen3-235B-A22B 的完整实践:Docker/裸机 vLLM 启动命令、FP8 优化方案、benchmark 与服务调用示例。
- H20服务器硬件配置排查:NVLink与PCIe带宽对比及拓扑链路瓶颈定位H20 服务器硬件配置排查记录:NVLink 与 PCIe 带宽对比、PCIe 拓扑链路瓶颈定位方法(nvidia-smi、lspci、dmesg)。
- H20集群模型切换演进记录:从单台到跨机部署DeepSeek-V4与GLM5.1的时间线H20 集群模型切换计划时间线:单台/跨机部署 DeepSeek-V4-Pro、DeepSeek-V4-Flash、GLM5.1 的演进记录与规划。
- NVIDIA数据中心GPU产品系列总览:A100/H100/H20/H200/B200/B300/GB200 NVL72型号对比NVIDIA 数据中心 GPU 产品系列梳理:A100、H100、H20、H200、B200、B300、GB200/GB300 NVL72 等型号总览。
- 国产GPU产品系列与技术路线梳理:昇腾、海光DCU与沐曦MetaX产品线定位及关键参数对比国产 GPU 厂商(昇腾、海光 DCU、沐曦 MetaX)产品系列梳理:产品线定位、关键参数对比与发展路线图。
- AIGC私有化大模型部署资源规划表:硬件、显存与存储资源清单AIGC 私有化大模型部署的资源规划表,记录模型部署所需的硬件、显存与存储资源清单。
- NVIDIA B300整机配置详解:8卡Blackwell Ultra、4TB内存与第五代NVSwitchHGX/DGX B300 整机 4TB 系统内存完整版标准配置:8 卡 B300 SXM Blackwell Ultra、2 颗 Xeon 6767P、32 条 128GB DDR5、第五代 NVSwitch、800Gbps 网卡等。
- Git 教程:版本控制、远程仓库与分支标签全流程本文系统介绍Git版本控制,涵盖配置、远程仓库、分支创建与切换、标签等核心用法,适合入门与日常参考。
- 使用 Git 批量上传图片:搭建 GitHub 图床本文介绍利用Git与GitHub搭建图床、批量上传与管理图片的方法,适合博客与文档图片托管。
- Hexo + GitHub + Matery 博客美化教程本文介绍基于Hexo与GitHub Pages搭建博客并使用matery主题进行美化与个性化定制的方法,涵盖主题配置与常用优化。
- Git 与 Node.js 环境安装配置指南本文记录Windows下Git与Node.js的下载、安装与环境变量配置步骤,为前端与博客部署搭建基础开发环境。
- Git 常见报错及处理方法排查指南本文整理Git使用过程中的常见报错信息与对应处理方法,涵盖远程仓库、分支、权限等典型故障的排查思路。