戈孔明 - 大模型工程实践者 | 推理优化 · Agent 工程化

大模型推理优化·AI Agent 工程化·企业级 AI 落地

这里沉淀大模型全栈工程实践，覆盖模型架构解读、推理性能调优、Agent 工作流设计、RAG 知识库构建与企业级 AI 应用落地。

6年+AI 工程经验

推理大模型性能优化

Agent工程化落地

企业级AI 应用构建

推理优化 AI Agent 大模型 RAG AI Infra 文档理解

关于我全部文章技术实践技术地图联系/订阅

技术能力

四大核心方向，从模型架构到企业级落地

大模型架构与训练

模型架构解读、预训练与对齐技术，覆盖 Transformer 与 MoE 等主流体系。

Transformer MoE 注意力机制长上下文预训练对齐多模态

推理与部署

vLLM / SGLang 推理框架部署调优，KV Cache 优化、量化与高并发服务化。

vLLM SGLang KV Cache 量化压缩并行推理服务化调优

Agent 工程化

从单 Agent 到 Multi-Agent 协作，MCP 协议统一工具接入与 Workflow 编排。

Agent 设计模式 MCP 协议 Workflow Multi-Agent 工具调用 RAG 检索

企业级 AI 落地

RAG 知识库与文档智能，AI PaaS 平台架构，GPU 集群与容器化运维。

RAG 知识库文档智能 OCR 多模态 AI PaaS Docker Kubernetes

代表工程

我做过的真实工程项目，从架构设计到性能优化

大模型推理部署优化

基于 vLLM 部署 235B MoE 大模型，多卡 TP/EP 并行，FP8 量化，KV Cache 优化，高并发推理服务化。

vLLM 235B MoE FP8 多卡并行

查看详情

AI Agent 与工作流

从单 Agent 到 Multi-Agent 协作，MCP 协议统一工具接入，Workflow 编排，企业级智能体应用落地。

Multi-Agent MCP Workflow ReAct

查看详情

企业级 RAG 与文档智能

RAG 知识库构建，混合检索 + Rerank 精排，多模态文档理解（OCR/表格/公式），AI PaaS 平台架构设计。

RAG Document AI OCR AI PaaS

查看详情

精选文章

最能代表技术深度的代表作，建议从这些开始阅读

从 MHA、MQA、GQA 到 MLA：注意力机制的 KV Cache 演进

推理优化 KV Cache 注意力机制

vLLM 推理框架部署 Qwen3-235B-A22B 大语言模型实践

vLLM 235B MoE 工程实践

vLLM 与 PagedAttention 详解：显存分页的高吞吐推理框架

vLLM 源码解读推理引擎

Agent 设计模式—多智能体框架：五大主流框架选型对比

Agent Multi-Agent 框架选型

MCP 协议详解：为大模型设计的统一上下文接入标准

MCP 协议工具接入

开源大模型技术演进时间线：预训练、后训练与强化学习

大模型技术演进全景梳理

查看全部 237 篇技术文章

内容导航全部分类（36 个）

大模型推理优化 23 篇智能体与工作流 9 篇大模型训练与微调 25 篇文档解析与知识抽取 8 篇大模型全栈知识 76 篇 NLP技术全景 17 篇深度学习 9 篇

最新文章全部 237 篇