全部子文章(19 篇)
- PDF文档解析技术全解:文本提取、结构化信息处理与LLM文档问答系统中的信息检索PDF文档解析技术全解:文本提取、结构化信息处理(表格与多列布局)与LLM文档问答系统中的信息检索必要性分析。
- 联网搜索接入方式调研:公共搜索、学术搜索与私有搜索三类方案及国内主流服务商定价对比联网搜索接入方式调研:公共搜索(Google/Bing/夸克)、学术搜索(Arxiv)与私有搜索(Elasticsearch)三类方案对比及百度/腾讯/阿里国内主流服务商定价分析。
- 上下文工程 Context Engineering 综述:超越提示词的信息负载优化梳理上下文工程这一正式学科:它超越简单的提示设计,系统优化大语言模型的信息负载。文章分基础组件与系统实现两层展开,并给出从检索增强生成到多智能体架构与工具集成推理的发展脉络。
- Qwen3-Embedding与Qwen3-Reranker模型解析:传统BERT<[bos_never_used_51bce0c785ca2f68081bfa7d91973934]>策略与新一代嵌入检索架构[bos_never_used_51bce0c785ca2f68081bfa7d91973934]>Qwen3-Embedding与Qwen3-Reranker模型解析:从传统BERT<[bos_never_used_51bce0c785ca2f68081bfa7d91973934]>策略到新一代嵌入与检索重排序架构的演进。[bos_never_used_51bce0c785ca2f68081bfa7d91973934]>
- 主流文档解析专用模型横评:MinerU、Docling、PaddleOCR 等横向对比 MinerU、Docling、PaddleOCR、DolphinOCR、MonkeyOCR 等主流文档解析方案,梳理文档结构识别技术从传统视觉模型到生成式 Transformer 架构的两代演进,以及各自在 RAG 场景下的适配情...
- 图解AI核心技术:Transformer与MoE架构、RAG检索增强、智能体设计模式与KV Caching九章精讲图解AI核心技术九章精讲:Transformer与MoE架构对比、五种微调方法、Agentic RAG、智能体设计模式、分块策略、智能体等级、RAG vs HyDE/GraphRAG与KV Caching。
- GloVe 详解:基于全局词频统计的词向量与公式推导讲解 GloVe(Global Vectors)词向量:基于全局词频统计构造共现矩阵并拟合词向量,使向量运算能表达词语的相似性与类比关系,并给出目标函数推导及与 LSA、word2vec 的对比。
- NNLM 神经概率语言模型详解:分布式词表示的开山之作讲解 Bengio 等人提出的神经概率语言模型:通过学习单词的分布式表示与词序列概率函数缓解维度灾难,用神经网络改进 n-gram 模型以利用更长的上下文,是后续 word2vec 等词向量工作的起点。
- 向量索引算法综述:四种度量方式与主流索引结构系统梳理向量检索:欧式距离、余弦、内积与海明距离四种度量方式的适用场景,以及暴力计算、基于树、基于哈希、基于倒排与基于图等索引结构在减少候选集与降低单向量计算复杂度上的取舍。
- RAG 重排序 Rerank 详解:从向量召回到交叉编码精排讲解检索系统中的重排序环节:为什么需要 rerank、交叉编码模型的原理与输入长度限制、如何用大语言模型充当 ranker,以及向量召回与精排配合提升命中率的工程实践。
- Text-RCNN 详解:双向循环结构与最大池化的结合讲解 Text-RCNN 如何兼顾 RNN 与 CNN 的优势:用双向循环结构获取上下文信息以避免 RNN 的位置偏置,再用最大池化自动筛选对分类最重要的特征,绕过 CNN 滑动窗口大小难定的问题,并给出词表示与文本表示的学习过程。
- TextCNN 详解:用一维卷积抽取文本特征的经典模型讲解 TextCNN 的模型结构:依次经过嵌入层、一维卷积层、最大池化层、全连接层与 softmax,利用卷积和池化抽取关键词特征来完成句子分类,并说明多通道设置与不同卷积核尺寸的作用。
- FastText 详解:层次 Softmax 与 N-Gram 特征的高效文本分类讲解 Facebook AI Research 开源的 fastText 文本分类器:由模型架构、层次 Softmax 与 N-gram 特征三部分构成,在保持分类效果的同时把训练时间大幅缩短,并对比其与 word2vec 词向量的异同。
- Word2vec 详解:Skip-gram、CBOW 与训练技巧讲解 Word2vec 的原理:以语言模型为外壳、实际取训练后的权重作为词向量,分别展开用一个词预测上下文的 Skip-gram 与用上下文预测中心词的 CBOW,并推导一般情形与负采样、高频词下采样等训练 trick。
- BGE-M3 详解:密集检索、多向量检索与稀疏检索三合一嵌入模型BGE-M3 是一款同时支持密集检索、多向量检索与稀疏检索的多功能、多语言、多粒度文本嵌入模型。本文梳理三种检索方式的原理与权重计算示例,并给出混合检索加重排序的 RAG 实践方案。
- Agent 设计模式—Agentic RAG:从传统 RAG 到智能体检索增强梳理 LLM 与 RAG 的最新进展(增强检索、语义缓存、多模态集成),解析 Agentic RAG 的定义、核心能力及其与传统 RAG 的差异,并详解路由、查询规划、工具使用、ReAct、动态规划与执行五类智能体的工作方式。
- LongCat-2.0 技术报告解读:稀疏注意力与 N-Gram 嵌入扩参解读美团 LongCat-2.0 的三大设计:从三个正交方向改进 DSA 的 LongCat 稀疏注意力、用 N-gram 嵌入在 MoE 之外开辟正交扩参维度以突破稀疏化收益递减,以及在非 GPU 的 ASIC 平台上完成 35T tok...
- 图解 BERT 与 ELMo:NLP 中的迁移学习与词嵌入演进以图解方式讲解 BERT 的工作原理:模型输入输出、与卷积神经网络的差异、词嵌入的演进,以及 ELMo 如何用语境化表示解决一词多义问题,帮助理解预训练加微调的迁移学习范式。
- 中文向量模型私有化部署:text2vec与BGE-M3服务搭建中文向量检索模型私有化部署指南,覆盖text2vec-large-chinese与BGE-M3两款主流模型的服务搭建、FastAPI接口封装与检索性能对比。