基础展示型网站和cms网络营销网

基础展示型网站和cms,网络营销网,网页模板网站,淘宝优惠券网站怎么做RAG概念 检索增强生成#xff08;Retrieval Augmented Generation#xff09;#xff0c;简称 RAG。可简单描述为#xff1a;RAG#xff08;检索增强生成#xff09; 检索技术 LLM 提示。RAG主要用于解决#xff1a;模型知识的局限性、 模型幻觉问题、数据安全性问题等…RAG概念检索增强生成Retrieval Augmented Generation简称 RAG。可简单描述为RAG检索增强生成 检索技术 LLM 提示。RAG主要用于解决模型知识的局限性、 模型幻觉问题、数据安全性问题等。例如我们向 LLM 提问一个问题RAG 从各种数据源检索相关的信息并将检索到的信息和问题注入到 LLM 提示中LLM 最后给出答案。这个过程有两个主要步骤语义搜索和生成输出。在语义搜索步骤中从知识库中找到与查询最相关的部分内容。在生成步骤中使用这些查询到的内容来生成响应。RAG架构如图所示RAG是通过检索获取相关的知识并将其融入Prompt让大模型能够参考相应的知识从而给出合理回答。核心为“检索生成”前者主要是利用向量数据库的高效存储和检索能力召回目标知识后者则是利用大模型和Prompt工程将召回的知识合理利用生成目标答案。RAG应用流程主要包含两个阶段数据准备阶段数据提取—文本分割—向量化embedding—数据入库应用阶段用户提问—数据检索召回—注入Prompt—LLM生成答案数据准备阶段主要是将私域数据向量化后构建索引并存入数据库的过程。包括数据提取、文本分割、向量化、数据入库等环节。数据提取•数据加载包括多格式数据加载、不同数据源获取等。•数据处理包括数据过滤、压缩、格式化等。•元数据获取提取数据中关键信息例如文件名、Title、时间等 。文本分割文本分割主要考虑两个因素embedding模型的Tokens限制情况以及语义完整性对整体的检索效果的影响。常见文本分割方式如下•句分割以”句”的粒度进行切分保留一个句子的完整语义。常见切分符包括句号、感叹号、问号、换行符等。•固定长度分割根据embedding模型的token长度限制将文本分割为固定长度例如256/512个tokens这种切分方式会损失很多语义信息一般通过在头尾增加一定冗余量来缓解。向量化embedding向量化是将文本数据转化为向量矩阵的过程。常见的embedding模型如下表所示。模型名称描述获取地址ChatGPT-EmbeddingChatGPT-Embedding由OpenAI公司提供以接口形式调用。https://platform.openai.com/docs/guides/embeddings/what-are-embeddingsERNIE-Embedding V1ERNIE-Embedding V1由百度公司提供依赖于文心大模型能力以接口形式调用。https://cloud.baidu.com/doc/WENXINWORKSHOP/s/alj562vvuM3EM3E是一款功能强大的开源Embedding模型包含m3e-small、m3e-base、m3e-large等多个版本支持微调和本地部署。https://huggingface.co/moka-ai/m3e-baseBGEBGE由北京智源人工智能研究院发布同样是一款功能强大的开源Embedding模型包含了支持中文和英文的多个版本同样支持微调和本地部署。https://huggingface.co/BAAI/bge-base-en-v1.5• 数据入库数据向量化后构建索引并写入数据库的过程常用数据库包括FAISS、Chromadb、ES、milvus等。应用阶段根据用户的提问通过高效检索方法召回与提问最相关的知识并融入Prompt大模型参考当前提问和相关知识生成相应的答案。关键环节包括数据检索、注入Prompt等。数据检索常见检索方法包括相似性检索、全文检索等一般可以选择多种检索方式融合提升召回率。•相似性检索即计算查询向量与所有存储向量的相似性得分返回得分高的记录。常见方法包括余弦相似性、欧氏距离、曼哈顿距离等。•全文检索在数据存入时通过关键词构建倒排索引在检索时通过关键词进行全文检索找到对应的记录。注入Prompt在RAG场景中Prompt一般包括任务描述、背景知识检索得到、任务指令一般是用户提问等根据任务场景和大模型性能也可以在Prompt中适当加入其他指令优化大模型的输出。一个简单知识问答场景的Prompt如下所示【任务描述】假如你是一个专业的客服机器人请参考【背景知识】回【背景知识】{content} // 数据检索得到的相关文本【问题】石头扫地机器人P10的续航时间是多久在实际应用过程中需要根据大模型的实际输出进行针对性的Prompt调优。原始RAG标准的 RAG 流程将文本分块然后使用一些 Transformer Encoder 模型将这些块嵌入到向量中将所有向量放入索引中最后创建一个 LLM 提示告诉模型根据我们在搜索步骤中找到的上下文回答用户的查询。在运行时使用同一编码器模型对用户的查询进行向量化然后搜索该查询向量的索引找到 top-k 个结果从我们的数据库中检索相应的文本块并将它们作为上下文输入到 LLM 提示中。提示与下边内容类似def question_answering(context, query): prompt f Give the answer to the user query delimited by triple backticks {query}\ using the information given in context delimited by triple backticks {context}.\ If there is no relevant information in the provided context, try to answer yourself, but tell user that you did not have any relevant context to base your answer on. Be concise and output the answer of size less than 80 tokens. response get_completion(instruction, prompt, modelgpt-3.5-turbo) answer response.choices[0].message[content] return answer高级RAG1、分块 (Chunking) 向量化 (Vectorisation)1.1 分块 (Chunking)将初始文档拆分为一定大小的块块的大小取决于所使用的嵌入模型以及模型需要使用 token 的容量。1.2 向量化 (Vectorisation)选择一个搜索优化的模型来嵌入我们的块。比如 bge-large 或 E5 嵌入系列。2、搜索索引2.1 向量存储索引RAG 管道的关键部分是搜索索引一般采用向量索引比如faiss、nmslib 以及 annoy这些工具基于近似最近邻居算法如聚类、树结构或HNSW算法。2.2 分层索引在大型数据库情况下一个有效的方法是创建两个索引——一个由摘要组成另一个由文档块组成然后分两步进行搜索首先通过摘要过滤掉相关文档然后只在这个相关组内搜索。2.3 假设性问题和HyDE(Hypothetical Document Embeddings,假设性文档嵌入)假设性问题让 LLM 为每个块生成一个问题并将这些问题嵌入到向量中在运行时对这个问题向量的索引执行查询搜索将块向量替换为索引中的问题向量然后在检索后路由到原始文本块并将它们作为 LLM 获取答案的上下文发送。假设性文档嵌入根据输入问题生成一个假设性答案然后对该假设性答案进行嵌入与检索可以同时携带原问题。即要求 LLM 在给定查询的情况下生成一个假设的响应然后将其向量与查询向量一起使用来提高搜索质量。2.4 内容增强2.4.1 语句窗口检索器文档中的每个句子都是单独嵌入的。为了在获取最相关的单个句子后更好地推理找到的上下文将上下文窗口扩展为检索到的句子前后的 k 个句子然后将这个扩展的上下文发送到 LLM。绿色部分是在索引中搜索时发现的句子嵌入整个黑色 绿色段落被送到 LLM 以扩大其上下文同时根据提供的查询进行推理。2.4.2 自动合并检索器或父文档检索器)思路与语句窗口检索器非常相似——搜索更精细的信息片段然后在LLM 进行推理之前扩展上下文窗口。文档被拆分为较小的子块这些子块和较大的父块有引用关系。首先在检索过程中获取较小的块然后如果前 k 个检索到的块中有超过 n 个块链接到同一个父节点较大的块将这个父节点替换成给 LLM 的上下文。2.5 融合检索或混合搜索结合传统的基于关键字的搜索稀疏检索算法如 tf-idf 或搜索行业标准 BM25和现代语义或向量搜索并将其结果组合在一个检索结果中。唯一的关键是如何组合不同相似度分数的检索结果。通常通过 Reciprocal Rank Fusion 算法来解决。混合或融合搜索通常能提供更优秀的检索结果因为它既考虑了查询和存储文档之间的语义相似性也考虑了关键词匹配。3、重排reranking和过滤filtering根据相似性分数、关键字、元数据过滤掉结果或使用其他模型如 LLM、sentence-transformer 交叉编码器Cohere 重排名接口、或者基于元数据重排检索到的上下文。4、查询转换查询转换是一系列技术使用 LLM 作为推理引擎来修改用户输入以提高检索质量。对于复杂的查询大语言模型能够将其拆分为多个子查询。比如当你问“在 Github 上Langchain 和 LlamaIndex 这两个框架哪个更受欢迎”我们不太可能直接在语料库找到它们的比较所以将这个问题分解为两个更简单、具体的合理的子查询• “Langchain 在 Github 上有多少星”• “Llamaindex 在 Github 上有多少星”这些子查询会并行执行检索到的信息随后被汇总到一个 LLM 提示词中。5、聊天引擎通过查询压缩技术将聊天上下文与用户查询一起考虑在内。如ContextChatEngine首先检索与用户查询相关的上下文然后将其与内存缓冲区中的聊天记录一起发送到 LLM以便 LLM 在生成下一个答案时了解上一个上下文。6、查询路由查询路由是 LLM 驱动的决策步骤决定在给定用户查询的情况下下一步该做什么——选项通常是总结、对某些数据索引执行搜索或尝试许多不同的路由然后将它们的输出综合到一个答案中。查询路由器还用于选择数据存储位置来处理用户查询。比如传统的向量存储、图形数据库或关系型数据库或者是不同层级的索引系统。7、响应合成响应合成的主要方法有• 通过将检索到的上下文逐块发送到 LLM 来优化答案• 概括检索到的上下文以适应提示• 根据不同的上下文块生成多个答案然后将它们连接或概括起来。总结RAG是一个强大的功能能够提高语义搜索效率。它让大语言模型LLM在回答问题前先从外部知识库中检索相关信息再基于检索结果生成更准确、可靠的回答。主要解决了知识时效性、 幻觉问题、 专业领域知识、可解释性问题。覆盖了智能客服、 企业知识库、 法律咨询、医疗辅助、AI搜索引擎等多种典型应用场景。想入门 AI 大模型却找不到清晰方向备考大厂 AI 岗还在四处搜集零散资料别再浪费时间啦2025 年AI 大模型全套学习资料已整理完毕从学习路线到面试真题从工具教程到行业报告一站式覆盖你的所有需求现在全部免费分享扫码免费领取全部内容​一、学习必备100本大模型电子书26 份行业报告 600 套技术PPT帮你看透 AI 趋势想了解大模型的行业动态、商业落地案例大模型电子书这份资料帮你站在 “行业高度” 学 AI1. 100本大模型方向电子书2. 26 份行业研究报告覆盖多领域实践与趋势报告包含阿里、DeepSeek 等权威机构发布的核心内容涵盖职业趋势《AI 职业趋势报告》《中国 AI 人才粮仓模型解析》商业落地《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》领域细分《AGI 在金融领域的应用报告》《AI GC 实践案例集》行业监测《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。3. 600套技术大会 PPT听行业大咖讲实战PPT 整理自 2024-2025 年热门技术大会包含百度、腾讯、字节等企业的一线实践安全方向《端侧大模型的安全建设》《大模型驱动安全升级腾讯代码安全实践》产品与创新《大模型产品如何创新与创收》《AI 时代的新范式构建 AI 产品》多模态与 Agent《Step-Video 开源模型视频生成进展》《Agentic RAG 的现在与未来》工程落地《从原型到生产AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。二、求职必看大厂 AI 岗面试 “弹药库”300 真题 107 道面经直接抱走想冲字节、腾讯、阿里、蔚来等大厂 AI 岗这份面试资料帮你提前 “押题”拒绝临场慌1. 107 道大厂面经覆盖 Prompt、RAG、大模型应用工程师等热门岗位面经整理自 2021-2025 年真实面试场景包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题每道题都附带思路解析2. 102 道 AI 大模型真题直击大模型核心考点针对大模型专属考题从概念到实践全面覆盖帮你理清底层逻辑3. 97 道 LLMs 真题聚焦大型语言模型高频问题专门拆解 LLMs 的核心痛点与解决方案比如让很多人头疼的 “复读机问题”三、路线必明 AI 大模型学习路线图1 张图理清核心内容刚接触 AI 大模型不知道该从哪学起这份「AI大模型 学习路线图」直接帮你划重点不用再盲目摸索路线图涵盖 5 大核心板块从基础到进阶层层递进一步步带你从入门到进阶从理论到实战。L1阶段:启航篇丨极速破界AI新时代L1阶段了解大模型的基础知识以及大模型在各个行业的应用和分析学习理解大模型的核心原理、关键技术以及大模型应用场景。L2阶段攻坚篇丨RAG开发实战工坊L2阶段AI大模型RAG应用开发工程主要学习RAG检索增强生成包括Naive RAG、Advanced-RAG以及RAG性能评估还有GraphRAG在内的多个RAG热门项目的分析。L3阶段跃迁篇丨Agent智能体架构设计L3阶段大模型Agent应用架构进阶实现主要学习LangChain、 LIamaIndex框架也会学习到AutoGPT、 MetaGPT等多Agent系统打造Agent智能体。L4阶段精进篇丨模型微调与私有化部署L4阶段大模型的微调和私有化部署更加深入的探讨Transformer架构学习大模型的微调技术利用DeepSpeed、Lamam Factory等工具快速进行模型微调并通过Ollama、vLLM等推理部署框架实现模型的快速部署。L5阶段专题集丨特训篇 【录播课】四、资料领取全套内容免费抱走学 AI 不用再找第二份不管你是 0 基础想入门 AI 大模型还是有基础想冲刺大厂、了解行业趋势这份资料都能满足你现在只需按照提示操作就能免费领取扫码免费领取全部内容​2025 年想抓住 AI 大模型的风口别犹豫这份免费资料就是你的 “起跑线”