Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

构建知识库有什么要注意的？

Answer

构建知识库时需要注意以下几点：

  1. 在使用在线检索流程生成结果时：
    • 重排序的结果通常因大模型上下文有限制而不会都被使用，可以设置阈值进行截断，如只使用前 3 - 5 个文档，或只取相关性分数大于某个值的文档。
    • 一些先进的 RAG 系统会对选中的文档进行摘要或压缩，以在有限空间内包含更多相关信息。
  2. 对于后置处理，可能包括敏感内容检测和移除、格式化输出等。
  3. 创建智能体的知识库时：
    • 手动清洗数据可提高准确性，如创建画小二课程的 FAQ 知识库时，飞书在线文档中每个问题和答案以###分割。
    • 对于本地文档，不能一股脑全部放进去训练，应先放入大的章节名称内容，再按固定方式细化处理。
  4. 使用 Coze 搭建知识库时：
    • 文档的分片策略会严重影响查询结果，RAG 方案存在跨分片总结和推理能力弱、文档有序性被打破、表格解析失败等问题。

希望以上内容对您有所帮助。

Content generated by AI large model, please carefully verify (powered by aily)

References

胎教级教程：万字长文带你理解 RAG 全流程

从用户提出问题开始：我们经历了用户问题的理解根据用户问题进行路由进行初步的检索对初步检索的结果进行重排序现在终于要到了生成结果的时候了，这个环节的流程可以简化如下：将重排序后的结果和用户的查询意图组合成上下文输入给大模型大模型通过指定的提示词生成输出结果这个环节理解起来很简单，但是同样有几个需要注意的点重排序的结果通常不会都被用作大模型的上下文，因为大模型的上下文有限制可以设置一个阈值进行截断，比如只使用前3-5个文档可以设置一个相关性分数的阈值，只取相关性分数大于某个值的文档一些先进的RAG系统会对选中的文档进行摘要或压缩，以在有限的空间内包含更多相关信息。[heading3]后置处理[heading3][content]在大模型输出结果后就是一些后置的处理了，这可能包括敏感内容检测和移除格式化输出.....这些不是本文的重点，我们就不再这里展开了至此，关于普通的RAG的原理基本就全部讲完了，非常感谢你能耐心看到这里！这里我再引用智谱清言的一张图给大家复习，看完上述流程，我理解这张图理解起来更容易

【智能体】让Coze智能体机器人连上微信和微信群详细配置文档

本次创建知识库使用手动清洗数据，上节课程是自动清洗数据：[【智能体】用Coze在微信里搭建一个机器人，还能挖掘销售线索](https://a1i1hjmvcf0.feishu.cn/docx/JSdDd8ybLo7OHqxmePwcHlbLn3b?from=from_copylink),自动清洗数据会出现目前数据不准的情况，本节视频就尝试使用手动清洗数据，提高数据的准确性。[heading3]3.1在线知识库[content]点击创建知识库，创建一个画小二课程的FAQ知识库知识库的飞书在线文档，其中每个问题和答案以###分割，暂时不要问为什么。选择飞书文档选择自定义的自定义输入###然后他就将飞书的文档内容以###区分开来，这里可以点击编辑修改和删除。点击添加Bot添加好可以在调试区测试效果[heading3]3.2本地文档[content]本地word文件，这里要注意了~~~如何拆分内容，提高训练数据准确度，将海报的内容训练的知识库里面画小二这个课程80节课程，分为了11个章节，那训练数据能不能一股脑全部放进去训练呢。答案是~~不能滴~~~正确的方法，首先将11章的大的章节名称内容放进来，如下图所示。章节内详细内容格式如下如所示，如果你再分节的内容，依次类推细化下去。每个章节都按照这种固定的方式进行人工标注和处理然后选择创建知识库自定义清洗数据，这里不再赘述。[heading3]3.3发布应用[content]点击发布确保在Bot商店中能够搜到，如图所示可以搜索到画小二智能小助手，这个很重要，没有通过发布的获取不到API的。

大圣：胎教级教程：万字长文带你使用Coze打造企业级知识库

这里我使用一款名为外贸大师产品的帮助文档进行演示。其帮助文档的地址为：[外贸大师使用秘籍·Yuque](https://www.yuque.com/charlotteyang/lbvyfu)为了简单，我选择其中一个文档来创建知识库：[购买后新人常见问题汇总·语雀](https://www.yuque.com/charlotteyang/lbvyfu/gvzs7qt313zg0svr)1.点击创建知识库1.从知识库中添加知识单元为了更好的检索效果，这个例子里使用Local doucuments的方式，并且上传的Markdown格式文档首先看下文档数据的格式：每个问题都是使用###作为开头（这是Markdown的语法）准备开始上传文件至此，一个完整的知识库就构建完成啦！接下来我们就可以去创建我们的产品资料问答机器人特别需要注意的是：文档的分片策略会严重影响查询的结果，这是当前RAG自身的方案原理导致的。基于Coze的知识库问答是典型的RAG方案，其重要一环就是文档切片（Segment）。然而，不管是单分片是800 token还是2000 token，都显著暴露了RAG方案的缺点：跨分片总结和推理能力弱。这是基于RAG方案自身原理导致的。文档有序性被打破。这是基于RAG方案自身原理导致的。表格解析失败。最后一点很诧异。虽然在业内把PDF解析为结构化文本，本就是一个难题。但是Coze对PDF的解析结果甚至不如直接用pypdf这个开源Python组件解析的效果好。说明Coze这个产品对细节的打磨还不够好。在这里我们不讨论如何组织文档形式，从而可以更好的分片。后面我会专门研究这块，并产出教程。

Others are asking
coze搭建智能体，用上传的文件和知识库的文件做对比，分析差异点。
以下是关于在 Coze 中搭建智能体的相关信息： 1. 证件照相关操作： 展示原图上传结果，基本脸型已换，生成效果与上传照片特征有关。 改背景可利用改图功能，一键改图效果更好，输出数据类型为图片。 豆包节点生成的是 URL 地址，与前者不同，在工作流使用有差异，可参考简单提示词。 介绍证件照工作流相关操作，包括通过提示词改背景颜色，设置输出方式为返回变量；讲解消耗 token 及保存结果相关问题；对按钮、表单添加事件并设置参数，限制上传文件数量；还涉及给表单和图片绑定数据，以及每次操作后刷新界面确保设置生效。 围绕操作讲解与优化展开，介绍 for meet 的设置，如表单事件操作、图片上传数量修改等，提及编程基础知识。还讲述成果图连接、绑定数据方法及注意事项。展示基本功能实现情况，分析换性别等问题成因，指出需在工作流优化提示词，也可尝试用视频模型解决，最后进入问答环节。 2. 多维表格的高速数据分析： 创建智能体，使用单 Agent 对话流模式。 编排对话流，创建新的对话流并关联智能体。 使用代码节点对两个插件获取的结果进行数据处理，注意代码节点输出的配置格式。 测试，找到一篇小红书笔记，试运行对话流，在对话窗口输入地址查看数据。 发布，选择多维表格，配置输出类型为文本，输入类型选择字段选择器，完善上架信息，可选择仅自己可用以加快审核。 3. 智能体与微信和微信群的连接： 创建知识库，可选择手动清洗数据提高准确性，包括在线知识库和本地文档。 在线知识库创建时，飞书在线文档中每个问题和答案以分割，可编辑修改和删除。 本地文档中注意拆分内容提高训练数据准确度，如将课程章节按固定方式人工标注和处理。 发布应用，确保在 Bot 商店中能够搜到。
2025-04-18
coze搭建知识库和上传文件做对比分析
以下是关于 Coze 搭建知识库和上传文件的对比分析： 创建文本型知识库： 自动分段与清洗：扣子可对上传的内容进行自动解析，支持复杂布局的文件处理，如识别段落、页眉/页脚/脚注等非重点内容，支持跨页跨栏的段落合并，支持解析表格中的图片和文档中的表格内容（目前仅支持带线框的表格）。操作步骤为在分段设置页面选择自动分段与清洗，然后依次单击下一步、确认，可查看分段效果，不满意可重新分段并使用自定义分段。 自定义：支持自定义分段规则、分段长度及预处理规则。操作时在分段设置页面选择自定义，然后依次设置分段规则和预处理规则，包括选择分段标识符、设置分段最大长度和文本预处理规则，最后单击下一步完成内容分段。 创建表格型知识库： 目前支持 4 种导入类型：本地文档、API、飞书、自定义。 本地文档：选择本地文档从本地文件中导入表格数据，目前支持上传 Excel 和 CSV 格式的文件，文件不得大于 20M，一次最多可上传 10 个文件，且表格内需要有列名和对应的数据。 API：参考特定操作从 API 返回数据中上传表格内容，包括选择 API、单击新增 API、输入 API URL 并选择数据更新频率，然后单击下一步。 飞书：参考特定操作从飞书表格中导入内容，包括选择飞书、在新增知识库页面单击授权并选择要导入数据的飞书账号、单击安装扣子应用（仅首次导入需授权和安装），然后选择要导入的表格并单击下一步。目前仅支持导入“我的空间”下的飞书文档，云文档的创建者必须是自己，暂不支持导入知识库和共享空间下的云文档。 上传文本内容： 在线数据：扣子支持自动抓取指定 URL 的内容，也支持手动采集指定页面上的内容，上传到数据库。 自动采集方式：适用于内容量大、需批量快速导入的场景。操作步骤为在文本格式页签下选择在线数据，然后依次单击下一步、自动采集、新增 URL，输入网站地址、选择是否定期同步及周期，最后单击确认，上传完成后单击下一步，系统会自动分片。 手动采集：适用于精准采集网页指定内容的场景。操作步骤为安装扩展程序，在文本格式页签下选择在线数据，然后依次单击下一步、手动采集、授予权限，输入采集内容的网址，标注提取内容，查看数据确认无误后完成并采集。
2025-04-18
知识库怎么构建
构建知识库的方法主要有以下几种： 1. 使用 Flowith 构建： 选择“Manage Your Knowledge Base”，进入知识库管理页面。 点击左上角的加号添加新的知识库，为其起一个便于分辨的名字。 点击添加文件，建议使用 Markdown 格式的文件。 等待 Flowith 对文件进行抽取等处理，处理完毕后可在知识库管理页面测试检索。 2. 使用 Dify 构建： 准备数据：收集文本数据，进行清洗、分段等预处理。 创建数据集：在 Dify 中创建新数据集，上传准备好的文档并编写描述。 配置索引方式：根据需求选择高质量模式、经济模式或 Q&A 分段模式。 集成至应用：将数据集集成到对话型应用中，配置数据集的使用方式。 持续优化：收集用户反馈，更新知识库内容和优化索引方式。 3. 本地部署大模型并搭建个人知识库（涉及 RAG 技术）： 了解 RAG 技术：大模型训练数据有截止日期，RAG 可通过检索外部数据并在生成步骤中传递给 LLM 来解决依赖新数据的问题。 RAG 应用的 5 个过程： 文档加载：从多种来源加载文档，如 PDF、SQL 等。 文本分割：把文档切分为指定大小的块。 存储：包括将文档块嵌入转换成向量形式，并将向量数据存储到向量数据库。 检索：通过检索算法找到与输入问题相似的嵌入片。 输出：将问题和检索出的嵌入片提交给 LLM 生成答案。 文本加载器：将用户提供的文本加载到内存中以便后续处理。
2025-04-15
如何搭建知识库
搭建知识库的方法如下： 使用 flowith 搭建： 选择“Manage Your Knowledge Base”，进入知识库管理页面。 点击左上角的加号添加新的知识库，给知识库起一个便于分辨的名字。 点击添加文件，建议使用 Markdown 格式的文件。 Flowith 会对文件进行抽取等处理，处理完毕后可在知识库管理页面测试检索。 使用 Dify 搭建： 准备数据：收集文本数据，进行清洗、分段等预处理。 创建数据集：在 Dify 中创建新数据集，上传准备好的文档并编写描述。 配置索引方式：提供三种索引方式，根据需求选择，如高质量模式、经济模式和 Q&A 分段模式。 集成至应用：将数据集集成到对话型应用中，配置数据集的使用方式。 持续优化：收集用户反馈，更新知识库内容和优化索引方式。 使用 Coze 智能体搭建： 手动清洗数据： 在线知识库：点击创建知识库，创建 FAQ 知识库，选择飞书文档，输入区分问题和答案，可编辑修改和删除，添加 Bot 并在调试区测试效果。 本地文档：注意拆分内容，提高训练数据准确度，按章节进行人工标注和处理，然后创建自定义清洗数据。 发布应用：点击发布，确保在 Bot 商店中能搜到。
2025-04-14
如何搭建自己的知识库
以下是搭建自己知识库的方法： 1. 选择“Manage Your Knowledge Base”，进入知识库管理页面。 2. 在页面左上角点击加号，添加新的知识库，并为其起一个易于分辨的名字。 3. 点击添加文件，建议使用 Markdown 格式的文件。 4. 等待 Flowith 对文件进行抽取等处理。 5. 处理完毕后，可在知识库管理页面测试检索，输入关键词过滤相关内容。 此外，搭建本地知识库还需了解 RAG 技术： 1. RAG 是一种当需要依靠不包含在大模型训练集中的数据时所采用的主要方法，即先检索外部数据，然后在生成步骤中将这些数据传递给 LLM。 2. 一个 RAG 的应用包括文档加载、文本分割、存储、检索和输出 5 个过程。 文档加载：从多种不同来源加载文档，LangChain 提供了 100 多种不同的文档加载器。 文本分割：把 Documents 切分为指定大小的块。 存储：将切分好的文档块进行嵌入转换成向量的形式，并将 Embedding 后的向量数据存储到向量数据库。 检索：通过某种检索算法找到与输入问题相似的嵌入片。 输出：把问题以及检索出来的嵌入片一起提交给 LLM，生成更合理的答案。 对于基于 GPT API 搭建定制化知识库，涉及给 GPT 输入定制化的知识。由于 GPT3.5 一次交互支持的 Token 有限，OpenAI 提供了 embedding API 解决方案。Embeddings 是一个浮点数字的向量，两个向量之间的距离衡量它们的关联性，小距离表示高关联度。在 OpenAI 词嵌入中，靠近向量的词语在语义上相似。文档上有创建 embeddings 的示例。
2025-04-14
我想做一个，基于我个人知识库的chatbot，以供我随时搜索和提问，且优先搜索知识库内的内容而非联网搜索，你有什么建议吗？
以下是为您提供的关于创建基于个人知识库的 chatbot 的建议： 1. 选择合适的平台和工具：例如可以考虑使用飞书智能伙伴创建平台（Aily）或扣子（https://www.coze.cn/home）等。 2. 数据分段储存：由于大模型的上下文长度有限制，需要将上传的资料根据特定符号或字符长度进行分段，如将 8000 字文档按每 800 字分成一个片段储存。 3. 增强检索：当用户输入问题，大模型会根据相似度检索出若干最相关的数据片段，再据此生成答案，这一技术称为 RAG（检索增强生成）。 4. 配置知识库： 在 Bot 内使用知识库： 登录相关平台。 在左侧导航栏的工作区区域，选择进入指定团队。 在 Bots 页面，选择指定 Bot 并进入 Bot 详情页。 在 Bot 编排页面的知识库区域，单击加号图标，添加指定的知识库。 （可选）添加知识库后，可以在自动调用下拉界面内，调整知识库的配置项，如最大召回数量、最小匹配度、调用方式等。 在工作流内使用 Knowledge 节点： 登录相关平台。 在左侧导航栏的工作区区域，选择进入指定团队。 在页面顶部进入工作流页面，并打开指定的工作流。 在左侧基础节点列表内，选择添加 Knowledge 节点。 5. 注意使用限制：单用户最多创建 1000 个知识库，文本类型知识库下最多支持添加 100 个文档，单用户每月最多新增 2GB 数据，累计上限是 10GB。 此外，知识库可以解决大模型幻觉、专业领域知识不足的问题，提升大模型回复的准确率。您可以将知识库直接与 Bot 进行关联用于响应用户回复，也可以在工作流中添加知识库节点，成为工作流中的一环。
2025-04-14
comfyui动画片工作流怎么构建
构建 ComfyUI 动画片工作流的步骤如下： 1. 打开 Comfyui 界面后，右键点击界面，找到 Comfyui LLM party 的目录。您可以学习手动连接节点来实现最简单的 AI 女友工作流，也可以将工作流文件拖拽到 Comfyui 界面中一键复刻提示词工程实验。 2. 从 ollama 的 github 仓库找到对应版本并下载。启动 ollama 后，在 cmd 中输入 ollama run gemma2 将自动下载 gemma2 模型到本地并启动。将 ollama 的默认 base URL=http://127.0.0.1:11434/v1/以及 api_key=ollama 填入 LLM 加载器节点即可调用 ollama 中的模型进行实验。 3. 若 ollama 连接不上，很可能是代理服务器的问题，请将 127.0.0.1:11434 添加到不使用代理服务器的列表中。 此外，还有以下相关工作流搭建的信息供您参考： 1. 搭建艺术二维码工作流：打开 ComfyUI 导入相应工作流。工作流所用到的节点包括大模型节点（可选择如 AWPainting、primemixanything、xxmix9realistic v40 等，并提供了相应链接）、关键词节点、Lora 节点、ControlNet 节点（选用 qrcode_monster V2 版本，下载链接：https://huggingface.co/monsterlabs/control_v1p_sd15_qrcode_monster/tree/main/v2 ）、采样器节点（Step 选择高步数，35 50 即可，采样器默认的 euler a/dpmpp 2m sde ）。 2. 搭建 ComfyUI 基础工作流：从零开始搭建时，首先准备加载大模型的节点，在工作区鼠标右键点击，选择 Add Node > 选择 loaders > 选择 Load Checkpoint，并选择对应的模型。然后加载 Conditioning（条件），在工作区鼠标右键点击，选择 Add Node > 选择 Conditioning > 选择 CLIP TEXT Encode，输入正反向提示词。添加采样器时，部分参数设置与 WEB_UI 有所不同，如 seed 值只有固定、随机、每次增加、每次减少这四个选项，采样器和调度器是分开的。
2025-04-13
flowith根据自然语言构建一个直接使用的工作流吗，如何向flowith提出要求
Flowith 可以根据自然语言构建工作流。即使没有专业编程技能，只要能用清晰的自然语言描述出想要的各个 Agents 具备的行为和功能，就可以快速制作多 Agents 应用或创建代理式工作流。 使用工作流的步骤如下： 1. 配置工作流： 在 Code 节点内使用 IDE 工具，通过 AI 自动生成代码或编写自定义代码逻辑，来处理输入参数并返回响应结果。 该节点支持 JavaScript、Python 运行时，需注意不同运行时的特定事项。 可在 IDE 底部单击尝试 AI，并输入自然语言设定代码逻辑，也可选中代码片段通过快捷键唤起 AI 并输入自然语言让其修改代码。 2. 通过工作流数据库节点操作数据表： 在工作流中添加数据库节点对数据表进行操作，可通过 NL2SQL 方式和代码方式进行调用，支持完整读写模式。 参考以下操作添加并配置工作流节点： 单击页面顶部的工作流页签，然后单击创建工作流。 输入工作流名称和使用描述，然后单击确认。 在基础节点页签下，将数据库节点拖入到工作流配置画布区域。 根据相关信息配置数据库节点，包括输入添加 SQL 执行中需要的参数，输入要执行的 SQL 语句，可单击自动生成使用大模型生成 SQL。 需注意不支持 Select语法、多表 Join 操作，最多返回 100 行数据。在配置数据库节点前，要确保已经搭建了一个 Bot，并在这个 Bot 中创建好了数据表。
2025-03-26
如何构建知识库
构建知识库的方法主要有以下两种： 使用 flowith 构建知识库： 1. 选择“Manage Your Knowledge Base”，进入知识库管理页面。 2. 点击左上角的加号，添加新的知识库，并为其起一个易于分辨的名字。 3. 点击添加文件，建议使用 Markdown 格式的文件。 4. Flowith 会对文件逐个进行抽取等处理，无需操心具体过程，等待处理完毕。 5. 处理完毕后，可以在知识库管理页面测试检索，输入关键词过滤相关内容。 使用 Dify 构建知识库： 1. 准备数据：收集需要纳入知识库的文本数据，包括文档、表格等格式，并对数据进行清洗、分段等预处理，确保数据质量。 2. 创建数据集：在 Dify 中创建一个新的数据集，并将准备好的文档上传至该数据集，为数据集编写良好的描述。 3. 配置索引方式：Dify 提供了三种索引方式供选择，包括高质量模式、经济模式和 Q&A 分段模式，根据实际需求选择合适的索引方式。 4. 集成至应用：将创建好的数据集集成到 Dify 的对话型应用中，作为应用的上下文知识库使用，在应用设置中配置数据集的使用方式。 5. 持续优化：收集用户反馈，对知识库内容和索引方式进行持续优化和迭代，定期更新知识库，增加新的内容以保持时效性。 总的来说，Dify 提供了一个可视化的知识库管理工具，关键步骤包括数据准备、数据集创建、索引配置，以及将知识库集成到应用中并持续优化。
2025-03-20
我是新手小白，如何用最简单的方式构建多智能体
对于新手小白构建多智能体，以下是一种较为简单的方式： 1. 快速搜索补充参考信息：根据用户的任务调研市场上主流的开源搜索引擎技术架构，使用搜索工具 API WebSearchPro 补充更多信息，具体可参考。 2. 用模型规划和分解子任务：使用大模型如 GLM40520 帮助规划，把用户问题拆分成若干子搜索任务，并转换为 JSON 格式。JSON 格式处理可参考。 3. 用搜索智能体完成子任务：AI 搜索智能体具备联网搜索和自主分析并进行多轮搜索任务的能力。智能体 API 的调用方式可参考。智能体 id 为 659e54b1b8006379b4b2abd6，简介为连接全网内容，精准搜索，快速分析并总结的智能助手。 4. 总结子任务生成思维导图：智能体能调用各种插件，如思维导图、流程图、PPT 工具等，可根据工作需要选择。智能体 API 的调用方式可参考。智能体 id 为 664e0cade018d633146de0d2，简介为告别整理烦恼，任何复杂概念秒变脑图。 另外，OpenAI 官方开源的多智能体框架「Swarm」具有一定优势，其「Handoffs」处理了不同智能体之间交接的逻辑。例如构建客服多智能体，可能只需要准备普通接线客服和宽带客服两个 Agent 。 在实际操作中，如创建 Coze 智能体获取笔记和评论信息，要创建智能体并使用单 Agent 对话流模式，编排对话流，进行测试和发布等步骤。发布时要注意相关配置，如输出类型、输入类型等。
2025-03-20
如何构建多模态知识库？
构建多模态知识库可以参考以下步骤： 1. 图像知识库方面：通过多模态的能力对图片信息进行检索理解。效果测试时，上传一张图片，在图像数据库里找到相关信息，然后结合内容进行回复。 2. 构建图片索引： 新建结构化数据表时，将图片索引所在列的字段类型设置为 link。需注意新建数据表后，无法再新增或修改字段类型为 link。 创建结构化知识库时，对于需要建立图片索引的 link 类型字段，在旁边的下拉列表中选择图片。创建知识库后，无法再新建或修改图片索引。 3. 多模态知识库还包括构建图片型索引需结构化数据表，字段类型设置为 link，以实现 FAQ 中向用户推送图片信息。
2025-03-19
我是官媒，我现在要纳新ai职能组，对招聘人员有什么纳新要求，注意招聘范围在大一到大四的学生
以下是针对官媒纳新 AI 职能组大一到大四学生的纳新要求： 1. 技术要求： 必：熟悉 Python 开发。 选：熟悉一些常用开发框架，比如 Flask、Gradio、Pytorch、Huggingface、LangChain、LlamaIndex。 必：了解深度学习、大语言模型底层原理。 选：了解预训练、微调基本原理和优化。 选：了解 RAG、Agent 基本原理和优化。 加分：了解音频、语音模型开发领域。 2. 其他要求： 对 AI 驱动的开发感兴趣。 实习时长不少于 6 个月。 大学英语六级 450 分/雅思 6.0 分。 目前就读学校为双一流/海外前 200。
2025-04-09
线性注意力机制与多头潜在注意力机制
线性注意力机制和多头潜在注意力机制是人工智能领域中重要的概念。 线性注意力机制是一种注意力机制的类型，其特点和具体实现方式会因不同的模型和应用场景而有所差异。 多头潜在注意力机制（MLA）在一些模型中得到应用，例如 DeepSeek 模型。DeepSeekV2 就以多头潜在注意力机制架构的创新在硅谷引发了轰动。 在 Transformer 模型中，常见的注意力机制包括自注意力机制、多头注意力机制等。自注意力机制能够同时考虑输入序列中所有位置的信息，通过动态分配注意力权重来捕捉序列中的关系和依赖。位置编码用于使模型能够区分不同位置的词语。多头注意力机制可以并行地学习多个注意力表示，从不同子空间中学习不同特征表示。 DeepSeek 模型在发展过程中，不断应用和创新注意力机制。如 2024 年 5 月发布的 V2 采用了混合专家模型（MoE）和多头潜在注意力机制（MLA）技术，大幅降低了模型训练特别是推理的成本。2024 年 12 月发布的 V3 以低成本实现了高性能，成为其发展的里程碑。
2025-03-28
使用RAG要注意什么？
使用 RAG 时需要注意以下几点： 1. 不能随意输入任何文档就期望得到准确回答。尽管 RAG 的基本概念不难理解，但有效实现 RAG 系统需要考虑多个复杂因素，如文档预处理、高效索引、相关性排序等，这些都需要专业知识和持续优化。 2. RAG 不能完全消除 AI 的幻觉。虽然它可以显著减少幻觉，但模型仍可能在检索到的信息基础上进行不当的推理或生成错误信息，只要有大模型参与，就有可能产生幻觉。 3. RAG 仍然消耗大模型的 Token。从流程上看，最终还是将知识库中检索的结果给到 LLM，然后由 LLM 进行重新整理输出。 4. 从评估角度看，如果检索到的知识是无效的，会严重影响 LLM 应用的表现，因此将检索过程的精确度和召回率与整个 LLM 应用程序分开进行研究尤为重要。 5. RAG 存在局限性，它适合打造专才，不适合打造通才，能够为模型提供新的信息、专有领域知识等，但并不适合为模型提供通用领域知识。同时，在让模型保持稳定的风格或结构输出、降低 token 消耗等方面存在不足，这两点需要使用微调技术解决。
2025-03-25
背景：我是一名高中生，想学习AI知识，逐步从入门到精通 目标：希望在<3个月>内具备一定能力。 请结合我的背景和优势，为我设计一份学习路线： - 列出每阶段（例如每一个礼拜）的学习重点（比如编程基础、数学）。 - 为每个阶段推荐<具体资源>（书籍、在线课程、练习项目等）。 - 提供一些学习技巧或注意事项。
以下是为您设计的一份在 3 个月内从入门到具备一定能力的 AI 学习路线： 第一个月： 学习重点：了解 AI 基本概念，包括术语、主要分支及它们之间的联系；掌握编程基础，如 Python 语言。 推荐资源： 书籍：《人工智能：一种现代方法》 在线课程：Coursera 上的“人工智能入门”课程 练习项目：使用 Python 实现简单的数据分析和可视化 学习技巧和注意事项：多做笔记，理解概念，注重实践。 第二个月： 学习重点：深入学习数学基础，包括统计学、线性代数和概率论；了解算法和模型中的监督学习和无监督学习。 推荐资源： 书籍：《概率论与数理统计》《线性代数及其应用》 在线课程：edX 上的“机器学习基础”课程 练习项目：使用监督学习算法进行数据分类预测 学习技巧和注意事项：通过实际案例加深对数学知识的理解，多做练习题。 第三个月： 学习重点：掌握神经网络基础，包括网络结构和激活函数；学习模型的评估和调优。 推荐资源： 书籍：《深度学习》 在线课程：Udacity 上的“深度学习入门”课程 练习项目：构建并优化一个简单的神经网络模型 学习技巧和注意事项：积极参与在线讨论，及时解决学习中的问题。 在整个学习过程中，您还可以： 体验 AI 产品，如 ChatGPT、文心一言等，了解其工作原理和交互方式。 掌握提示词的技巧，提高与 AI 的交互效果。 参与相关的社区和论坛，分享学习经验和成果。
2025-03-21
知识库搭建注意事项
以下是关于知识库搭建的注意事项： 1. 数据清洗方式： 可选择手动清洗数据以提高准确性，避免自动清洗数据可能出现的不准确情况。 对于本地文档，要注意合理拆分内容以提高训练数据准确度，不能将所有内容一股脑放入训练。 2. 在线知识库： 点击创建知识库，可创建如画小二课程的 FAQ 知识库。 飞书在线文档中每个问题和答案以分割，可点击编辑修改和删除。 选择飞书文档，选择自定义的自定义，输入。 点击添加 Bot 并在调试区测试效果。 3. 本地文档： 对于本地 word 文件，要注意拆分内容的方法。例如，对于画小二课程，将 80 节课程分为 11 个章节，先放入大章节名称内容，再按固定方式细化章节内详细内容。 选择创建知识库自定义清洗数据。 4. 发布应用： 点击发布，确保在 Bot 商店中能够搜到，否则无法获取 API。 5. 文档格式和分片策略： 以创建外贸大师产品的帮助文档知识库为例，可选择使用 Local doucuments 方式上传 Markdown 格式文档，每个问题以开头。 文档的分片策略会严重影响查询结果，RAG 方案存在跨分片总结和推理能力弱、文档有序性被打破、表格解析失败等缺点。 此外，在信息管理和知识体系搭建中，“拎得清、看得到、想得起、用得上”是四个核心步骤： 1. 拎得清：主动选择和判断高质量、与目标相关的信息源，利用 AI 搜索引擎筛选信息，加入优质社群、订阅号等建立信息通路。 2. 看得到：确保所选信息能频繁且不经意地触达个人，通过浏览器插件、笔记工具等组织信息，使其易于检索和浏览。 3. 想得起：做好信息的索引和关联，存储时做好标记（关键词、tag）、选择合适存放位置，推荐使用 PARA 笔记法等方法组织串联信息。 4. 用得上：将积累的知识转化为实际行动和成果，在解决问题或创造价值时从知识库中调取相应信息。
2025-03-17
出图是动漫/真人有什么区别和需要注意的点？
动漫出图和真人出图有以下区别和需要注意的点： 版权和法律意识：对于知名动漫角色的使用，要特别注意版权和法律问题。 模型和文件：LORA 在提炼图片特征方面功能强大，其文件通常有几十上百兆，承载的信息量远大于 Embedding，在还原真人物品时，LORA 的细节精度更高。下载的 LORA 需放在特定文件夹，使用时要注意作者使用的大模型，通常配套使用效果最佳，同时还需加入特定触发词保证正常使用。 提示词：设置文生图提示词时，正向提示词和负向提示词的准确设定对出图效果有重要影响。 参数设置：包括迭代步数、采样方法、尺寸等参数的合理设置，会影响出图的质量和效果。
2025-03-16