Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

linux下安装 anythingLLM

Answer

以下是在 Linux 下安装 AnythingLLM 的相关指导：

  1. 安装地址：https://useanything.com/download 。
  2. 安装完成后会进入配置页面，主要分为三步：
    • 第一步：选择大模型。
    • 第二步：选择文本嵌入模型。
    • 第三步：选择向量数据库。
  3. AnythingLLM 中有 Workspace 的概念，可以创建自己独有的 Workspace 与其他项目数据进行隔离。
    • 首先创建一个工作空间。
    • 上传文档并且在工作空间中进行文本嵌入。
    • 选择对话模式，提供了 Chat 模式（大模型会根据自己的训练数据和上传的文档数据综合给出答案）和 Query 模式（大模型仅仅会依靠文档中的数据给出答案）。
  4. 完成上述配置后，即可与大模型进行对话。

此外，在 GitHubDaily 开源项目列表 2023 年复盘的 AIGC 部分中，也有关于 AnythingLLM 的介绍：AnythingLLM 是一个可打造成企业内部知识库的私人专属 GPT！可以将任何文档、资源或内容转换为大语言模型（LLM）知识库，使得在对话过程中可引用到里面的内容。

本文的思路来源于视频号博主黄益贺，作者按照他的视频进行了实操，并附加了一些关于 RAG 的额外知识。

Content generated by AI large model, please carefully verify (powered by aily)

References

手把手教你本地部署大模型以及搭建个人知识库

如果想要对知识库进行更加灵活的掌控，我们需要一个额外的软件：AnythingLLM。这个软件包含了所有Open WebUI的能力，并且额外支持了以下能力选择文本嵌入模型选择向量数据库[heading2]AnythingLLM安装和配置[content]安装地址：https://useanything.com/download当我们安装完成之后，会进入到其配置页面，这里面主要分为三步1.第一步：选择大模型1.第二步：选择文本嵌入模型1.第三步：选择向量数据库[heading2]构建本地知识库[content]AnythingLLM中有一个Workspace的概念，我们可以创建自己独有的Workspace跟其他的项目数据进行隔离。1.首先创建一个工作空间1.上传文档并且在工作空间中进行文本嵌入1.选择对话模式AnythingLLM提供了两种对话模式：Chat模式：大模型会根据自己的训练数据和我们上传的文档数据综合给出答案Query模式：大模型仅仅会依靠文档中的数据给出答案1.测试对话当上述配置完成之后，我们就可以跟大模型进行对话了[heading1]六、写在最后[content]我非常推崇的一句话送给大家：看十遍不如实操一遍，实操十遍不如分享一遍如果你也对AI Agent技术感兴趣，可以联系我或者加我的免费知识星球（备注AGI知识库）

GitHubDaily 开源项目列表

|名称|简述||-|-||[AnythingLLM](https://github.com/Mintplex-Labs/anything-llm)|一个可打造成企业内部知识库的私人专属GPT！可以将任何文档、资源或内容转换为大语言模型（LLM）知识库，使得在对话过程中可引用到里面的内容。||[chatgpt_system_prompt](https://github.com/LouisShark/chatgpt_system_prompt)|有获取GPTs的Prompt、Knowledge以及如何防护的教程，另外单独对破解官方GPTs的Prompt进行分类。||[GPTs](https://github.com/linexjlin/GPTs)|收集了超级多被破解的GPTs Prompt||[Awesome assistants](https://github.com/awesome-assistants/awesome-assistants)|一份精心收集整理的优秀AI助手列表。||[Animate Anyone](https://github.com/HumanAIGC/AnimateAnyone)|只需一张角色图片，即可生成与角色一致且动作可控的生动视频。||[SillyTavern](https://github.com/SillyTavern/SillyTavern/)|一个可以安装在电脑（和安卓手机）上的用户界面，让你可以与文本生成的人工智能互动，并与社区创建的角色聊天/玩角色扮演游戏。||[Prompt flow](https://github.com/microsoft/promptflow)|微软在GitHub开源的一套AI工具，可用于简化大模型应用的开发周期。打通了从项目构思、原型设计、测试、评估到生产部署和监控的全流程，让开发者可以快速构建出高质量的大语言模型应用。||[supervision](https://github.com/roboflow/supervision)|一个在GitHub开源的计算机视觉AI工具箱，安装简便，可供开发者重复使用，大幅提升效率。|

手把手教你本地部署大模型以及搭建个人知识库

本文的思路来源于视频号博主：黄益贺我按照他的视频进行了实操，并且附加了一些关于RAG的额外知识[heading1]一、引言[content]大家好，我是大圣，一个致力使用AI工具将自己打造为超级个体的程序员。目前沉浸于AI Agent研究中无法自拔今天给大家分享的是手把手教你如何部署本地大模型以及搭建个人知识库读完本文，你会学习到如何使用Ollama一键部署本地大模型通过搭建本地的聊天工具，了解ChatGPT的信息是如何流转的RAG的概念以及所用到的一些核心技术如何通过AnythingLLM这款软件搭建完全本地化的数据库虽然我们大多数人不需要在自己部署大模型，但是我期望在本文的帮助下，能够带你手把手折腾一遍。这样在使用任何软件的时候，可以做到知其然，知其所以然。

Others are asking
anythingLLM本地部署
以下是关于本地部署大模型以及搭建个人知识库的相关内容： 一、引言 作者是大圣，一个致力于使用 AI 工具将自己打造为超级个体的程序员，目前沉浸于 AI Agent 研究。本文将分享如何部署本地大模型及搭建个人知识库，读完可学习到如何使用 Ollama 一键部署本地大模型、了解 ChatGPT 信息流转、RAG 概念及核心技术、通过 AnythingLLM 搭建本地化数据库等。 五、本地知识库进阶 如果想要对知识库进行更灵活掌控，需要额外软件 AnythingLLM，它包含所有 Open WebUI 能力，并额外支持选择文本嵌入模型和向量数据库。 安装地址：https://useanything.com/download 。安装完成后进入配置页面，主要分为三步： 1. 第一步：选择大模型。 2. 第二步：选择文本嵌入模型。 3. 第三步：选择向量数据库。 构建本地知识库： AnythingLLM 中有 Workspace 概念，可创建独有 Workspace 与其他项目数据隔离。 1. 首先创建一个工作空间。 2. 上传文档并在工作空间中进行文本嵌入。 3. 选择对话模式，提供 Chat 模式（大模型根据训练数据和上传文档综合给出答案）和 Query 模式（大模型仅依靠文档数据给出答案）。 配置完成后可进行测试对话。 六、写在最后 作者推崇“看十遍不如实操一遍，实操十遍不如分享一遍”。如果对 AI Agent 技术感兴趣，可联系作者或加其免费知识星球（备注 AGI 知识库）。 本文思路来源于视频号博主黄益贺，作者按照其视频进行实操并附加了一些关于 RAG 的额外知识。
2025-03-26
anythingLLM和RAG Flow哪个部署更容易
RAG Flow 和 LLM 的部署难易程度如下： RAG Flow： 公网 MaaS：通常只需要一个 API key 即可对接，默认提供了通义千问。比较特殊的是 OpenAI 的接口上提供了修改 endpoint，也就是支持中间商。 本地部署：目前仅支持 Xinference 和 Ollama 方式部署。但是实际上只要是 API 接口一致，对接方式一致都可以用该方式对接。此处基础 Url 只需要写到 v1 为止，不需要写 embeddings 的二级接口。添加模型后需要在“系统模型配置”中设置，方能让模型生效。 LLM：关于 LLM 的部署难易程度，上述内容中未给出直接对比信息。但 Dify.AI 作为一个开源的大规模语言模型应用开发平台，具有快速部署等特点，用户可以在 5 分钟内部署定制化的聊天机器人或 AI 助手。 综合来看，仅根据所提供的信息，难以确切判断 RAG Flow 和 LLM 哪个部署更容易，还需结合更多具体的技术细节和实际需求进行评估。
2025-02-27
anythingllm安装包
以下是关于 AnythingLLM 安装包的相关信息： 安装地址：https://useanything.com/download 。 安装完成后会进入配置页面，主要分为三步： 第一步：选择大模型。 第二步：选择文本嵌入模型。 第三步：选择向量数据库。 在 AnythingLLM 中有 Workspace 的概念，可以创建自己独有的 Workspace 与其他项目数据进行隔离。配置流程包括： 首先创建一个工作空间。 上传文档并且在工作空间中进行文本嵌入。 选择对话模式，提供了 Chat 模式和 Query 模式。Chat 模式大模型会根据训练数据和上传的文档数据综合给出答案，Query 模式大模型仅依靠文档中的数据给出答案。 完成上述配置后，即可与大模型进行对话。 此外，在 GitHubDaily 开源项目列表 2023 年复盘的 AIGC 部分中， 是一个可打造成企业内部知识库的私人专属 GPT，能将任何文档、资源或内容转换为大语言模型（LLM）知识库，在对话中引用其中内容。
2025-02-06
AnythingLLM 怎么用，好用吗
AnythingLLM 是一款功能强大的软件，具有以下特点和使用方法： 功能：包含了所有 Open WebUI 的能力，并且额外支持选择文本嵌入模型和向量数据库。 安装和配置：安装地址为 https://useanything.com/download 。安装完成后进入配置页面，主要分为三步：选择大模型、选择文本嵌入模型、选择向量数据库。 构建本地知识库：其中有 Workspace 的概念，可以创建自己独有的 Workspace 与其他项目数据隔离。首先创建工作空间，然后上传文档并进行文本嵌入，接着选择对话模式，提供了 Chat 模式（大模型根据训练数据和上传文档数据综合给出答案）和 Query 模式（大模型仅依靠文档中的数据给出答案），最后进行测试对话。 相关评价：被认为是一个可打造成企业内部知识库的私人专属 GPT，能将任何文档、资源或内容转换为大语言模型（LLM）知识库，支持多用户使用，可设权限，兼容多种 LLM 和数据库。 总的来说，AnythingLLM 的使用效果因人而异，需要您亲自实践和体验来判断其是否好用。
2025-02-04
linux 下部署deepseek
在 Linux 下部署 DeepSeek 的步骤如下： 1. 下载代码仓库。 2. 安装依赖（注意有两个依赖未放在 requirements.txt 里）。 3. 启动 webui 的 demo 程序，然后用浏览器登陆服务器的 ip:8080 就能试玩。此 demo 提供了 3 个参数： server_name：服务器的 ip 地址，默认 0.0.0.0。 servic_port：即将开启的端口号。 local_path：模型存储的本地路径。 4. 第一次启动后生成语音时，需查看控制台输出，它会下载一些模型文件，因此比较慢，且可能因网络问题失败。但第一次加载成功后，后续会顺利。 5. 基于此基础可进行拓展，比如集成到 agent 的工具中，或结合 chatgpt 做更拟人化的实时沟通。 webui 上可设置的几个参数说明： text：指需要转换成语音的文字内容。 Refine text：选择是否自动对输入的文本进行优化处理。 Audio Seed：语音种子，是一个数字参数，用于选择声音类型，默认值为 2，是很知性的女孩子的声音。 Text Seed：文本种子，是一个正整数参数，用于 refine 文本的停顿。实测文本的停顿设置会影响音色、音调。 额外提示词（可写在 input Text 里）：用于添加笑声、停顿等效果。例如，可以设置为 。 使用 DeepSeek 的步骤： 1. 搜索 www.deepseek.com，点击“开始对话”。 2. 将装有提示词的代码发给 Deepseek。 3. 认真阅读开场白之后，正式开始对话。 DeepSeek 的设计思路： 1. 将 Agent 封装成 Prompt，将 Prompt 储存在文件，保证最低成本的人人可用的同时，减轻调试负担。 2. 通过提示词文件，让 DeepSeek 实现同时使用联网功能和深度思考功能。 3. 在模型默认能力的基础上优化输出质量，并通过思考减轻 AI 味，增加可读性。 4. 照猫画虎参考大模型的 temperature 设计了阈值系统，但是可能形式大于实质，之后根据反馈可能会修改。 5. 用 XML 来进行更为规范的设定，而不是用 Lisp（有难度）和 Markdown（运行不太稳定）。 关于 DeepSeek 的评论： 游戏科学创始人、黑神话悟空制作人冯骥称：年前还是认真推下 DeepSeek 吧。V3 已经用了一个月，但 R1 仅仅用了 5 天。DeepSeek 可能是个国运级别的科技成果。它具备强大的推理能力，比肩 O1；参数少，训练开销与使用费用小；开源，任何人均可自行下载与部署；免费，官方目前提供的服务完全免费；支持联网搜索，是暂时唯一支持联网搜索的推理模型；由没有海外经历甚至没有资深从业经验的本土团队开发完成。如果这都不值得欢呼，还有什么值得欢呼？看到这条微博的您应直接访问网页链接马上用起来，也有移动 APP。
2025-02-06
trae 推荐安装那个版本的 vscode插件
在 Trae 中安装 VS Code 插件可以通过以下方式： 1. 从 Trae 的插件市场安装： 在左侧导航栏中，点击插件市场图标，界面左侧显示插件市场面板。 搜索您想要的插件并在未安装列表中将其选中，界面上显示该插件的详情窗口，展示该插件的详细说明、变更日志等信息。 点击安装，Trae 开始安装该插件。安装完成后，该插件会出现在已安装列表中。 2. 从 VS Code 的插件市场安装： 前往。 搜索您想要的插件，例如：Pylance。 在搜索结果中，点击您所需的插件，您会前往该插件的详情页。 在详情页中，点击 Version History。 结合插件页的 URL 和 Version History 中的信息，提取出以下信息（以 Pylance 为例）： itemName：URL Query 中的 itemName 字段，如截图中的 mspython.vscodepylance，并将小数点（.）前后的内容分成以下两个字段： fieldA：mspython fieldB：vscodepylance version：如截图中的 2025.1.102 使用提取出来的 3 个字段的值替换下方 URL 中的同名字段。 在浏览器中输入修改后的 URL，然后按下回车键，浏览器开始下载该插件。 下载完成后，返回 Trae 并打开插件市场。 将下载的.vsix 文件拖拽至插件市场面板中，Trae 开始自动安装该插件。安装完成后，该插件会出现在已安装列表中。 此外，如果 VS Code 插件市场中某个版本的插件依赖了新版 VS Code 中的某些接口，则可能会导致该插件与 Trae 不兼容。您可以查看该插件的 Version History，然后下载该插件的历史版本。 管理插件还包括禁用插件和卸载插件： 1. 禁用插件： 在 Trae 中，打开插件市场。 在已安装列表中，找到需禁用的插件。 鼠标悬浮至列表中的插件，然后点击设置>禁用。或点击该插件以打开其详情窗口，然后点击禁用。 2. 卸载插件： 在 Trae 中，打开插件市场。 在已安装列表中，找到需卸载的插件。 鼠标悬浮至该插件，然后点击卸载。或点击该插件以打开其详情窗口，然后点击卸载。
2025-04-19
comfyui如何本地安装
以下是在本地安装 ComfyUI 的详细步骤： 安装方式有两种，分别是安装到本地和安装到云端。本部分主要介绍本地安装方法。 本地安装方法： 1. 命令行安装： 这是普适性最强的方法，安装后二次遇到问题的概率相对较低，但对于不熟悉命令行以及代码的用户来说，可能会有一定的门槛。 ComfyUI 的源码地址在：https://github.com/comfyanonymous/ComfyUI ，安装方法写在了 Readme 中。您也可以按照 Readme 文档进行操作。 如果会 Git 请在 Terminal 运行以下代码： 如果不会用 Git，推荐使用 Github 的客户端（https://desktop.github.com/）拉代码。 下载并安装好 Github Desktop 后，打开该应用。 然后打开 ComfyUI 的 Github 页面（https://github.com/comfyanonymous/ComfyUI），点击右上角的绿色按钮，并点击菜单里的「Open with GitHub Desktop」，此时浏览器会弹出是否要打开 GitHub Desktop，点击「是」。 GitHub Desktop 会让您选择一个保存位置，按需调整，然后点击确定。看到下方特定界面，意味着完成了代码同步。 2. 安装包安装： 这种方法安装比较简单，下载就能用。 ComfyUI 的官方安装包：目前仅支持 Windows 系统，且显卡必须是 Nivida。下载地址是：https://github.com/comfyanonymous/ComfyUI/releases ，只需下载最新的版本，解压就能使用。 安装完成后： 1. 节点存放目录：comfyUI 的节点包括后面安装的拓展节点都存放在本目录下：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\custom_nodes 2. 模型存放目录： 大模型：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\checkpoints Lora：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\loras Vae：D:\\COMFYUI\\ComfyUI_windows_portable\\ComfyUI\\models\\vae 3. 模型共用：已经安装了 SDWebUI 的同学可以通过修改文件路径和 WebUI 共用一套模型即可，这样就不用重复下载模型了。找到您已经安装好的 ComfyUI 目录文件下的 extra_model_paths.yaml.example 文件，将后缀.example 删除，然后右键用记事本打开。 希望以上内容对您有所帮助。
2025-04-10
python环境安装
以下是 Python 环境安装的步骤： 1. 点击电脑“系统”，直接输入“cmd”，点击回车，打开命令窗口。 2. 在命令窗口中，粘贴入以下代码，确认是否有 Python 和 pip。 3. 两步命令输入完，核对一下： 如果有的话，会分别显示出版本号。那么可以跳过“安装环境这一步，直接到“二、部署项目”。 如果没有的话，需要进行安装。 4. 安装 Python： 对于 Windows 系统，可以点击以下链接下载安装包： （有小伙伴说下载不了，可去公众号【Equity AI】回复“HOOK”获取下载地址：https://www.wenshushu.cn/f/ec5s5x1xo3c） 对于 Mac 系统，可以点击以下链接下载安装包： 5. 安装注意： 安装时务必勾选"Add Python to PATH"选项。 建议使用默认安装路径。 6. 安装完成后，关闭窗口，再次运行之前的两行命令确认是否安装成功。
2025-04-08
学习python为什么要安装pandas，juptyer
学习 Python 安装 pandas 和 Jupyter 的原因如下： 数据处理基础：pandas 是 Python 的核心数据分析支持库，提供了快速、灵活、明确的数据结构，旨在简单、直观地处理关系型、标记型数据。在数据处理中，如读取数据（pd.read_csv）等操作都依赖于 pandas 库。 开发环境：Jupyter Notebook 是一种交互式的编程环境，非常适合进行数据分析和探索性编程。它可以让您逐段运行代码，方便查看中间结果，并且能够将代码、文本和图像等内容整合在一个文档中，有助于更好地理解和展示数据分析的过程和结果。代码也适合在其他 IDE（如 PyCharm、VS Code）中运行。 在一些实践项目中，如基于泰坦尼克号数据集绘制堆叠柱状图及搭建预测模型、用 Kaggle 的天气数据集绘制气温趋势折线图与月降雨天数柱状组合图、鸢尾花数据多维分布探索与交互可视化实践等，都需要 Python 基础与环境配置，包括通过 pip 安装 pandas 库，以及在 Jupyter Notebook 或其他 IDE 中运行代码。
2025-04-08
trae如何安装
以下是 Trae 的安装步骤： 1. 由于 Trae AI 官网部署在海外，且其本身需要使用海外的大模型，所以需要通过 VPN 等方式科学上网。 2. 在官网（https://www.trae.ai/download）直接点击下载，Trae 会自动识别您的电脑芯片。 3. 下载完成后，如果是 Mac 系统，将左侧的 Trae 应用拖动到右侧的文件夹内；如果是 Windows 系统，双击 Trae 图标，即可完成安装。 4. 安装完成后，点击图标启动，进行以下简单设置： 选择主题背景和默认语言，可选择中文。 对于提供的 Cursor、VS Code 等其他 AI 编程工具的配置和插件迁移，如果是第一次使用类似工具，可直接点“Skip”选项。 对于不理解意思的设置，直接点“Skip”选项。 5. 选择合适的登录方式，登录方式包括 Google 账号登录、Github 账号登录、邮箱登录。如果没有账号，可新注册一个账号。推荐有余力的用户访问 Github 官网（https://github.com/）注册。 注意：Trae 仅在部分地区可用，可能需要开启科学上网。登录完之后，若出现“App Unavailable”提示，可能是所在地区不可用，此时需要开启科学上网。网页登录成功之后可以把科学上网关掉。
2025-04-08
我是一位程序开发小白，不会用代码开发程序。我现在有一台安装Window 11操作系统的笔记本电脑，配置为14代i7CPU、32G内存、1TB硬盘、1张RTX4070显卡。我想部署一套本地的大模型＋智能体＋知识库。我要怎么样才能实现无代码部署，请列出详细的安装步骤。
以下是为您提供的无代码部署本地大模型、智能体和知识库的详细安装步骤： 1. 硬件评估：您的笔记本电脑配置为 14 代 i7 CPU、32G 内存、1TB 硬盘、1 张 RTX4070 显卡，基本满足部署要求。但需要注意，运行内存最低 32GB，越高越好，最低配可能会经常爆显存。建议将软件和模型部署在 SSD（固态硬盘）上，以提高加载模型的速度。 2. 选择合适的部署工具：ComfyUI 是一个相对配置要求较低、系统资源占用少、出图速度快的工具。它最低可在小于 3G 的 GPU 上运行，甚至没有 GPU 光用 CPU 也可以，但速度极慢。SDXL 出来后提高了运行配置，最低需要 8GB 显存+32GB 运行内存，12GB 流畅运行，推荐 16GB 以上。 3. 安装准备：如果您的电脑能顺畅清晰地玩 3A 游戏，那么运行相关部署工具一般也没问题。 4. 预算和需求：根据您的需求和预算来选择合适的配置。例如，如果有做 AIGC 视频、建模渲染和炼丹（lora）的需求，可能需要更高的配置。 请注意，以上步骤仅为参考，实际部署过程可能会因具体情况而有所不同。
2025-03-26