Navigate to WaytoAGI Wiki →
Home/All Questions
部署
以下是关于不同场景下部署的相关信息: AutoDL 部署 One2345 部署条件:需要有英伟达 GPU 显卡,且运行内存大于 18G,建议使用 RTX3090 及以上显卡。需要有 Ubuntu 系统操作基础。 部署步骤: 挑选设备:在 AutoDL 上挑选符合需求的设备,如 RTX4090/24GB。 镜像选择:选择与原作者要求相同的环境版本,如 PyTorch 2.0.1 与 cuda_11.8。 控制台打开设备:关机后想开机,直接点击即可。 打开终端,部署环境+代码:代码在数据盘中操作,Conda activate 报错输入 conda init bash,然后重启终端。安装步骤原文见:https://github.com/One2345/One2345 。注意:Huggingface 需要代理。 【保姆级】Meta Llama 3 部署到电脑上(Ollama+Open WebUI) 下载 Open WebUI: Windows 电脑:点击 win+R,输入 cmd,点击回车。 Mac 电脑:按下 Command(⌘)+Space 键打开 Spotlight 搜索,输入“Terminal”或“终端”,然后从搜索结果中选择“终端”应用程序。 输入命令等待下载,完成后点击或复制地址进入浏览器:http://localhost:3000/auth/ ,进行注册登录,选择“llama3:8b”即可。 在 Amazon SageMaker 上部署 Llama 3 要将与 llama 交互,使用常见的 OpenAI 格式 messages。 注意:Llama 3 是一个有门槛的模型,请在提交表单前访问并接受许可条款和可接受的使用政策。创建 HuggingFaceModel 后,使用 deploy 方法将其部署到 Amazon SageMaker,使用 ml.p4d.24xlarge 实例类型部署模型,部署可能需要 1015 分钟。
2025-03-27
本地部署
SDXL 的本地部署步骤如下: 1. 模型下载:SDXL 的大模型分为两个部分,第一部分 base + refiner 是必须下载的,base 是基础模型用于文生图操作,refiner 是精炼模型用于细化图片生成细节更丰富的图片;还有一个配套的 VAE 模型用于调节图片的画面效果和色彩。您可以关注公众号【白马与少年】,回复【SDXL】获取下载链接。 2. 版本升级:在秋叶启动器中将 webUI 的版本升级到 1.5 以上。 3. 放置模型:将 base 和 refiner 放在“……\\sdwebuiakiv4.2\\models\\Stablediffusion”路径下,vae 放在“……\\sdwebuiakiv4.2\\models\\VAE”路径下。 4. 启动使用:启动 webUI,在模型中即可看到 SDXL 的模型。正常使用时,先在文生图中使用 base 模型填写提示词和常规参数生成图片,然后将图片发送到图生图中切换大模型为“refiner”重绘。对于不想在两个界面来回操作的情况,可以安装 refine 插件,在文生图界面直接使用 refine 模型。 另外,关于本地部署资讯问答机器人,实现 Langchain + Ollama + RSSHub 的 RAG 需: 1. 导入依赖库:加载所需的库和模块,如 feedparse 用于解析 RSS 订阅源,ollama 用于在 python 程序中跑大模型(使用前确保 ollama 服务已开启并下载好模型)。 2. 从订阅源获取内容:从指定的 RSS 订阅 url 提取内容,通过专门的文本拆分器将长文本拆分成较小的块,并附带相关元数据,最终合并成列表返回。 3. 为文档内容生成向量:使用文本向量模型 bgem3(https://huggingface.co/BAAI/bgem3),从 hf 下载好模型放置在指定路径,通过函数利用 FAISS 创建高效的向量存储。
2025-03-27
怎么本地部署ai模型,并进行微调
以下是本地部署 AI 模型并进行微调的主要步骤: 1. 选择合适的部署方式:包括本地环境部署、云计算平台部署、分布式部署、模型压缩和量化、公共云服务商部署等,根据自身的资源、安全和性能需求进行选择。 2. 准备训练所需的数据和计算资源:确保有足够的训练数据覆盖目标应用场景,并准备足够的计算资源,如 GPU 服务器或云计算资源。 3. 选择合适的预训练模型作为基础:可以使用开源的预训练模型如 BERT、GPT 等,也可以自行训练一个基础模型。 4. 针对目标任务进行模型微调训练:根据具体应用场景对预训练模型进行微调训练,优化模型结构和训练过程以提高性能。 5. 部署和调试模型:将训练好的模型部署到生产环境,对部署的模型进行在线调试和性能优化。 6. 注意安全性和隐私保护:大模型涉及大量数据和隐私信息,需要重视安全性和合规性。 此外,关于本地部署还有以下相关内容: 如果拥有云服务器如何进行本地部署,以及满血版本地部署的实际情况。 在 freely.aliyun.com 可领取 500 元免费额度,但有使用限制,不能部署满血版和较大的增流模型。 介绍了 DLC、DSW 和 EAS 等模型部署平台服务的差别。 会带着大家复现模型的蒸馏和微调,并讲解相关知识。 PaaS 平台支持多机分布式部署,满足推理性能要求,使用独占资源和专有网络,能一站式完成模型蒸馏。 登录 Pad 控制台,通过 model gallery 进行部署,如 Deepseek R1 模型,可选择 SG 浪或 Vim 推理框架,根据资源出价,部署后可在模型在线服务 EAS 查看状态。 介绍了模型 API 的调用方法,包括查找位置、获取 token 等,强调使用后要及时停止或删除服务以避免持续付费。 总的来说,部署和训练自己的 AI 模型需要综合考虑多方面因素,包括部署方式、数据准备、模型训练、部署调试以及安全性等。需要根据具体需求选择合适的方法,并注意优化各个环节以提高模型性能和应用效果。
2025-03-27
目前比较好用的编程辅助工具有哪些
以下是一些比较好用的编程辅助工具: 1. GitHub Copilot:由GitHub联合OpenAI和微软Azure团队推出,支持多种语言和IDE,能为程序员快速提供代码建议,帮助更快、更少地编写代码。 2. 通义灵码:阿里巴巴团队推出,基于通义大模型,提供行级/函数级实时续写、自然语言生成代码等多种能力。 3. CodeWhisperer:亚马逊AWS团队推出,由机器学习技术驱动,可为开发人员实时提供代码建议。 4. CodeGeeX:智谱AI推出的开源免费AI编程助手,基于130亿参数的预训练大模型,能快速生成代码提升开发效率。 5. Cody:代码搜索平台Sourcegraph推出,借助强大的代码语义索引和分析能力,了解开发者的整个代码库。 6. CodeFuse:蚂蚁集团支付宝团队为国内开发者提供的免费AI代码助手,基于自研的基础大模型微调的代码大模型。 7. Codeium:由AI驱动,通过提供代码建议、重构提示和代码解释帮助软件开发人员提高编程效率和准确性。 更多辅助编程AI产品,还可以查看这里:https://www.waytoagi.com/category/65 。每个工具的功能和适用场景可能不同,您可以根据自己的需求选择最适合的工具。 另外,Cursor也是一款好用的AI编程工具,它是一个现代化的集成开发环境,专为人工智能辅助编程而设计,具有AI辅助编码、代码自动补全、实时代码分析、多语言支持、集成终端、Git集成、自定义主题、跨平台、性能优化和实时协作等特点。您可以通过https://www.cursor.com/链接进入其产品主页下载。 在开发过程中,还可以利用AI辅助编程工具探索新的功能与技术,比如: 1. 更复杂的动画效果:实现宠物的动态行为,如当鼠标靠近宠物时做出躲避或好奇的动作,宠物在屏幕上随机游走,使用PyQt5的QGraphicsView和QGraphicsScene或引入外部动画资源实现更复杂的动画。 2. 智能交互功能:结合语音合成库让宠物通过语音提醒用户,使用自然语言处理库让宠物能够理解用户的语音指令。 3. 数据持久化与个性化:使用sqlite3或QSettings保存用户设置,添加用户账户系统。 4. 跨平台与云同步:确保程序在不同系统上正常运行并实现云同步功能。
2025-03-27
ai生成ppt工具
以下是为您介绍的 AI 生成 PPT 工具相关内容: 背景: 作者熊猫 Jay 因企业内部要求编写此文章做内部培训并公开分享。无论您是 PPT 专家还是新手,都希望通过 AI 工具更高效地制作 PPT 满足不同需求、提高工作效率。AI 工具提供多种精美 PPT 模板,能节省组织内容和编排思路的时间,让 PPT 兼具专业感和个性。 工具推荐: 目前市面上受欢迎的 5 款 AI PPT 工具包括:MindShow、爱设计、闪击、Process ON、WPS AI。 生成思路: 大多数 AI 生成 PPT 按照以下思路完成设计和制作: 1. AI 生成 PPT 大纲 2. 手动优化大纲 3. 导入工具生成 PPT 4. 优化整体结构 扩展阅读: 1. 《》 2. 《》 总结: AI 为 PPT 制作带来便捷高效体验。了解了五大 AI PPT 工具各自的特色和适用场景,选择工具要根据实际需求调整,试用和体验比盲目跟风更明智。AI 赋能办公势在必行。 联系作者: 公众号:熊猫 Jay 字节之旅;免费星球:熊猫 Jay·AI·成长。
2025-03-27
现在deepseek从普通用户的层面,相比于其他模型,优势有哪些
DeepSeek 对于普通用户的优势包括: 1. 国产之光,在国内被广泛接入和使用。 2. 生成代码的质量可与国外顶尖大模型媲美。 3. 深度思考版本 DeepSeek R1 基于强化学习 RL 的推理模型,在回答用户问题前会先进行“自问自答”式的推理思考,提升回答质量。其“聪明”源于独特的“教育方式”,率先进入“自学成才”新阶段。 4. 思考与表达能力出色,在思考过程和输出结果的语气、结构、逻辑上表现优秀,碾压其他模型。 然而,DeepSeek 也存在一些不足,例如对于协助编程,其最大的上下文长度只有 64k,较短,导致无法处理更长的上下文和更复杂的代码项目。
2025-03-27
如何用AI生成流程图
以下是几种使用 AI 生成流程图的方法: 1. 使用 Lucidchart 生成项目管理流程图: 注册并登录:。 选择模板:在模板库中搜索“项目管理流程图”。 编辑图表:根据项目需求添加和编辑图形和流程步骤。 优化布局:利用 AI 自动布局功能,优化图表的外观。 保存和分享:保存图表并与团队成员分享,或导出为 PDF、PNG 等格式。 2. 使用 Midjourney 生成 B 端产品页面的流程图: 图片描述:把找到的设计参考图上传到 Midjourney 中,得到一个专属的链接,再使用「参考图链接+文本描述」的方式生成图像。 使用方法:例如想得到一个带有交互流程的 UI 界面图,先把找好的素材图上传到 Midjourney 中。在 Midjourney 中复制参考图的链接再加上文字提示,如「参考图链接+node UI」,就能得到和参考图很类似的设计图。如果想要纯正面、扁平效果的设计流程图,可以继续调整文字提示,如「参考图链接+flat UI,node UI,frontal」。如果想要手绘风格、黑白风格的交互设计图,在文字提示中加入「参考图链接+node UI,drawing style,frontal,black and white,flat UI,2D,no shadow」。 加入参数:Midjourney 生成的图默认是正方形,如果想得到其他比例的图,需要在文字描述中加入特定的参数来做到这一点,如「aspect」或「ar」。比例为 9:16 的设计图,使用提示「参考图链接+node UI,black and whitear 9:16」;或者 16:9 的图「参考图链接+node UI,ar 16:9」。 组件设计:Midjourney 的作用不同于设计软件,利用 AI 能在几秒钟内得到很有创造力的图像,这些设计图能为后面的设计提供更多灵感。除了生成整张的设计图,还可以扩宽思路,利用 AI 输出多种风格的设计组件,探索更多设计风格的可能性。例如,扁平组件系统的关键词:「UI kit,flat design,outline,ar 16:9」。 3. 使用 ChatGPT 生成各种流程图、时序图等: 确定制作目标:明确要生成的流程图类型,如时序图或流程图。 通过自然语法描述逻辑:用自然语言描述生成 Mermaid 图形语法。 在线校验测试是否成功:最后测试生成的图形是否符合预期。
2025-03-27
我想用ai生成网站的特效,应该使用哪些ai产品
以下是一些可以用于生成网站特效的 AI 产品: 1. Looka:在线 Logo 设计平台,使用 AI 理解用户品牌信息和设计偏好,生成多个 Logo 设计方案供选择和定制。 2. Tailor Brands:AI 驱动的品牌创建工具,通过用户回答问题生成 Logo 选项。 3. Designhill:其 Logo 制作器使用 AI 技术创建个性化 Logo 设计,用户可选择元素和风格。 4. LogoMakr:提供简单易用的 Logo 设计工具,用户可拖放设计并利用 AI 建议。 5. Canva:广受欢迎的在线设计工具,提供 Logo 设计模板和元素,有 AI 辅助设计建议。 6. LogoAI by Tailor Brands:Tailor Brands 推出的 AI Logo 设计工具,根据输入快速生成方案。 7. 标小智:中文 AI Logo 设计工具,利用人工智能技术帮助创建个性化 Logo。 另外,以下产品也可能对生成网站特效有帮助: 1. Dora AI:可以通过一个 prompt,借助 AI 3D 动画生成强大网站,支持文字转网站、生成式 3D 互动、高级 AI 动画。 2. Magic Editor for Google Photos:可对照片进行局部修改。 3. MusicLM:文本生成音乐,当前可在 AI Test Kitchen with Google 试用。 4. Gen AI for Android Magic Compose:自动回复信息;Gen AI for Wallpaper 可生成手机壁纸。 5. ML Hub for Developers:提供 ML 模型训练与部署一站式服务。 6. Immersive View for Google Map:仿真 3D 沉浸式地图。 7. 「Help me write」in Gmail:电子邮件写作助手(文字生成)。 您可以访问相关网站获取更多详细信息和试用这些产品。
2025-03-27
我需要写一份AI赋能企业办公的PPT,请问可以帮助我吗?
以下是为您提供的关于 AI 赋能企业办公制作 PPT 的相关信息和建议: 目前市场上有一些好用的 AI PPT 工具: 1. Gamma:在线 PPT 制作网站,可通过输入文本和想法提示快速生成幻灯片,支持嵌入多媒体格式,如 GIF 和视频,网址:https://gamma.app/ 2. 美图 AI PPT:由美图秀秀团队推出,通过输入简单文本描述生成专业设计,包含丰富模板库和设计元素,适用于多种场合,网址:https://www.xdesign.com/ppt/ 3. Mindshow:AI 驱动的 PPT 辅助工具,提供自动布局、图像选择和文本优化等智能设计功能,网址:https://www.mindshow.fun/ 4. 讯飞智文:科大讯飞推出的 AI 辅助文档编辑工具,利用语音识别和自然语言处理技术,提供智能文本生成、语音输入、文档格式化等功能,网址:https://zhiwen.xfyun.cn/ 此外,还有一些相关的研究报告和文章可供参考: 1. 《》:介绍 AiPPT 是爱设计推出的 AI 大模型与 PPT 场景深度结合的产品,能一键生成专业 PPT 并提供丰富模板。 2. 熊猫 Jay 的文章:超全的 AI 工具生成 PPT 的思路和使用指南,文中介绍了市面上受欢迎的 5 款 AI PPT 工具,包括 MindShow、爱设计、闪击、Process ON、WPS AI。原文:https://mp.weixin.qq.com/s/uVoIIcePa7WTx7GNqkAPA 公众号:熊猫 Jay 字节之旅 希望以上信息对您制作 AI 赋能企业办公的 PPT 有所帮助。
2025-03-27
ai的好用pdf工具有哪些
以下是一些好用的 AI 相关 PDF 工具: 1. DeepL(网站):点击页面「翻译文件」按钮,上传 PDF、Word 或 PowerPoint 文件即可。 2. 沉浸式翻译(浏览器插件):安装插件后,点击插件底部「更多」按钮,选择「制作双语 BPUB 电子书」、「翻译本地 PDF 文件」、「翻译 THML/TXT 文件」、「翻译本地字幕文件」。 3. Calibre(电子书管理应用):下载并安装 calibre,并安装翻译插件「Ebook Translator」。 4. 谷歌翻译(网页):使用工具把 PDF 转成 Word,再点击谷歌翻译「Document」按钮,上传 Word 文档。 5. 百度翻译(网页):点击导航栏「文件翻译」,上传 PDF、Word、Excel、PPT、TXT 等格式的文件,支持选择领域和导出格式(不过进阶功能基本都需要付费了)。 6. 彩云小译(App):下载后点击「文档翻译」,可以直接导入 PDF、DOC、DOCX、PPT、PPTX、TXT、epub、srt 等格式的文档并开始翻译(不过有免费次数限制且进阶功能需要付费)。 7. 微信读书(App):下载 App 后将 PDF 文档添加到书架,打开并点击页面上方「切换成电子书」,轻触屏幕唤出翻译按钮。 内容由 AI 大模型生成,请仔细甄别。
2025-03-27