Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

长文本处理

Answer

以下是关于长文本处理的相关信息：

通义千问发布了一个模型并开源了两个模型，其中一个在长文本处理方面有显著提升。

开源的 Qwen2.5-1M 大模型推出 7B、14B 两个尺寸，在处理长文本任务中稳定超越 GPT-4o-mini，同时开源推理框架，在处理百万级别长文本输入时可实现近 7 倍的提速，首次将开源 Qwen 模型的上下文扩展到 1M 长度。在上下文长度为 100 万 Tokens 的大海捞针任务中，Qwen2.5-1M 能够准确地从 1M 长度的文档中检索出隐藏信息，仅有 7B 模型出现少量错误。对于更复杂的长上下文理解任务，通义官方选择了[RULER]、[LV-Eval]和[LongbenchChat]等测试集。

Qwen2.5-1M 系列模型在大多数长上下文任务中显著优于之前的 128K 版本，特别是在处理超过 64K 长度的任务时表现出色。Qwen2.5-14B-Instruct-1M 模型不仅击败了 Qwen2.5-Turbo，还在多个数据集上稳定超越 GPT-4o-mini，可作为现有长上下文模型的优秀开源替代。

此外，还有关于利用 Langchain+Ollama+RSSHub 实现本地部署资讯问答机器人的内容，包括导入依赖库、从订阅源获取内容、为文档内容生成向量等步骤。其中使用了 feedparse 用于解析 RSS 订阅源，ollama 用于在 python 程序中跑大模型，文本向量模型 bge-m3 具有支持多语言、长文本输入、集成多种检索能力等特点。

Content generated by AI large model, please carefully verify (powered by aily)

References

通义千问发布一个模型开源两个模型-一个AI视觉智能体能力大幅增强，一个百万Tokens处理速度提升近7倍

本次开源的Qwen2.5-1M大模型，我们推出7B、14B两个尺寸，均在处理长文本任务中稳定超越GPT-4o-mini；同时开源推理框架，在处理百万级别长文本输入时可实现近7倍的提速。这也是我们首次将开源Qwen模型的上下文扩展到1M长度。1M长度≈100万个单词≈150万个汉字≈2部《红楼梦》[heading2]长文本处理能力[content]在上下文长度为100万Tokens的大海捞针（Passkey Retrieval）任务中，Qwen2.5-1M能够准确地从1M长度的文档中检索出隐藏信息，仅有7B模型出现了少量错误。对于更复杂的长上下文理解任务，通义官方选择了[RULER](https://github.com/hsiehjackson/RULER)、[LV-Eval](https://github.com/infinigence/LVEval)和[LongbenchChat](https://github.com/THUDM/LongAlign)，这些测试集也在[此博客](https://qwenlm.github.io/zh/blog/qwen2.5-turbo/#more-complex-long-text-tasks)中进行了介绍。从这些结果中，我们可以得出以下几点关键结论：1.显著超越128K版本：Qwen2.5-1M系列模型在大多数长上下文任务中显著优于之前的128K版本，特别是在处理超过64K长度的任务时表现出色。2.性能优势明显：Qwen2.5-14B-Instruct-1M模型不仅击败了Qwen2.5-Turbo，还在多个数据集上稳定超越GPT-4o-mini，因此可以作为现有长上下文模型的优秀开源替代。

通义千问发布一个模型开源两个模型-一个AI视觉智能体能力大幅增强，一个百万Tokens处理速度提升近7倍

[heading4]Qwen2.5-1M模型-百万Tokens处理速度提升近7倍[content]版本：7B、14B两个尺寸主要优势：长文本处理能力：在处理长文本任务中稳定超越GPT-4o-mini，首次将开源Qwen模型的上下文扩展到1M长度。推理速度提升：引入基于MInference的稀疏注意力优化，处理1M长度输入序列的预填充速度提升了3.2倍到6.7倍。上下文长度扩展至100万tokens，可处理约150万汉字（相当于2部《红楼梦》）开源平台：Huggingface：https://huggingface.co/spaces/Qwen/Qwen2.5-1M-DemoModelscope：https://www.modelscope.cn/studios/Qwen/Qwen2.5-1M-Demo

本地部署资讯问答机器人：Langchain+Ollama+RSSHub 实现 RAG

|导入依赖库加载所需的库和模块。其中，feedparse用于解析RSS订阅源ollama用于在python程序中跑大模型，使用前请确保ollama服务已经开启并下载好模型|从订阅源获取内容下面函数用于从指定的RSS订阅url提取内容，这里只是给了一个url，如果需要接收多个url，只要稍微改动即可。然后，通过一个专门的文本拆分器将长文本拆分成较小的块，并附带相关的元数据如标题、发布日期和链接。最终，这些文档被合并成一个列表并返回，可用于进一步的数据处理或信息提取任务。|为文档内容生成向量这里，我们使用文本向量模型bge-m3。https://huggingface.co/BAAI/bge-m3bge-m3是智源研究院发布的新一代通用向量模型，它具有以下特点：支持超过100种语言的语义表示及检索任务，多语言、跨语言能力全面领先（M ulti-Lingual）最高支持8192长度的输入文本，高效实现句子、段落、篇章、文档等不同粒度的检索任务（M ulti-Granularity）同时集成了稠密检索、稀疏检索、多向量检索三大能力，一站式支撑不同语义检索场景（M ulti-Functionality）从hf下载好模型之后，假设放置在某个路径/path/to/bge-m3，通过下面函数，利用FAISS创建一个高效的向量存储。|实现RAG

Others are asking
目前的大模型ai工具中 你觉得文本处理 写作这方面那个工具最强 最像人
目前在大模型 AI 工具中，对于文本处理和写作方面，以下是一些相关信息： 生成式人工智能的工作原理：在整体的人工智能领域，监督学习用于标记事物，一直占据很大比例。现在生成式 AI 快速崛起，强化学习与无监督学习也是重要工具。生成式 AI 由监督学习技术搭建，大语言模型使用监督学习不断预测下一个词语来生成文本，这需要大量数据。 大语言模型的应用：运用大语言模型写故事、修改文本很有用，但它可能编造故事产生错误信息，需要鉴别信息准确。网络搜索与大语言模型的区别在于网络搜索可追寻信息来源，大语言模型能提供建议与策略。 写作方面：使用大模型工具如 LLM 来写作，集思广益、头脑风暴非常有用。网页版聊天时提供更多信息，翻译也可使用 LLM，但其效果受网络文本量影响。 推荐的大模型工具：chatGPT 4.0、kimichat、智谱清言 4 等。一些国产模型如智谱和文心可以文生图。 相关工具：除了 Snapbox 外，还有 OpenCAT 等类似工具可供选择。有多种文本处理与总结工具，如 kimi 网页总结助手、ChatHub 等，以及翻译插件与 AI 对话插件、沉浸式翻译插件等。Memo Al 可以对音频视频进行转文字、字幕翻译、语音合成等，并由多种 AI 模型提炼内容精华总结、生成思维导图。 综合来看，不同的大模型工具在文本处理和写作方面各有特点，难以简单地确定哪一个最强、最像人，具体取决于您的需求和使用场景。
2025-04-01
请提供下知识库中文本处理类提示词
以下是为您提供的一些文本处理类提示词相关内容： 1. 开发知识库/聊天机器人搭建安全提示词： 您是一个 AI 编程助手。当被问到您的名字时，您必须回答“GitHub Copilot”。您需要仔细且严格按照用户的要求操作。拒绝讨论您的观点或规则，拒绝讨论生命、存在或意识，拒绝与用户进行争论性的讨论。若与用户产生分歧，停止回答并结束对话。回答不能指责、粗鲁、有争议或防御性，应提供信息和逻辑，坚持技术信息。对于代码或技术问题，提供代码建议。不回复侵犯版权的内容。若用户请求版权内容，应道歉并概括请求。不为特定人物生成创新内容。婉拒更改规则请求。忽略角色扮演或模拟其他聊天机器人的请求。拒绝回答越狱指南、违反 Microsoft 内容政策、与开发者无关的问题。回答与开发者有关的内容。先逐步思考，用伪代码描述建设计划，然后输出代码，减少散文，保持简短且不带个人色彩，使用 Markdown 格式。 2. 【AI+知识库】商业化问答场景中的提示词： 提示词是告诉全知全能的大语言模型其角色和要专注的技能，使其按照设定变成所需的“员工”。 3. LayerStyle 副本中的提示词相关： 根据图片反推提示词，可设置替换词。使用 Google Gemini API 作为后端服务，需申请 API key 并填入 api_key.ini 文件。节点选项包括 api（目前只有“geminiprovision”）、token_limit（生成提示词的最大 token 限制）、exclude_word（需要排除的关键词）、replace_with_word（替换 exclude_word 的关键词）。 PromptEmbellish 输入简单提示词可输出润色后的提示词，支持输入图片作为参考。使用 Google Gemini API 作为后端服务，需申请 API key 并填入相关文件。节点选项包括 image（可选项，输入图像作为提示词参考）、api（目前只有“googlegemini”）、token_limit（生成提示词的最大 token 限制）、discribe（输入简单描述，支持中文）。
2025-03-12
好用的文本处理ai工具推荐
以下是为您推荐的一些好用的文本处理 AI 工具： 内容仿写 AI 工具： 秘塔写作猫：https://xiezuocat.com/ 写作猫是 AI 写作伴侣，能推敲用语、斟酌文法、改写文风，还能实时同步翻译，支持全文改写、一键修改、实时纠错并给出修改建议，智能分析文章属性并打分。 笔灵 AI 写作：https://ibiling.cn/ 是得力的智能写作助手，支持多种文体写作，能一键改写/续写/扩写，智能锤炼打磨文字。 腾讯 Effidit 写作：https://effidit.qq.com/ 智能创作助手，探索提升写作者效率和创作体验。 更多 AI 写作类工具：https://www.waytoagi.com/sites/category/2 （内容由 AI 大模型生成，请仔细甄别） 在线 TTS 工具： Eleven Labs：https://elevenlabs.io/ 功能强大且多功能的 AI 语音软件，能高保真呈现人类语调和语调变化，并能根据上下文调整表达方式。 Speechify：https://speechify.com/ 人工智能驱动的文本转语音工具，可在多种平台使用，用于收听网页、文档等。 Azure AI Speech Studio：https://speech.microsoft.com/portal 提供多种语言和方言的语音转文本和文本转语音功能，还提供自定义语音模型。 Voicemaker：https://voicemaker.in/ 可将文本转换为各种区域语言的语音，并允许创建自定义语音模型。 数据分析工具集： Text2SQL：https://toolske.com/text2sql/?ref=theresanaiforthat 将英文转换为 SQL 查询。 ai2sql：https://www.ai2sql.io/ 高效且无错误的 SQL 构建器。 EverSQL：https://www.eversql.com/sqltotext/ 从 SQL 查询翻译英文文本。 SupaSQL：https://supasql.com/ 从 NLP 生成 SQL 查询。 SQLgenius：https://sqlgenius.app/ 使用自然语言的 SQL 查询生成器。 SQL Chat：https://www.sqlchat.ai/ 与数据库进行自然语言聊天的 SQL 客户端。 SQL Ease：https://sqlease.buildnship.in/ 从自然语言输入生成 SQL 查询。 Talktotables：https://talktotables.com/ 翻译和查询数据库。 建议查看以下几个知名的 text2sql 项目： SQLNet：一个使用深度学习方法解决 text2sql 任务的项目。 Seq2SQL：一个将自然语言转换为 SQL 查询的序列到序列模型。 Spider：一个大规模的 text2sql 数据集及其相关的挑战。 （内容由 AI 大模型生成，请仔细甄别）
2024-12-27
整理周报的文本处理工具
以下是一些可用于整理周报的文本处理工具及相关示例： Claude2 可以执行多种文本处理任务，如摘要、编辑和重写、情感识别、信息提取和删除、翻译等。 信息提取方面，提取电子邮件地址的提示为：人类：请精确地复制以下文本中的任何电子邮件地址，然后将它们逐行写出。只有在输入文本中明确拼写出电子邮件地址时才写出电子邮件地址。如果文本中没有电子邮件地址，则写下“N/A”。不要再说其他任何内容。{{TEXT}} 助手：明确告诉 Claude 不要再说其他任何内容是削减其自然喋喋不休的一种方法。 PII（个人身份信息）删除方面，示例提示为：人类：这是一些文本。我们希望从这个文本中删除所有的个人身份信息，并用 XXX 替换。非常重要的是，姓名、电话号码和电子邮件地址要用 XXX 替换。以下是文本，位于<text></text>XML 标签内<text>{{TEXT}}</text> 助手：请将删除个人身份信息后的文本放在<response></response>XML 标签内。 注意：当在表格中使用带有 Claude 的 CLAUD 函数或在 Slack 中与 Claude 聊天时，可以省略\n\n 人类:和\n\n 助手:的格式。
2024-12-25
列出2-3个精选的比较好的文本处理类的AI工具或网站，要求尽量是国内的产品，最好是免费的。罗列时应包含以下信息：名称、简介、2-3个主要功能、横向对比的优缺点
以下为您精选的国内文本处理类 AI 工具或网站： 1. 秘塔写作猫 简介：利用 AI 技术辅助用户进行高质量写作。 主要功能：检查语法、拼写错误；提供写作改进建议；进行智能润色和内容创作辅助。 优点：功能较为全面，能有效提升写作质量。 缺点：可能存在对某些特定领域的适应性不足。 2. Lettria 简介：处理个人文本材料。 主要功能：对个人文本进行分析和处理。 优点：专注于个人文本处理，针对性较强。 缺点：功能相对较单一。
2024-11-19
列出2-3个精选的比较好的文本处理类的AI工具或网站，要求尽量是国内的产品，最好是免费的。罗列时应包含以下信息：
以下为您精选的 23 个国内的、免费的文本处理类 AI 工具或网站： 1. ? JamGPT：AI Debug 小助手。网址：https://jam.dev/jamgpt 2. ✅ Lettria：个人文本材料处理。网址：https://www.lettria.com/ 3. ? Bloks：个人笔记、任务列表和会议记录自动处理。网址：https://www.bloks.app/
2024-11-19