什么是LLM

直译:近期随着众多?的出现，一个更加完整的画面开始浮现：LLMs并不只是一个聊天机器人，而是新型Operating System的核心过程。例如，今天它协调：跨多种模式的输入与输出（文本，音频，视觉）代码解释器，具有编写和运行程序的能力浏览器/上网功能用于文件和内部内存存储与检索的嵌入式数据库许多计算概念得以延续。目前，我们拥有运行在大约10Hz(tok/s)的单线程执行，并享受观看汇编级别执行的迹象流。计算机安全的概念也得以延续，伴随着攻击、防御和新兴的脆弱性。我还喜欢用“Operating System”的最近邻比喻，因为行业开始呈现出类似的趋势：Windows、OS X和Linux<->GPT、PaLM、Claude和Llama/Mistral(？)。一个OS自带默认应用程序，但也有一个应用商店。大多数应用可以适应多个平台。简而言之，将LLMs视为聊天机器人就像我们早期将计算机视为计算器一样。我们正目睹一个全新计算范式的兴起，而这只是开始。意译:近期，随着许多关键信息的公布，人们逐渐认识到LLMs不仅仅是个简单的聊天机器人，更像是新一代操作系统的“大脑”。例如，它如今可以：整合各种形式的信息输入与输出，包括文本、音频和图像解读代码，并有能力编写及执行程序浏览网页和上网拥有一种专门用于文件和内部数据存储与查找的系统这背后蕴含了丰富的计算理念。目前，这种技术的运作速度约为每秒10次（10Hz），我们也能直观地看到其执行过程的细节。与此同时，现有的计算机安全策略和对策也被纳入其中，以应对可能的威胁。

原创AI小智AI小智2023-12-07 08:10发表于湖北在之前的课程中，我带领小伙伴们使用开源项目实现了将星火模型的OpenAI-API接口适配转换封装，没有看过的小伙伴可以点击链接查看：[AI课程合集](https://mp.weixin.qq.com/mp/appmsgalbum?__biz=Mzg2ODA5NTM1OA==&action=getalbum&album_id=3115055723522015235#wechat_redirect)但是这种做法的局限性也很强，只能使用开源项目适配过的大模型，并且由于多了一层适配代理，接口的性能也存在一定损耗。今天，我将给大家介绍一个更加通用的方案，基于LangChain()平台提供的LLM基础模型，完成任意模型接口的封装。[heading2]LangChain与大模型交互的核心模型-LLM[content]LLM（语言逻辑模型）是LangChain平台与各种大模型进行交互的核心模型，它是一个抽象的概念，可以理解为一个能够处理语言输入和输出的黑盒。LLM的输入是一个字符串，表示用户的请求或问题，LLM的输出也是一个字符串，表示模型的回答或结果。LLM可以根据不同的输入，调用不同的大模型，来完成不同的语言任务，如文本生成、文本理解、文本翻译等。LLM的优势在于，它可以让开发者无需关心大模型的细节和复杂性，只需要关注语言的逻辑和意义，就可以利用大模型的能力来构建自己的应用。LLM也可以让开发者灵活地选择和切换不同的大模型，而无需修改代码或适配接口。LLM还可以让开发者自己封装自己的LLM，来实现自己的语言逻辑和功能。

简单来说，LLM是一种非常聪明的人工智能系统，它能够通过学习大量的文字数据来理解和生成自然语言。你可以把它想象成一个超级有知识的朋友，能够回答你的各种问题、写故事、甚至帮你完成作文。假设你有一个非常聪明的小朋友，在很小的时候，他就喜欢读书，而且读了很多很多书，比如童话书、科幻小说、历史书籍，还有各种百科全书。随着他读的书越来越多，他的知识越来越丰富，不仅能够轻松回答你提出的问题，还能自己编出有趣的故事来。这个聪明的小朋友就像一个大型语言模型。不同的是，LLM不是真人，而是一个计算机程序，它可以处理和学习海量的文字数据。这些数据可以来自互联网、书籍、文章等各个地方。LLM通过不断学习这些数据，逐步提升自己的语言理解和生成能力。再举一个使用搜索引擎查找某个问题的答案的例子。以前的搜索引擎可能只是简单地匹配关键词，给你一堆相关的网页链接。但是现在的搜索引擎背后可能就有LLM的支持，它不仅能理解你的问题，还能给出更准确、更完整的答案，有时甚至像一个真正的专家一样解答你的问题。总的来说：LLM（大型语言模型）是一种通过学习大量文本数据，能够理解和生成自然语言的人工智能系统。