大模型学习之路

通俗来讲，大模型就是输入大量语料，来让计算机获得类似人类的“思考”能力，使之能够理解自然语言，能够进行『文本生成』、『推理问答』、『对话』、『文档摘要』等工作。既然是学习，那我们就可以用『上学参加工作』这件事来类比大模型的训练、使用过程：1.找学校::训练LLM需要大量的计算，因此GPU更合适，因此只有购买得起大量GPU的贵族学校才有资本训练自己的大模型2.确定教材::大模型顾名思义就是大，需要的数据量特别多，几千亿序列（Token）的输入基本是标配3.找老师::即用什么样的算法讲述“书本”中的内容，让大模型能够更好理解Token之间的关系4.就业指导::学完书本中的知识后，为了让大模型能够更好胜任某一行业，需要进行微调（fine tuning）指导5.搬砖::就业指导完成后，下面就要正式干活了，比如进行一次翻译、问答等，在大模型里称之为推导（infer）在LLM中，Token([2])被视为模型处理和生成的文本单位。它们可以代表单个字符、单词、子单词，甚至更大的语言单位，具体取决于所使用的分词方法（Tokenization）。Token是原始文本数据与LLM可以使用的数字表示之间的桥梁。在将输入进行分词时，会对其进行数字化，形成一个词汇表（Vocabulary），比如：The cat sat on the mat，会被分割成“The”、“cat”、“sat”等的同时，会生成下面的词汇表：|Token|ID||-|-||The|345||cat|1256||sat|1726||…|…|

下图（图11）中的左下角展示了生物神经网络和人工神经网络的对比，早在初中生物课本上，我们就学习了解过大脑神经元细胞的基本结构，正是一个个这样的细胞彼此“手拉手”交织出一张庞大复杂的神经网络，让我们拥有了引以为傲的智能。计算机科学家/工程师们以此为灵感，利用概览模型很巧妙的在计算机上实现了对人脑这种结构的模仿，只不过由于计算机是在二进制下工作的，因而其每个神经元节点也更为简单（本质上只是将接受的输入进行了一些简单的加法和乘法运算，而后输出）。下图中关于激活函数（用来实现归一化操作）和概率模型的内容，不感兴趣的小伙伴可放心跳过，如果你想了解更多，可检索这些关键词并关注这篇发表于1957年的论文（https://www.ling.upenn.edu/courses/cogs501/Rosenblatt1958.pdf）。图11生物神经网络和人工神经网络事实上，正如人类大脑是一个混沌系统一样，大模型内部也是一个混沌系统，正如我们无法知道自己大脑里某个特定的神经元细胞存储着什么具体的信息或知识，即使是OpenAI的科学家，也同样也无法解释大模型内的微观细节。这种不确定带来的“不安感”让人有些不爽，但有一点似乎是确定的，那就是学习人类大脑结构的AI，不仅学去了我们身上的诸多优点，也学习了其他的特质，而这些特质，在许多实际应用中表现为了“缺陷”和“不足”。我们不妨带入自身，一起来尝试思考回答以下问题：问题1问题2问题3问题4（这是一句话，遮住了部分文字）问题5问题6我做过大量真实的调查：

旁白当你发现大模型的效果并没有你预期想的那么好时，你打算放弃但是你也听到了另一种声音：如果大模型没有你想的那么好，可能是你没有了解他的能力边界。你不想就这么放弃，为了更好的理解大模型，你首先了解了他的创建过程[heading2]1.收集海量数据[content]想象一下，我们要教一个孩子成为一个博学多才的人。我们会怎么做？我们会让他阅读大量的书籍，观看各种纪录片，与不同背景的人交谈等。对于AI模型来说，这个过程就是收集海量的文本数据。例子：研究人员会收集互联网上的文章、书籍、维基百科条目、社交媒体帖子等各种文本数据。[heading2]2.预处理数据[content]在孩子开始学习之前，我们可能会先整理这些资料，确保内容适合他的年龄和学习能力。同样，AI研究人员也需要清理和组织收集到的数据。例子：删除垃圾信息，纠正拼写错误，将文本分割成易于处理的片段。[heading2]3.设计模型架构[content]就像我们要为孩子设计一个学习计划一样，研究人员需要设计AI模型的"大脑"结构。这通常是一个复杂的神经网络。这里我们就不展开了，我们只需要了解，为了让AI能够很好的学习知识，科学家们设计了一种特定的架构。例子：研究人员可能会使用Transformer架构，这是一种特别擅长处理序列数据（如文本）的神经网络结构。[heading2]4.训练模型[content]就像孩子开始阅读和学习一样，AI模型开始"阅读"我们提供的所有数据。这个过程被称为"训练"。例子：模型会反复阅读数据，尝试预测句子中的下一个词。比如给出"太阳从东方__"，模型学会预测"升起"。通过不断重复这个过程，模型逐渐学会理解和生成人类语言。