大模型的“大脑容量”有多大？科学家用3.6比特解开了这个秘密 精华

你有没有想过，当ChatGPT回答你的问题时，它的“大脑”里到底装了多少东西？最近，来自Meta、谷歌DeepMind、康奈尔大学等机构的研究人员发表了一项突破性研究，首次精确测量出了大语言模型的“记忆容量”。这项研究不仅揭示了AI学习的奥秘，还解释了许多我们日常使用中遇到的现象。

什么是模型的“记忆”？

想象一下你在准备考试。有些知识你是真正理解的，比如数学公式的推导原理，遇到新题目时你能灵活运用；而有些内容你只是死记硬背，比如某些特定的历史日期或化学方程式，只能原样复述。

大语言模型也是如此——它既会“理解”语言的一般规律，也会“死记硬背”训练数据中的具体内容。

研究人员将模型的记忆分为两种：

•一种是“有意记忆”（generalization），就像我们理解数学原理一样，模型学会了语言的通用规律，能够回答从未见过的问题；

•另一种是“无意记忆”（unintended memorization），就像死记硬背一样，模型直接存储了训练数据的具体片段。

这种区分非常重要。如果一个模型能回答“2的100次方等于多少”，这可能并不意味着它记住了这个具体的数学题，而是它学会了数学运算的一般方法。但如果它能一字不差地背出某本小说的片段，那就是真正的“死记硬背”了。

3.6比特的秘密

经过大量实验，研究人员发现了一个规律：GPT系列模型的每个参数大约能存储3.6比特的信息。这个数字听起来很抽象，让我们用一个生活化的比喻来理解。

如果把模型参数比作书架上的格子，那么每个格子大约能装下3.6比特的“知识碎片”。一个拥有10亿参数的大模型，理论上最多能存储约36亿比特的具体信息，大概相当于450MB的数据——这大约是一部电影的十分之一大小。

有趣的是，研究人员还测试了精度对容量的影响。他们发现，从半精度（bfloat16）提升到全精度（float32），模型的存储容量只从3.51比特增加到3.83比特，远小于理论上的2倍提升。这说明大部分额外的精度并没有用于原始信息存储，而是用于其他计算过程。

从死记硬背到融会贯通

更有意思的一个发现是，研究人员发现了模型学习的一个奇妙现象，类似于我们观察到的“学霸效应”。

想象一个学生在学习过程中的变化：刚开始面对有限的题目时，他只能死记硬背每道题的答案；但当学习材料增加到一定程度后，他开始理解背后的原理，不再需要死记每个具体案例，而是能够举一反三。

大语言模型也经历着同样的过程。研究人员通过训练数百个不同规模的模型，从50万参数到15亿参数，观察了这个变化过程。当训练数据较少时，模型会尽力记住每个具体的句子和段落；但当数据量超过模型的“记忆容量”后，模型开始“开窍”——它不再死记硬背具体内容，而是学会了语言的普遍规律。

这个转折点被研究人员称为“grokking”时刻，就像学生突然开窍的那一瞬间。在这个时刻之后，模型的“死记硬背”能力下降，但“举一反三”的能力大幅提升。研究发现，这个转折点恰好出现在数据集大小超过模型容量的时候。

AI学习中的神奇拐点

研究人员还观察到了一个被称为“双下降”（double descent）的奇怪现象。这就像一个学生的学习曲线：刚开始时成绩随着学习时间增加而提高，但到了某个点后，成绩可能暂时下降（因为开始接触更难的内容），然后又开始上升并达到新高度。

在AI模型中，当训练数据量刚好等于模型容量时，模型的测试表现会出现一个明显的峰值，然后下降，接着又开始上升。研究人员发现，这个现象的根本原因是：当数据量超过模型容量时，模型被迫从个体记忆转向模式识别，开始真正“理解”数据的内在规律。

这个发现为理解AI的学习过程提供了全新的视角。之前人们一直困惑为什么会出现双下降现象，现在我们知道，这其实是AI从“死记硬背”向“融会贯通”转变的标志。

为什么ChatGPT很难被“套话”？

这项研究还解释了一个实际问题：为什么我们很难从ChatGPT等大模型中"套出"训练数据的原始内容？

答案在于训练数据的规模。研究人员建立了一个数学模型来预测“成员推理攻击”（判断某段文字是否在训练数据中出现过）的成功率。他们发现，这个成功率遵循一个S型曲线：当数据量远小于模型容量时，攻击几乎百分之百成功；当数据量远大于模型容量时，攻击成功率接近随机猜测的50%。

现在的大模型都使用了海量的训练数据——远远超过了模型的记忆容量。比如某个80亿参数的模型被训练在15万亿个token上，按照每个token平均4个字节计算，这相当于约60TB的数据，是模型容量的数千倍。

就像一个学生面对无穷无尽的习题集，他不可能记住每道题的具体内容，只能掌握解题的一般方法。研究人员的预测模型显示，按照目前的训练规模，想要从主流大模型中进行成员推理攻击几乎是不可能的，成功率接近50%（即随机猜测的水平）。

哪些内容最容易被“死记”？

研究发现：模型最容易“死记硬背”的是那些包含稀有词汇的文本，特别是非英语内容。

研究人员使用TF-IDF（词频-逆文档频率）来衡量文本的稀有程度。就像我们更容易记住奇特的事物一样，模型也更倾向于记住那些在训练数据中很少见的内容。他们分析了一个2000万参数的模型，发现在最容易被模型记住的20个文本片段中，除了3个之外，其余都包含非英语词汇，主要是日语、中文、希伯来语和希腊语。

最极端的例子是一个包含日语词汇的序列，模型只需要看到一个日语字符"囚"，就能完整地生成整个序列。这说明稀有内容确实更容易被模型“死记硬背”。

这个发现提醒我们，虽然模型整体上很难被“套话”，但对于一些特殊的、稀有的内容，特别是少数语言的文本，我们仍然需要保持警惕。

用随机数据验证理论

为了验证他们的理论，研究人员还进行了一个巧妙的实验：他们让模型学习完全随机的比特序列。由于这些序列完全随机，模型无法从中学到任何“规律”，只能纯粹地死记硬背。

在这个实验中，他们训练了从50万到15亿参数的各种模型，让它们学习不同长度的随机序列。结果证实了他们的理论：每个参数确实能存储约3.64比特的信息，而且当数据量超过模型容量时，记忆效果就达到了平台期，无法再提升。

这个实验特别重要，因为它排除了“理解”和“泛化”的影响，纯粹测量了模型的原始存储能力。结果与在真实文本上的实验高度一致，证明了理论的可靠性。

不同模型架构的容量差异

研究人员还测试了不同模型架构对容量的影响。他们发现，模型的层数和宽度都会影响容量，但影响程度不同。

通过对比1层到8层、隐藏维度从32到256的各种配置，他们发现宽度的影响比深度更明显。这为模型设计提供了实用的指导：如果目标是最大化信息存储容量，增加模型宽度可能比增加深度更有效。

预测大模型的行为

基于这些发现，研究人员建立了一个预测模型，能够根据模型大小和数据集规模预测成员推理攻击的成功率。他们用这个模型预测了GPT-2系列模型的表现，并通过实际实验验证了预测的准确性。

预测结果显示，要让一个1.25亿参数的GPT-2模型的成员推理F1分数达到0.95（几乎完美），需要将训练数据限制在约150万个样本；而要降到0.55（接近随机猜测），需要约1.7亿个样本。实际实验结果与预测值的误差在1-2%以内，证明了模型的可靠性。

这项研究对AI的安全性和隐私保护具有重要意义。它告诉我们，现代大模型由于使用了远超其容量的训练数据，在隐私保护方面表现得比我们想象的要好。

但同时，研究也提醒我们需要特别关注稀有内容和少数语言文本的隐私保护。这些内容更容易被模型记住，可能面临更高的隐私泄露风险。

这项研究不仅帮助我们理解了大语言模型的工作原理，也为未来的模型设计提供了重要指导。

现在我们知道，一个模型的“记忆容量”是有限的。如果我们想要模型更好地理解和推理，就应该用足够多的数据来“撑满”这个容量，迫使模型从“死记硬背”转向“融会贯通”。这解释了为什么现在的大模型需要如此庞大的训练数据——正是这些海量数据，让模型从一个“背书机器”进化成了真正能够理解和创造的“智能助手”。

研究还为模型训练提供了实用的指导原则：当你的数据量达到模型容量的100倍以上时，模型就会进入“泛化模式”，主要学习规律而非记忆具体内容。这为训练数据的规模提供了科学的参考标准。

本文转载自​​​芝士AI吃鱼​​，作者：芝士AI吃鱼