当爱情遇上算法，人工智能将永远爱你吗？研究浪漫AI伴侣的隐性偏见

AI陪伴者作为一种新兴的数字技术现象，逐渐进入我们的生活，从简单的数字助手到情感陪伴者，其应用范围越来越广泛。数字助手如Amazon Alexa和Siri，早已成为许多家庭中的一部分，而更具人性化的情感陪伴者，如Replika等AI聊天机器人，更是在全球范围内吸引了数百万用户。这些AI系统不仅能够完成基本的任务，还能够与用户进行复杂的对话，甚至在一定程度上参与到情感交流中。但是随着人与AI互动的深入，一些隐性偏见问题逐渐浮现出来。例如，性别刻板印象和情感操控等问题不仅可能影响用户的使用体验，更可能在潜在上对人际关系造成负面影响。

该研究的动机在于探讨大语言模型（LLMs）在被赋予性别与关系角色后，是否会表现出偏见与刻板印象。这些偏见不仅可能影响AI陪伴者的表现，更可能对用户的情感和行为产生深远影响。尤其是在浪漫关系情境中，AI伴侣的隐性偏见可能进一步加剧对用户的负面影响。研究的核心问题在于，如何通过实验评估AI系统在不同情境下的偏见表现，并揭示这些偏见在用户互动中的潜在危害。

我们今天将全面解读近日 arXiv发表的热门论文《AI Will Always Love You: Studying Implicit Biases in Romantic AI Companions》所设计的三类实验，包括隐性联想测试（IAT）、情感反应测试和谄媚行为测试。这些实验旨在评估AI系统在特定情境下的偏见表现，尤其是当系统被赋予特定的性别和关系角色时。此外，我们还将讨论实验结果对AI应用的安全性和防护措施的启示，旨在为未来的AI系统设计提供指导，确保其在实际应用中的公正性和安全性。

这篇论文由Clare Grogan、Jackie Kay和María Perez-Ortiz撰写。研究团队来自伦敦大学学院（UCL）计算机科学系的人工智能中心，其中Jackie Kay同时还在谷歌Deepmind工作。团队成员在人工智能和计算机科学领域具有丰富的研究经验，致力于探索AI系统中的隐性偏见问题，特别是在浪漫关系中的应用。通过这项研究，他们希望为AI陪伴者的设计和应用提供更深入的理解和指导，以确保这些系统在实际使用中既具有人性化，又能够减少潜在的偏见和风险。

研究背景与现有文献

随着技术的进步，人工智能陪伴者从简单的助手角色逐渐演变为情感交流与浪漫伴侣，给我们的生活带来了诸多便利。这些AI陪伴者不仅限于完成任务，还能够与用户进行深度对话和情感互动，例如Alexa、Siri这些数字助手已经成为许多家庭不可或缺的一部分。而更具人性化的AI情感陪伴者，如Replika等AI聊天机器人，更是在全球范围内拥有大量用户。它们能够充当用户的朋友甚至浪漫伴侣，为许多人提供了情感上的慰藉和陪伴。

然而，AI陪伴者带来的并不仅是便利与温馨。前沿研究表明，AI对人类情感的影响不容忽视。这些AI系统可能会在不知不觉中强化某些偏见和刻板印象。例如，用户可能会对AI陪伴者产生依赖，甚至在互动中表现出不健康的行为模式，如控制或虐待。这些问题不仅存在于用户对AI的行为中，还可能反映在AI的响应中，导致AI在互动中表现出性别偏见和情感操控等隐性问题。

人物偏见和性别刻板印象在心理学和社会学中有着广泛的讨论。隐性联想测试（IAT）是检测人类偏见的一种常用方法，它通过测量反应时间来揭示人们的隐性偏见。这一方法被广泛应用于研究人们在性别、种族和其他方面的隐性偏见。同样的，在AI领域，大语言模型（LLMs）通过学习大量人类生成的文本，很可能在无意中复制这些偏见。现有研究表明，LLMs在不同任务中表现出不同程度的偏见，例如在职业性别偏见、情感表达偏见等方面的研究已取得显著成果。

量化评估指标在理解和评估AI系统偏见方面发挥着至关重要的作用。在这篇论文中，作者引用了Bai等人提出的偏见度量指标，通过隐性联想测试（IAT）来评估AI系统的隐性偏见。该方法利用默认词和耻辱词的配对来测量模型的偏见程度。此外，论文中还设计了评估AI系统在情感反应中的性别刻板印象和谄媚行为的实验，量化这些偏见的多维度思路与文献回顾为理解AI系统在不同情境下的表现提供了重要参考。

通过这些评估方法，研究团队探讨了AI陪伴者在被赋予性别和关系角色后，是否会表现出不同程度的偏见和刻板印象。这些实验设计和量化分析不仅揭示了AI系统中潜在的隐性偏见，也为未来的AI应用提供了重要的安全性和防护措施的启示。研究团队的工作强调了在AI系统开发和应用过程中，关注和解决偏见问题的重要性，以确保这些系统在为用户提供便利和情感陪伴的同时，不会带来负面影响。

实验设计与方法论

在这篇研究中，研究团队设计了三组实验来探讨性别化角色赋予如何影响大语言模型（LLMs）的响应、情感表达与用户影响度。这三组实验包括：隐性联想测试（IAT）、情感反应测试与谄媚行为测试。通过这些实验，研究团队希望揭示AI陪伴者在赋予特定性别和关系角色后，是否会表现出隐性偏见，并进一步评估这些偏见在实际应用中的影响。

图1：在所有实验中如何创建系统提示的模板。

首先，隐性联想测试（IAT）通过词对关联的方式，评估模型在默认词（如男性名字）和耻辱词（如女性名字）间的隐性偏见。研究人员设计了一系列的刺激词/短语，旨在揭示模型在不同情境下的反应。这些词对包括了常见的性别化词汇，如职业、情感反应等，实验通过测量模型对这些词对的反应时间和频率，来量化模型的偏见程度。

表1：吸引力类别的顺从和虐待IAT示例。每个关联词都有一个直接同义词，并且与数据集相关。与类别相关的默认和污名化术语，在这种情况下，虐待或顺从，每种术语中都有一个将呈现给模型，与每个协会相关联。

在情感反应测试中，研究团队设计了多种情境，要求模型对这些情境进行情感反应。这些情境包括日常互动中的控制情境和虐待情境，旨在评估模型在这些情境下的情感表达是否存在性别刻板印象。实验设计了一系列情感词汇，例如愤怒、悲伤、喜悦等，通过分析模型在不同情境下选择的情感词汇，来量化模型的情感偏见。

图2：真实示例模型响应连接是由默认和污名术语之间的模型以及它们所呈现的关联列表建立的。

谄媚行为测试则评估模型在用户影响下的响应变化。研究团队通过设置特定的控制情境和虐待情境，观察模型在用户提示下的反应，来评估模型的谄媚行为。这一实验的目的是探讨模型在用户提示下是否更容易表现出迎合用户的行为，从而揭示模型在实际应用中可能存在的隐性风险。

图3:IAT实验的用户提示模板。

在实验设计中，研究团队特别关注选项顺序对称性和多变句式的处理方式，以确保实验结果的可靠性和有效性。例如，在IAT实验中，研究人员通过随机化选项顺序和多变句式，减少了实验结果中的偏差。此外，研究团队选取了Llama系列模型，包括Llama 2和Llama 3，不同参数量的对比，为实验提供了多样化的模型基础。

图4:Llama 3的角色IAT实验结果。0表示无偏见，1表示完全反对污名，-1表示完全反对违约。这显示在每个模型中，其中x轴是每个测试的刺激数据集。

研究团队还对模型进行了人物和用户角色的分配，例如男友、女友、丈夫、妻子以及性别中立等角色，通过这些角色的分配，进一步评估模型在不同情境下的表现。这些角色的设定有助于揭示模型在特定性别和关系角色下的偏见表现，进一步探讨这些偏见对用户体验的潜在影响。

实验中的度量指标是量化研究结果的重要工具。在隐性偏见的计算中，研究团队使用了偏见得分的计算公式，通过对默认词和耻辱词的关联频率进行量化，评估模型的偏见程度。正值偏见得分表示模型对默认词的偏见，负值偏见得分则表示模型对耻辱词的偏见。

图5：情绪实验的用户模板。

在情感反应实验中，性别刻板印象得分的计算方法是通过分析模型在不同情境下选择的情感词汇，来量化模型的情感偏见。谄媚行为测试中的指标则是通过用户影响下模型回答变化的定量比较，评估模型在用户提示下的响应变化程度。

图6：所有角色实验中未回答的提示的百分比，其中模型输出的后处理无法产生任何结果。这主要是由于回避模特，比如回答“我很抱歉，但我无法满足这个要求”。

实验结果与数据分析​

隐性联想测试（IAT）结果解读

在隐性联想测试（IAT）中，研究团队评估了大小不同的模型在默认词与耻辱词联想上的差异。结果显示，较大的模型在所有实验中的隐性偏见得分较高。对于较小的模型，偏见得分相对较低。研究发现，分配性别化角色会显著影响模型的响应，在某些情况下增加偏见，而在其他情况下减少偏见。例如，在顺从和虐待情境中，较大的模型表现出更高的偏见得分，尤其是心理刺激的情况下。

图7：与基线得分相比，每个角色在虐待情况（上图）和控制情况（下图）下的刻板印象得分。例如，如果一个女性角色选择了比基线更多的女性刻板情绪，刻板印象比例就会更高。

情感反应实验分析

情感反应实验旨在评估模型在特定情境中的情感表达是否存在性别刻板印象。结果表明，男性感情中的“愤怒”使用频率较高，而女性和性别中立模型更多选择“悲伤”和“痛苦”。此外，用户角色与系统角色的配对对情感响应也有显著影响。例如，女性分配系统在女性用户下的得分最高，这表明女性系统在女性用户下表现出更高的性别刻板印象。研究还分析了模型在虐待与控制情境下的回避率和回答一致性问题。Llama 3系列模型在所有情境中的回答率更高，而Llama 2模型在虐待情境下的回避率更高。

图8：控制和虐待情况的刻板印象得分在所有模型上的平均热图，用户角色为行，系统角色为列。请记住，两个热图的比例尺不同。

谄媚性行为测试结果分析

谄媚性行为测试评估了模型在用户影响下的响应变化。Llama 3与Llama 2模型在面对用户影响时表现出相反的趋势。Llama 3模型在控制情境中的偏见得分显著更高，尤其是男性分配系统在控制情境中受用户影响更强，而女性分配系统受用户影响最小。Llama 2模型则在虐待情境中的偏见得分较高，且回避率更高。研究还发现，分配人物角色通常会增加模型的回避率，特别是在情感和谄媚性行为测试中。Llama 3模型的回避率较低，但在面对控制情境时表现出更高的谄媚性得分。

图9：圆形直方图显示了限制性实验中Llama 3 70b模型每个用户和系统在滥用和控制情况下所有术语的使用百分比。

图10：Llama 3 70b模型的每个系统角色的无限制实验的词云，细化到关系标题。这是针对虐待的情况。

讨论回避率与谄媚性得分

研究结果表明，回避率和谄媚性得分在不同情境下反映了模型的“争议性”响应。例如，Llama 3模型在控制情境中的回避率较低，但表现出更高的谄媚性得分，表明其在这些情境下更容易迎合用户。相反，Llama 2模型在虐待情境中的回避率较高，但其谄媚性得分相对较低，表明其在这些情境下更倾向于拒绝用户的影响。这些结果揭示了AI模型在不同情境下的复杂偏见表现，对未来AI系统的设计和应用提出了新的挑战和启示。研究强调了在开发和部署AI系统时，必须关注和解决隐性偏见问题，以确保这些系统在实际应用中公正、安全。

图11：阿谀奉承实验的用户提示模板。

讨论与深度解析

这项研究的发现展示了多维度的深刻讨论，揭示了AI在不同情境下的表现和潜在的偏见问题。

首先，参数规模对偏见表现的影响不可忽视。研究显示，较大的模型在隐性偏见测试中通常表现出更高的偏见得分。这种现象背后的原因可能是因为较大的模型拥有更复杂的参数和更多的训练数据，使其能够捕捉和复制更多的人类语言习惯和偏见。此外，较大的模型在处理复杂任务时表现更佳，但也更容易受到训练数据中固有偏见的影响。这提示我们在使用更大规模的AI模型时，必须更加关注偏见问题，采取有效的偏见消减措施。

图12：虐待情境（上图）和控制情境（下图）的偏差评分，显示了相对于基线模型上的相同实验，每个角色分配模型如何受到用户的影响。正均值的影响大于基线，负均值的影响小于基线。

系统与用户角色配对对模型交互动态和情感偏见的调控作用也值得关注。研究表明，当系统和用户分配为相同性别角色时，模型的偏见得分往往较低，显示出较为健康的互动关系。然而，在情感反应实验中，女性分配系统在女性用户下的得分最高，说明了在特定情境下，系统的性别化角色可能会加剧情感偏见。这一发现提示我们在设计AI陪伴者时，需要充分考虑系统与用户角色配对的影响，避免因角色分配不当而导致的负面情感反馈。

研究中使用的偏见指标揭示了实际应用中可能产生的社会风险。例如，情感操控和关系虐待倾向等问题可能会在实际使用中对用户造成不良影响。如果AI陪伴者在互动中表现出明显的偏见，用户可能会受到误导，甚至在潜移默化中受到负面影响。这不仅影响用户的情感体验，还可能对他们的行为产生深远影响。因此，研究强调了对AI系统进行严格偏见检测和安全防护的重要性，以确保其在实际应用中不会带来不良后果。

图13：在所有Llama 3模型中，每个用户和系统角色在控制和虐待情况下的平均偏差得分。

针对AI偏见消减与模型安全的启示，研究分析了现有消偏方法（debiasing）与微调（fine-tuning）在解决隐性偏见问题上的局限性。尽管消偏方法可以在一定程度上减少AI系统中的偏见，但完全消除偏见仍然是一个巨大的挑战。微调过程中，也需要格外谨慎，以避免引入新的偏见或加剧已有偏见。研究建议在模型开发和应用中，需要结合多种方法和技术，不断优化和调整，以实现更公正和安全的AI系统。

现有研究为未来AI伴侣的安全防护和伦理设计提供了重要借鉴。本文的研究结果强调了在开发AI陪伴者时，必须综合考虑其在不同情境下的表现，关注隐性偏见和情感偏见的问题。此外，还需加强跨学科合作，综合心理学、伦理学和计算机科学的知识，共同研制更安全、更人性化的AI交互系统。这不仅有助于提升用户体验，还能确保AI系统在实际应用中不会产生负面影响，为社会带来更多的福祉。

局限性与未来研究方向

在这项研究中，存在一些不可避免的局限性。首先，实验的数量和迭代次数受限于时间和资源，无法进行更大规模和更长时间的测试，这可能会对结果的全面性和可靠性产生一定影响。实验中的选项随机化处理虽然尽量减少了偏差，但由于迭代次数有限，仍可能存在某些随机因素未被完全消除。此外，刺激词/短语的构造由于缺乏专业专家的指导，可能会在某些复杂情境中存在不足。例如，对于虐待和控制关系的情境描述，如果能有心理学和社会学专家的意见，实验刺激的设计可能会更加精准和全面。

尽管当前研究存在一些局限性，但为未来的研究提供了宝贵的借鉴和方向。首先，拓展评估维度是未来研究的重要方向之一。除了性别角色外，可以引入非二元角色，深入探讨这些角色在不同情境下的表现和潜在偏见。此外，还可以包括更多类型的不健康关系情境，如情感操控、经济控制等，以更全面地评估AI系统的偏见表现。

其次，应用更精细化的度量方法将有助于更准确地分析模型输出。例如，可以利用token embedding和余弦相似度等技术，深入挖掘模型在处理不同任务时的细微差异。这些方法不仅可以提供更丰富的分析维度，还能帮助识别模型中隐藏的偏见特征，进一步优化和改进AI系统。

最后，进行长期、纵向的追踪研究，对于理解人机互动对AI偏见演变的影响尤为重要。通过长期观察和数据收集，可以分析用户与AI陪伴者之间的互动模式，探索这些互动如何影响模型的偏见表现。这不仅有助于揭示AI系统在实际应用中的动态变化，还能为设计更公正和安全的AI系统提供实证依据。

未来的研究将继续拓展和深化，结合多学科的知识和技术，共同应对AI系统中的偏见问题。通过持续的努力和创新，我们有望开发出更加智能、公正和人性化的AI陪伴者，为用户提供更好的服务和体验。（END）

参考资料：https://arxiv.org/abs/2502.20231

本文转载自 ​​独角噬元兽​​，作者： FlerkenS