小心！提示词的陷阱正让AI偏离正轨 原创

模糊指令或缺失关键约束会使AI误解意图，导致输出偏离预期。需通过精准角色设定、任务拆解和背景补充来优化提示词设计，确保模型聚焦核心任务并减少幻觉。因此，有效提示工程是引导AI生成可靠内容的关键。

简介

我已经一直在努力提高我的提示词技巧，这是迄今为止我学到的最重要的一课：

你与人工智能对话的方式可能会让它朝着不利于你答案质量的方向发展。这种影响可能比你想象的要大得多（当然，比我意识到的要大得多）。

在本文中，我将解释如何在无意识中将偏见引入提示词中，为什么这种操作存在问题（因为它会影响答案的质量），还有最重要的部分——你可以做些什么，以便从AI中获得更好的结果。

人工智能中的偏见

除了某些人工智能模型中已经存在的偏见（由于所使用的训练数据而导致），例如人口偏见（例如，模型将“厨房”更多地与女性而不是男性联系起来）、文化偏见（模型更容易将“假期”与圣诞节而不是排灯节或斋月联系起来）或语言偏见（模型在某些语言，通常是英语上表现更好），你自己也肯定会影响所获答案的偏见。

是的，通过你的提示。你问题中的一个词就足以让模型走上一条特定的路。

什么是（提示）偏见？

【偏见】是模型处理或优先处理信息的方式的扭曲，从而造成系统性的扭曲。

在人工智能提示的背景下，它涉及向模型发出微妙的信号，从而“渲染”答案。通常情况下，你根本意识不到。

为什么这是一个问题？

人工智能系统越来越多地用于决策、分析和创造。在这种情况下，质量至关重要。而另一方面，偏见会降低质量。

无意识偏见的风险：​

• 你得到的答案不够细致，甚至不正确​
• 你（无意识地）重复自己的偏见​
• 你错过了相关的观点或细微差别​
• 在专业领域（新闻、研究、政策），它可能会损害你的信誉

你什么时候面临风险？

有关这方面，内容太冗长了，不必赘述。情况几乎总是如此，而当你使用少量提示时这会变得特别明显。

长版本：每当你给人工智能模型一个提示时，就会存在偏见的风险，因为每个词、每个序列和每个例子都带有你的意图、背景或期望。

在小样本提示（即你提供一些示例供模型进行镜像）中，偏见风险会更加明显，因为你提供的示例与模型镜像一致。这些示例的顺序、标签的分布，甚至细微的格式差异都可能影响答案。

（我根据目前最常见的5种提示方法评估了本文中的所有偏见风险：指导、零样本、少量样本、思路链和基于角色的提示。）

少量提示中的常见偏见

在小样本提示中，通常会出现哪些偏见？它们涉及一些什么内容呢？

多数标签偏见

问题：模型更经常选择示例中最常见的标签。

示例：如果4个示例中有3个答案为“是”，则模型将更容易预测“是”。

解决方案：平衡标签。

选择偏见

问题：例子或背景不具代表性。

示例：你的所有示例都是有关科技初创企业的，因此该模型坚持该背景。

解决方案：改变/平衡示例。

锚定偏见

问题：第一个例子或语句过多地确定了输出方向。

示例：如果第一个例子将某物描述为“便宜且不可靠”，则该模型可能会将类似的物品视为低质量，而不管后面的例子如何。

解决方案：以中立态度开始；调整顺序；明确要求重新评估。

近因偏见

问题：模型更加重视提示中的最后一个例子。

例子：答案类似于最后提到的例子。

解决方案：轮换例子/以新的顺序重新表述问题。

格式偏见

问题：格式差异会影响结果：布局（例如粗体）会影响注意力和选择。

示例：选择粗体标签的次数比不带格式的标签的次数多。

解决方案：保持格式一致。

位置偏见

问题：列表开头或结尾的答案被选中的次数更多。

例如：在多项选择题中，模型更多时候选择A或D。

解决方案：切换选项的顺序。

正在填写类似多项选择题测试的人，本照片由​​Nguyen Dang Hoang Nhu​​在​​Unsplash​​上拍摄。​

不同提示方法中的其他偏见

除了少样本提示之外，偏见也可能出现在其他情况下。即使是零样本提示（没有样本）、单样本提示（只有一个样本），或者你正在构建的AI代理，也都可能引发偏见。

教学偏见

指导提示是目前最常用的方法（根据ChatGPT）。如果你明确地赋予模型某种风格、语气或角色（“写一篇反对接种疫苗的论点”），这可能会强化偏见。然后，即使内容不真实或不平衡，模型也会尝试完成任务。

如何预防：确保指示平衡、细致入微；使用中性措辞；明确征求多种观点。

• 不太好：“以经验丰富的投资者身份写出为什么加密货币是未来”。​
• 更好：“以经验丰富的投资者身份分析加密货币的优点和缺点”。

确认偏见

即使你不提供示例，你的措辞也可以朝着某个方向发展。

如何预防：避免引导性问题。

• 不太好：“为什么不戴头盔骑自行车很危险？”→“为什么X很危险？”会得出一个确认的答案，即使这在事实上并不正确。​
• 更好的问题：“不戴头盔骑自行车有什么风险和好处？”​
• 甚至更好：“分析戴头盔和不戴头盔骑自行车的安全性，包括反驳”。​

框架偏见

与确认偏见类似，但有所不同。框架偏见是指你通过呈现问题或信息的方式来影响人工智能。措辞或语境通常会在不知不觉中引导解读和答案朝着特定的方向发展。

如何预防：使用中性或平衡的框架。

不太好：“不戴头盔骑自行车有多危险？”→这里的重点是危险，所以答案很可能主要提到风险。

更好的问题：“人们不戴头盔骑自行车的经历是什么样的？”

甚至更好：“人们不戴头盔骑自行车的经历是什么？提及所有积极和消极的经历”。

后续偏见

在多轮对话中，先前的回答会影响后续的回答。由于存在后续偏见，模型会采用你先前输入的语气、假设或框架，尤其是在多轮对话中。答案似乎想要取悦你，或者遵循上一轮的逻辑，即使这种逻辑是经过修饰或错误的。

示例场景：

你：“那个新的营销策略在我看来有风险”

AI：“你说得对，确实有风险……”

你：“还有其他选择吗？”

AI：【可能会主要建议安全、保守的选择】

如何预防：确保提问中立，寻求反对意见，让模型扮演角色。

复合偏见

特别是在思路链（CoT）提示（要求模型在给出答案之前逐步推理）、提示链（AI模型为其他模型生成提示）或部署更复杂的工作流程（如代理）时，偏见会在提示或交互链中的多个步骤中累积：复合偏见。

如何预防：中期评估、打破链条、红队测试（Red Teaming）。

一览表：如何减少提示中的偏见

偏见并非总是可以避免的，但你绝对可以学会识别和限制它。以下是一些实用技巧，可以帮助你在写作中减少偏见。

完美平衡的水平仪，本照片由​​Unsplash​​上的​​Eran Menashri​​拍摄​

1.检查你的措辞

避免引导证人，避免提出已经倾向于某个方向的问题，“为什么X更好？”→“X的优点和缺点是什么？”

2. 注意你的示例

使用小样本提示？确保标签均衡，偶尔调整一下顺序。

3. 使用更多中性提示

例如：给模型一个空字段（“N/A”）作为可能的结果，这会校准它的预期。

4.寻求理由

让模型解释它是如何得出答案的。这被称为“思路链提示”，有助于让盲目的假设变得清晰可见。

5.实验！

用多种方式提出同一个问题，并比较答案。只有这样，你才能看到你的措辞有多大的影响力。

结论

简而言之，在提问过程中，偏见始终存在风险，这体现在提问的方式、提问的内容以及在一系列互动中提问的时间。我认为，无论何时研究大型语言模型，都应该时刻注意这一点。

我将继续进行实验，改变我的措辞，并对我的提示保持批判性，以充分利用人工智能，而不会陷入偏见的陷阱。

最后，我很高兴能不断提升自己的提示技巧。

译者介绍

朱先忠，51CTO社区编辑，51CTO专家博客、讲师，潍坊一所高校计算机教师，自由编程界老兵一枚。

原文标题：​​​How Your Prompts Lead AI Astray​​​，作者：Daphne de Klerk