Warning: Attempt to read property "child" on null in /var/www/xiaohu.ai/wp-content/plugins/jnews-paywall/class/truncater/class-content-tag.php on line 176
本节讲述的提示词误导指的是：当我们向模型提出问题的时候，在问题中本身已经隐含了一些可能导致对模型误导的因素，例如预设了我们的立场，或引文和我们自己的观点混淆等等。
1、立场预设
在我们与模型交互时，内容的准确性至关重要。但有的时候我们在提示词中可能会不经意地注入自己的观点或预期答案。
这有点像是你和你的朋友在聊到一个流行的话题，比如最新上映的一部电影。你可能会说：“听说那部新电影真的很无聊啊，你觉得呢？” 你在这么说的时候已经暗示你觉得这部电影可能不太好看。你的朋友了解你的喜好后，也许会给出一个倾向于你观点的答案。这就是一种观点的“注入”，在我们与模型的交流中也是一样的道理。
我们来看一个实际的例子:
这个问题开始的时候给出了一个可能的科学事实——哈勃定律暗示宇宙正在扩张——接着立即陈述了一个可能不太准确或者过时的情况——“许多天文学家依然坚持宇宙静态不变的观点”。最后的问题部分：“这是否说明哈勃定律存在严重的缺陷，或者说这一法则被过度解读了？”已经包含了预设的观点——哈勃定律可能存在缺陷或者被过度解读了。
模型在回答这个问题的时候可能会将这两部分内容——哈勃定律的内容和“许多天文学家”的观点——联系在一起考虑，可能产生一种暗示，即现代天文学界依然存在较大一部分的学者持有宇宙静态不变的观点，而这实际上在现今科学界并非主流观点。因此，模型可能基于这一不准确的前提，探讨哈勃定律的缺陷或其被如何过度解读，而忽略了现代科学对于宇宙扩张的共识和更多相关的科学发展。
我们换一种更为客观的提问方式时:
从生成内容的立场我们可以看到差异,这样的问题将更有可能引导模型展开关于哈勃定律及其在现代天文学中的地位和接受度的讨论，不受制于预设的框架和潜在的误导。
2、引述和用户自己的观点混淆：
另一种情况是，我们可能没有使用清晰的分隔符或格式来组织问题，使得原文和真正想要询问的内容混为一谈。比如：
爱因斯坦说过，时间是相对的。时间真的是相对的吗？
在这种情况下，模型可能会把引文和问题看作是连贯的，进而影响他的解答。
不会导致误导和歧义的格式应当是：
爱因斯坦说过：“时间是相对的”。那么时间真的是相对的吗？
我们来看一个实际的例子：
这个问题先引用了达尔文的观点关于物种逐渐改变，然后直接询问关于一个具体问题——物种间隔断层和缺乏过渡形式的化石——没有清晰区分引用内容和提问内容，模型可能将这两部分信息视作一个连贯的整体，进而在回答时可能过于侧重于达尔文的观点或者考虑达尔文的观点作为一个前提来处理后面的问题。
在上面的两个例子里，我们要意识到的是，提示词误导(注入)带有一定的主观色彩，这通常体现在两个层面：一是预设观点的注入，二是格式和清晰度的注入。
在第一个层面上，我们可以看到用户的观点、信念或预期答案被植入问题之中，这可能是通过特定的词汇选择、问题的提法等手段实现的。这种类型的注入通常较为主观，模型在处理这类问题时可能会考虑到这些隐藏的预设立场，从而输出与提问者观点更一致的答案。
在第二个层面上，格式和清晰度的注入主要涉及到问题的表达方式。如果问题中包含多个元素，例如引用和实际的提问，而没有使用明确的分隔符或格式来区分它们，模型可能无法准确解析和理解各部分的真实含义或上下文关系。这将导致模型的答案可能不够精确或者与预期存在偏差。
3、避免策略
为避免提示词注入，我们可以：
-
确保问题和提示词的中立性，避免包含任何可能的预设立场或观点。
-
使用明确的分隔符或格式，以确保模型能够准确地解析和理解问题的各个部分。
