如何减少 AI 胡编：从证据边界、未知标记到结果核验

大家说的“AI 胡编”，通常不是模型故意欺骗，而是它在生成过程中优先寻找语言上连贯、形式上像答案的内容。只要一个说法与上下文相容，模型就可能继续把它写下去；它不会天然知道哪些信息真实存在，也不会因为一句话听起来顺就自动附上证据。

这也是为什么“请不要胡编”往往效果有限。它表达了愿望，却没有告诉模型什么算胡编、哪些材料可以使用、缺少依据时应该怎么处理。更可执行的要求是：只使用给定材料和明确允许的常识；不能确认的内容标记为待确认；找不到依据时直接说明不知道；不要为了完整而补充数字、来源、人物经历或产品能力。

减少错误不能只靠最后一句请检查。需要把证据边界放进任务本身，再让模型对事实性陈述逐项核验。这样做并不能保证答案永远正确，却能让缺口更容易被发现，避免一段流畅文字带来的虚假确定感。

在 Prompt 开头写清楚信息来源，比在结尾提醒“注意准确”更有用。可以说明：以下材料是唯一事实来源；材料外的信息只能作为一般解释，并必须标注为补充说明；如果材料之间存在冲突，列出冲突，不要自行选择；如果用户的问题超出材料范围，先说明范围不足。

材料最好带上上下文。只粘贴一句孤立结论，模型很难判断适用时间、对象和条件。给资料增加标题、来源、时间、段落边界和字段名称，能帮助它区分定义、例子、限制条件和作者观点。长文尤其需要先让 AI 提取证据，再让它根据证据写答案。

对于知识库或内部文档，可以把“允许使用的材料”和“仅供背景参考的材料”分开。前者支撑事实性回答，后者帮助理解语境，但不应自动变成结论。资料中没有写到的内容，不应该因为在其他地方常见，就被悄悄补进答案。

如果用户要求引用来源，应该同时要求保留原文中的标题、章节或页码信息。没有来源定位时，让模型说“材料未提供可定位出处”，比生成一个看似正规的引用更可靠。

可靠回答不一定只有确定句子。更实用的做法是把内容分成三类：材料直接支持的事实；基于事实做出的合理推断；目前没有足够证据判断的未知事项。三类内容混在一起时，读者很难知道哪一句可以直接采用，哪一句需要进一步确认。

事实可以用“材料明确说明”或直接引用材料中的关键信息来表达。推断要说明依据和推理范围，例如根据现有记录，可能与某个条件有关，但还需要补充数据验证。未知则要给出缺口：缺少哪个数据、谁可以确认、建议如何获得信息。

不要要求 AI 在每个句子后面都加一串免责声明，这会让文章变得难读。可以让它只标注会影响判断的关键不确定性，并在段末集中列出待确认事项。表达既要诚实，也要让读者知道下一步该做什么。

很多胡编来自一个看似合理的要求：请写得完整一些。模型会把完整理解成补齐所有空白，于是可能添加未经提供的背景、统计数据和具体案例。如果材料本来就不完整，应优先要求它指出缺口，而不是要求它把故事讲圆。

可以把“完整”改写成“覆盖已知范围”。例如：覆盖材料中列出的四个问题；没有材料支持的部分单独列为待补充；不得新增具体数字、机构名称和时间；如果必须提出假设，使用假设标签并说明它对结论的影响。这样既保留了文章结构，也不会把未知伪装成已知。

对方案、调研和分析类任务，还要限制推理跨度。让 AI 解释现象时，先列出可能原因，再说明哪些原因有材料支持，哪些只是待验证假设。不要让它直接从一个现象跳到唯一结论，尤其不要把相关关系写成因果关系。

事实核验应该有顺序。先识别答案中的事实性陈述，再找到每条陈述对应的材料依据；接着检查时间、对象、范围和单位是否一致；找不到依据时，改成待确认或删除；最后再检查整段内容是否因修改而产生新的矛盾。

如果资料中有多个版本，要求 AI 先按日期或版本号排列，再说明采用哪个版本以及原因。若新旧材料冲突，不要只保留最新内容，除非任务明确要求以最新版本为准。对于数字，必须检查单位、比例、数量级和统计口径，许多看似专业的错误其实来自这些细节。

核验结果可以用简短表格输出：陈述、依据、核验状态、处理方式。核验状态至少包括已找到依据、部分支持、无法确认和存在冲突。这个表格不一定展示给最终读者，但很适合作为内部审阅记录。

写教程时，重点是不要把概念、版本和操作步骤说错。可以要求 AI 区分定义、示例和注意事项，遇到版本差异时标记适用范围。不要为了让初学者容易读，就删除会影响正确操作的前置条件。

整理会议记录时，重点是不要臆造参会人、决定和责任人。没有明确说谁负责，就写未指定负责人；没有明确截止日期，就保留原表达并列入待确认事项。会议纪要宁可留下一个需要澄清的空位，也不要让一个错误责任人进入后续流程。

写产品或业务分析时，重点是不要把用户反馈直接当成总体结论。要区分样本数量、反馈原话、观察到的行为和分析者推断。AI 可以帮助归类，但不能替你扩大样本代表性，更不能把一个案例写成普遍规律。

处理代码和配置时，重点是不要声称已经运行验证。要求 AI 明确区分静态检查、基于经验的建议和实际执行结果；没有运行环境或日志时，不能写成测试通过。防错规则越贴近任务，越能减少泛泛而谈的提醒。

下面的模板适合资料问答、文章改写和内部知识整理。它把材料范围、事实分类、未知处理和核验步骤放在了一起，可以根据实际任务删减。

示例 Prompt： 任务：根据提供的材料回答问题，并给出可核对的结论。 资料边界：以下材料是本次回答的主要事实来源。材料没有出现的信息不得写成确定事实；允许使用的常识只能用于解释概念，不能替代材料证据。 回答规则：把内容区分为材料明确支持的事实、基于材料的合理推断、需要补充信息的未知事项。遇到冲突时列出冲突，不要自行选择；找不到依据时写待确认，不要为了完整而补数字、来源、人物或案例。 核验步骤：先识别事实性陈述，再为每条陈述寻找材料依据，检查时间、对象、范围和单位，最后列出无法确认和存在冲突的内容。 输出结构：先给简洁结论，再给依据和解释，最后给待确认清单。语言自然，不要重复免责声明。 材料：<<<在这里粘贴资料原文>>>

如果任务需要生成方案，可以再加一句：所有建议都要说明依据、适用条件和潜在风险；如果材料不足以支持方案中的关键决策，先列出信息缺口，不要直接给出唯一答案。

标记未知并不意味着停止工作。高质量的未知说明，应该告诉读者还缺什么、为什么重要、可以找谁确认，以及确认后会影响哪一部分结论。例如：当前材料没有给出数据统计口径，因此无法比较两个时期；需要补充原始报表和统计周期，确认后再判断趋势是否成立。

也可以让 AI 为待确认事项排序。优先处理会改变结论、影响安全、改变预算或阻塞执行的问题；低影响的细节可以在正文中保留为限制条件。这样，“我不知道”就不再是一句空泛的推脱，而是一份可执行的信息补充清单。

最终目标不是让 AI 变得保守到什么都不说，而是让它在有证据时说清楚，在只有推断时说明依据，在没有证据时留下边界。把可信度交给读者判断，比用确定语气替读者做出错误判断更负责任。