本篇讨论生成式摘要的常见偏差,不针对任何具体产品,也不评价任何被引用的页面。所有例子均为说明性描述。
摘要是怎么来的
大致流程是:检索出若干相关页面,抽取其中的片段,再用语言模型改写、合并、压缩成一段连贯的话。关键在“压缩”这一步:原文里的前提、适用范围、时间限定、否定表述,都可能在改写中被削平。一段原本写着“在特定条件下可能”的描述,压缩后容易变成“就是”。这不是模型故意撒谎,而是摘要这一形式本身要求简短、连贯、像结论。
三类高频失真
第一类是条件丢失:把有前提的说法写成无条件判断。第二类是时间错位:把旧信息与近期信息混在一段里,读者无法分辨哪句对应哪个时间。第三类是来源合并:把几个不同来源的说法拼成一句,制造出“多方一致”的印象,而实际上它们可能互相矛盾。三类失真的共同点是:单独看每一句都可能有出处,合起来却表达了原文没有的立场。
为什么不能只看摘要
因为摘要的作用是帮你决定“要不要点开”,不是替你完成阅读。它没有能力标注哪一句来自哪个来源,也无法告诉你被省略的部分有多重要。更实际的问题是:摘要通常只覆盖最主流的几种说法,边缘但关键的细节往往最先被压掉。如果你要判断的是争议性问题,摘要几乎必然偏向“听起来最顺”的那个版本,而不是证据最扎实的那个。
可执行检查单
- 01把摘要当成目录:用它定位要读哪几个页面,而不是用它下结论。
- 02逐句找对应原文,重点看条件、时间与否定词有没有在摘要里消失。
- 03摘要与原文冲突时,以原文为准,并记录冲突点,这本身就是有价值的信息。
一个常见问题
摘要里引用的页面,是不是就代表主流看法?
不代表。被引用更多取决于页面是否容易被抽取、结构是否清晰、是否覆盖了常见问法,而不是观点是否主流。一个排版规整、问答结构明确的少数派页面,可能比一篇论证扎实但结构松散的多数派文章更容易被抽中。所以摘要反映的是“可抽取性”,不是“代表性”。
读摘要的正确姿势
把它当作一个提示:这一带可能有你要的信息。然后按图索骥,去看它引用的原始页面,确认那些被压掉的限定条件。如果摘要与原文一致,你可以省下一些时间;如果不一致,你获得的不只是正确答案,还有对这个工具的校准。长期来看,第二种情况更有价值,因为它让你知道该在哪些话题上对它保持警惕。