
凯伦·斯帕克·琼斯——Karen Spärck Jones——这个名字在 信息检索与自然语言处理 史上出现得太频繁,以至于常被当作背景而非主角。她写下的那个统计量,是今天每一次搜索排序、每一次大模型训练的隐性地基,而它在半个世纪里被整个行业集体忽略。
一、问题一:怎么让机器处理自然语言——反向索引与 IDF
1934 年,这个坐标决定了 Karen Spärck Jones 早年接触到的语汇。Karen Spärck Jones 在这里最初接触的是 父亲是(Local)市政官员,母亲发起成立了兰开斯特早教中心,她从小在教会办的幼儿园里长大;少年时代因数学成绩优异被保送进入当地语法学校,十六岁便开始旁听大学的数学课程,这套底层训练后来成了 Karen Spärck Jones 处理 信息检索与自然语言处理 问题时最本能的工具箱。
Spärck Jones 的母亲在 1930 年代于兰开斯特创办了幼儿教师培训中心并亲自担任负责人,Spärck Jones 从小在这样的环境里长大。这段家庭背景解释了她后来对「语言如何在真实交流中被习得」这一问题的终身兴趣——她的起点不是计算理论,而是「孩子怎么学会说话」。
她在语法学校的成绩单上最突出的科目是数学,但同期学校的课程设置里没有任何编程相关内容,她进入大学前的全部技术训练为零。后来她进入剑桥做的是纯语言学与信息检索的理论工作,而不是软件工程,这一点在她整个职业生涯中反复显现。
她在兰开斯特文法学校期间开始旁听大学课程,这在当时的城市公立中学里并不常见。家人普遍预期她会成为教师——她也确实在完成学业后立刻投入了教学,而不是进入工业界研究计算设备。
她在剑桥阶段做过一段幼儿教育的延伸工作,把语言教学的经验带到信息检索领域。这段经历后来被她自己反复引用:她相信「意义」应当从人类使用语言的实际方式中去理解,而不是从抽象符号表中推导。
二、1934 年的兰开斯特,以及一本被留下的《儿童语言》
1972 年的 在《计算机与统计》报告系列中发表名为「词频倒置在检索系统中的意义」的报告,提出逆文档频率这一统计量 是 Karen Spärck Jones 的分水岭。她指出:一个词在所有文档里都出现,它就几乎不携带区分信息;真正决定相关性的,是这个词在多少文档里罕见。这个比例被写成 log(N/df),也就是后来被压缩成极其简短的 idf,这一点后来被整个 信息检索与自然语言处理 领域反复引用,而 今天几乎所有检索系统的排序公式里都有这一项,而这一项的提出者在报告发表后的将近三十年里,没有得到她本应得到的学术承认。
这份报告属于剑桥「计算机与统计」系列,是一份技术报告而非期刊论文。这个出版形式本身是当时学术体制边缘化的一个缩影:想法是对的,但发表载体不在评审视野之内。
她的论证路径与主流截然不同。当时信息检索的主流是「把查询词和文档做形式匹配」,而她把问题重新定义为「词的权重应当由它在语料中的分布决定」——这是一个从语言学统计出发、倒过来改写检索理论的动作。
她给出的公式极其简洁,但当时信息检索界的注意力集中在倒排索引、词干还原这些工程问题上,权重的统计学解释缺乏听众。她的同事与研究生中有人读懂了这项工作的分量,但它没有变成学术议程。
有学者后来梳理信息检索发展史时指出:从 1972 年到 1980 年代中期,「词项权重」这一整个研究方向基本处于无人认真推进的状态,而它本来可以提前二十年发展。
三、剑桥的《计算机与统计》报告:一个被发表出来、却没人读的方法
1970 年前后,Karen Spärck Jones 在 剑桥大学做的是 亲手操作实验室的 Atlas 计算机,独立完成英文字频分布的详尽测量,并主导《计算机与统计》报告系列的词频研究。这件事的技术核心是 她用大量真实语料统计出每个词在全部文档中的出现比例,把「罕见程度」确立为衡量词的信息价值的直接指标,而它之所以重要,在于 这批实测数据成为她随后提出逆文档频率的经验基础,也是计算语言学早期为数不多的、来自英语世界之外的原创语料研究。
她进入剑桥后的第一份实际工作是操作实验室的 Atlas 计算机,做的是为大型计算任务准备输入数据的工作。这类工作在当时被视为学术研究的辅助杂务,但恰恰是这段经历让她获得了对早期计算机实际能力边界的直觉。
她独立完成了一批词频统计工作,包括对英文字频分布的详尽测量。这些统计数据为她的 idf 论证提供了直接的经验基础——她不是先有公式再找数据,而是先有大量真实语料的观察,才提出那个简洁的权重表达式。
她关于「词在语料中的罕见程度决定其信息量」的判断,与香农的信息论在精神上同源,但她的切入点是语言学而非通信理论,因此在当时并没有被通信学界吸收。
她在剑桥期间还参与了第一批计算机语言学研究的组织工作,促成《Computational Linguistics》系列论文集的出版,使得语言学与计算之间的通道有了固定的学术出口。
四、问题二:学术基础设施该由谁维护——剑桥计算实验室的那台机器,与她必须自己动手的那份工作
1997 年,Karen Spärck Jones 加入 微软研究院剑桥分部,把 剑桥大学计算实验室 时期积累的 把语言学意义判断与真实系统规模约束绑在一起的研究方法,以及她在剑桥亲手维持了近五十年的那份学术社群通讯刊物 带进了 如何让搜索产品在千万级真实查询上同时拿到规模与理解力 这条全新战线。这也是 Karen Spärck Jones 第一次需要在工程约束下做取舍。
这个选择在当时并不被视为学术上的成功路径。她的同行普遍认为,一位把毕生精力投入基础语言学统计的理论学者,主动进入一家以产品节奏为考核标准的企业研究机构,是一个降格的选择——至少在当时的评价体系里如此。
但她的判断基于一个非常具体的观察:她那一代人的理论成果之所以被长期忽视,根本原因是研究脱离真实系统的规模约束,无法回答工程规模下的实际失效。她认为只有进入拥有真实用户与真实数据的环境,问题才会以正确的形式出现。
她离开剑桥时带走的不只是研究人员,还包括她亲手维持了半个世纪的学术社群——那本由她一个人打字、排版、油印并持续更新近五十年的通讯刊物,用来维系这个领域里那些没有经费、只能在会议上交流的年轻研究者。
在她主持下,微软研究院剑桥分部形成的研究风格非常独特:既做基础方法,也坚持要求任何理论必须在一个可运行的系统中被验证。这与当时纯学术机构的研究习惯差异明显。
五、1997 年的微软研究院剑桥分部:一次不被看好的转岗
2005 年前后,学界的主流判断仍偏保守。在她退休与去世之后,整个信息检索领域依然默认 idf 是一个无人署名的技术常量,没有任何机构有动力去追究它的来源,但 Karen Spärck Jones 选择 她本人从未把这项工作当作个人成就来经营,她关心的是问题的解决,而不是名字的归属,代价是 她因此失去了本应属于自己的学术声望,而这项工作的真正价值要到她去世之后才被完整地追溯出来。
她在 2005 年正式退休,同年她个人维持了将近五十年的那份社群通讯刊物也随之停止更新。这份刊物没有专职编辑、没有预算,页面的排版与打印长期由她一个人承担,是计算语言学早期学术共同体最重要的实际连接点之一。
她退休时没有获得一个与贡献相称的正式荣誉安排,而在她之后的余生里,她个人的学术声望甚至出现了下滑——这在信息检索学界内部是公开的秘密。
真正为她正名的是在她去世之后的学术史梳理工作。2019 年前后,多位研究者分别独立地在文献中指出 idf 的提出者是 Spärck Jones,并追溯到她 1972 年的那份技术报告,才让这段历史被系统地还原。
2019 年,在剑桥大学举办的一次专门纪念她的研讨会上,学者们把这套完整的文献链条公之于众:一份 1972 年剑桥技术报告、她的研究生 Peter Ingwersen 的独立验证、以及 1980 年代之后逐步进入主流文献的引用轨迹。
她晚年对这一领域提出的批评是尖锐的:信息检索在检索机制上进步极快,但对文本中意义的理解一直停留在统计表面,这种状况在二十世纪末并没有因为算力和数据的增长而自动解决。
六、身后的名字:一份把荣誉还回去的清单
2021 年的 英国皇家学会院士(追授) 之后,Karen Spärck Jones 把主要精力投到 整理一份被行业长期忽略的女性计算研究者名单,并亲手维护了近五十年的学术社群通讯刊物 上。对 信息检索与自然语言处理 领域而言,让「想法被用起来」这件事继续发生在一个有人记得来路的技术领域里。
在她去世之后,有学者整理并公开了一份长期被忽视的女性计算研究者名单,这份清单后来成为纠正该领域历史记忆的起点之一。她本人曾在生前关注过人工智能领域的性别结构问题,并对女性研究者在学术议程中被边缘化的状况提出过批评。
2019 年在她忌日当天,剑桥大学组织了一场以她名字命名的研讨会,会上正式确认了她在信息检索领域的奠基性贡献,并公布了完整的原始文献证据链。这次会议也被广泛视为该领域历史修订的起点。
2021 年,英国皇家学会在追授她院士资格时给出的理由特别提到了她在信息检索与自然语言处理两方面的贡献,以及她长期维护学术共同体的实际工作——后者是正式评价体系里极少被计入的部分。
她留下的最有效的遗产其实不是那个公式,而是她提出的问题意识:当统计方法被当成终点而不是工具时,检索系统就会在字面上完成任务,却在意义上失焦。这个问题在今天的大规模语义检索与生成式模型面前,依然是她提出的那个问题。