• 1. 孙 斌 北京大学计算机系计算语言所 (icl.pku.edu.cn)文本信息提取技术(概述)
  • 2. 内容(1)信息提取的含义、目标 (2)信息提取技术中若干相关基础问题 (3)(中文)信息提取系统的流程与设计 (4)Web信息提取
  • 3. 1、“信息提取”的含义
  • 4. 举例说明:什么是信息提取设想有一个用户,他关心《人民日报》中出现的一类特定的信息,即会议信息。 属于“单纯信息”:无相互关联、时序条件、因果等。 通常他是一篇一篇地看报,把其中报道会议的所有段落标记出来,然后对每一个会议信息填写如下一个表格(或者称其为“会议信息模板”):
  • 5. 会议信息 (填写预定义语义的表格)会议时间 Time  会议地点 Spot  召集人 Convener姓名/团体名称 Name  机构、职位 Org/Post  会议名/标题Conf-Title   
  • 6. (本页无文本内容)
  • 7. 会议信息一例
  • 8. 会议报道(例1) :人民日报1998-03-09新华社北京3月8日电(记者李术峰): 中国农工民主党第十二届中央常务委员会第一次会议今天在北京召开。 会议研究通过了贯彻落实“两会”精神的有关决定,审议通过了中国农工民主党中央1998年工作要点(草案),并任命了中央副秘书长。 农工民主党中央主席蒋正华主持了会议,他说,农工民主党有100多名党员作为代表和委员参加了今年的“两会”,各位党员要认真履行代表和委员的职责,开好会,在1998年的工作中认真贯彻“两会”精神,加强农工民主党的自身建设,推动事业进一步发展,为建设有中国特色社会主义事业作出新的贡献。 会前,农工民主党中央邀请参加“两会”的来自全国各省、自治区、直辖市的农工民主党党员进行了联谊活动。
  • 9. 会议时间 Time 1998年3月9日会议地点 Spot 北京会议召集者/主持人Convener个人姓名/团体名称 Name蒋正华机构、职位 Org/Post主席,农工民主党中央会议名/标题Conf-Title 中国农工民主党第十二届中央常务委员会第一次会议
  • 10. ICL.CS.PKU系统输出结果: 会议报道(例1)事件模板实例 北京 蒋正华 中国农工民主党第十二届中央常委员会第一次会议
  • 11. 会议报道(例2) :人民日报1998-01-0719980107-06-016-001意大利总理普罗迪4日说,欧洲国家将采取行动,共同对付库尔德难民涌入问题。普罗迪4日晚召开了由意外长、内政和国防部长参加的紧急会议,商讨应付库尔德难民问题的对策。会前,普罗迪说,“在经过最初的混乱后,欧洲国家的行动已经大大加强”,今后几天内将在此问题上进行系统合作。
  • 12. 会议报道(例2):汉语分词、标注、短语分析19980107-06-016-001/m 意大利/ns 总理/n 普罗迪/nr 4日/t 说/v ,/w 欧洲/ns 国家/n 将/d 采取/v 行动/vn ,/w 共同/d 对付/v 库尔德/nr 难民/n 涌入/v 问题/n 。/nx {{{ MP[0,0] PersonNP[1,3] TimeNP[4,4] VP[5,5] XP[6,6] LocationNP[7,7] NP[8,8] XP[9,9] VP[10,10] NP[11,11] XP[12,12] XP[13,13] VP[14,14] VP[17,17] NP[18,18] XP[19,19]}}} 普罗迪/nr 4日/t 晚/Tg 召开/v 了/u 由/p 意/j 外长/n 、/w 内政/n 和/c 国防部长/n 参加/v 的/u 紧急/a 会议/n ,/w 商讨/v 应付/v 库尔德/nr 难民/n 问题/n 的/u 对策/n 。/nx {{{ PersonNP[0,0] TimeNP[1,2] VP[3,3] XP[4,4] PP[5,5] NP[6,6] PostNP[7,7] XP[8,8] NP[9,9] XP[10,10] PostNP[11,11] VP[12,12] XP[13,13] AP[14,14] NP[15,15] XP[16,16] VP[17,17] VP[18,18] XP[22,22] NP[23,23] XP[24,24]}}} 会前/t ,/w 普罗迪/nr 说/v ,“/w 在/p 经过/p 最初/b 的/u 混乱/an 后/f ,/w 欧洲/ns 国家/n 的/u 行动/vn 已经/d 大大/d 加强/v ”,/w 今后/t 几/m 天/q 内/f 将/d 在/p 此/r 问题/n 上/f 进行/v 系统/n 合作/v 。/nx {{{ TimeNP[0,0] XP[1,1] PersonNP[2,2] VP[3,3] XP[4,4] PP[5,5] PP[6,6] AP[7,7] XP[8,8] NP[9,9] XP[10,10] XP[11,11] LocationNP[12,12] NP[13,13] XP[14,14] NP[15,15] XP[16,16] XP[17,17] VP[18,18] XP[19,19] TimeNP[20,20] MP[21,22] XP[23,23] XP[24,24] PP[25,25] RP[26,26] NP[27,27] XP[28,28] VP[29,29] NP[30,30] VP[31,31] XP[32,32]}}}
  • 13. 会议报道(例2):命名实体与关系 库尔德 (occurrence: 1/1/15; 1/2/19;) 普罗迪 (occurrence: 1/1/3; 1/2/0; 1/3/2;) post_of(意大利总理,普罗迪)
  • 14. 会议报道(例2)事件模板实例 意大利 普罗迪 由意外长、内政和国防部长参加的紧急会议
  • 15. 例2 会议信息结果会议时间 Time  4日晚 (1998-01)会议地点 Spot  意大利召集人 Convener姓名/团体名称 Name  普罗迪机构、职位 Org/Post  意大利总理会议名/标题Conf-Title由意外长、内政和国防部长参加的紧急会议 
  • 16. 会议信息自动提取?任务: 收集历年《人民日报》中所有的相关信息以便于自己或他人的某些重要应用 需求定义: 自然地,有了使用一种能够自动完成这种工作的工具的需求——希望将历年《人民日报》的光盘数据交给这个(计算机软件)工具处理,然后得到一个包括了大量会议信息记录的数据库文件,以非常方便地使用标准的数据库系统来浏览和查询这些信息(必要时再调出原文作更细致的考察)。
  • 17. “XXX系统”这个软件工具就是一个典型的信息提取系统,或者更准确地说,“人民日报会议信息自动提取系统”。 更多的信息提取任务: 访问信息 外交事件 恐怖活动 自然灾害 ……
  • 18. 一种报刊信息加工“高级应用” 系统结构香港日报: 1998 1999 2000 …湖南日报: 1998 1999 2000 …人民日报: 1998 1999 2000 …语料库信 息 提 取会议信息 访问信息 外交事件 恐怖活动 自然灾害 ……内容索引库用户界面DB Interface
  • 19. 错误匹配 19980410-06-006-004 目前智利全国各地正开展形式多样的宣传活动,迎接第二届美洲首脑会议4月18日在智利召开。图为首都圣地亚哥市中心商业区过街通道旁竖起展览橱窗,向市民介绍参加首脑会议的美洲国家的历史文化。(新华社记者韩晓华摄)
  • 20. 错误匹配 智利 UNKNOWN 目前智利全国各地正开展形式多样的宣传活动,迎接第二届美洲首脑会议
  • 21. (文本)信息提取的定义 按比较正式的说法,信息提取(Information Extraction)是指从一段文本中抽取指定的一类信息(例如事件、事实)、并将其(形成结构化的数据)填入一个数据库中供用户查询使用的过程。 - 例如上面提到的会议信息; - 或者从一篇关于自然灾害的新闻报道中摘录出灾害的类型、时间、地点、人员伤亡、经济损失、救援情况等; - 或从产品发布的新闻语料中提取某产品的各种感兴趣的指标,例如计算机网络交换器的协议类型、交换速率、端口数、软件管理方式等。
  • 22. 信息提取涉及到两个方面的因素 (1)用户指定感兴趣的信息特性,以及待分析的文本集(数据源); (2)系统过滤文本集并以一定的格式输出匹配的信息(关系记录)。
  • 23. 与相关信息处理技术存在实质差异:信息检索(Information Retrieval) : 只是找出满足一定检索条件(query)的整篇文档或段落,而人们仍然必须阅读所找到的每一个文档或段落才能获得所需要的信息。 自动文摘、文本理解 : 自动文摘和文本理解则没有预先规定目标的特性,需要对多种多样的内容进行分析和处理。
  • 24. MUC (Message Understanding Conferences) 美国政府支持的一个专门致力于真实新闻文本理解的例会,至今已举行7届。 除像一般的学术会议一样交流论文外,它还负责组织对来自世界各地不同单位的消息理解系统进行系列化的评测活动。 其主要的评测项目是从新闻报道中提取特定的信息,填入某种数据库中。评测语料大都出自各大通讯社发布的新闻。对每一条消息,由专业人员人工给出标准答案,然后将参测系统的输出结果与标准答案比较,按一定的评价指标给出所有系统的评测结果,其中最主要的指标是准确率、查全率等。 当前,由MUC定义的概念、模型和技术规范在国际上对整个信息提取领域起着主导的作用。
  • 25. MUC的IE任务定义5个典型的提取阶段:(MUC-7 IE Task Definition Version 5.1) - NE (Named Entities) - ER (Entity Relations) - Template Scenario (Event Structures) - Coreference (Identity descriptions) - Template Merger 具体提取哪些 NE, ER, Events 以及做哪些Coref, Merger 是任务相关的(每次MUC独立定义)。
  • 26. 各个阶段的IE任务5个典型的提取阶段: - NE (Named Entities):提取文本中相关的命名实体,包括人名、机构/公司名称的识别 国家财政部/Org 部长 项怀诚/Person - ER (Entity Relations):提取命名实体之间的各种关系(事实) Post_of(部长,项怀诚), employee_of(国家财政部,项怀诚) - Template Scenario (Event Structures):事件 召开会议(Time<…>, Spot<…>, Convener<…>, Topic<…>) - Coreference (Identity descriptions) : 代词、名词共指 - Template Merger : 相同事件的合并
  • 27. 实体(Entities)识别:90% 属性(Attributes)识别:80% (TE任务) 事实(Facts)识别:70% (TR任务) 事件(Events)识别:60% (ST任务)SRA公司的系统 (MUC-7)RecallPrecisionF-ScoreTE86%87%86.76TR67%86%75.63ST42%65%50.79
  • 28. 2、理解IE:目标、问题和对策如何界定一门新的技术: 它想做什么/能做什么、它不做什么 (e.g., OOP hype in the earlier 90s ==> limited to structured types; GP is much better, but limited to source code reuse; … )
  • 29. 范式转移(paradigm shift)大背景(二十世纪80年代后期 ): 从以Chomsky等为代表的“纯理性范式”转变为日益强调以对真实文本数据的统计分析和经验知识归纳为主要方法的范式。这种趋势还同计算机处理能力不断提高和文本数据积累不断增大密切相关。 尊重真实文本语言事实已成为当前各种自然语言信息处理技术(包括信息提取)的一个基本立场和出发点。
  • 30. IE的背景与动机作为一门应用性的语言处理技术,信息提取近年来正受到越来越多的重视。 “提取指定的信息” : 提取而不是查找! 良好的动机:在所欲与所能之间找平衡 突破信息检索的局限性(由人来阅读、理解、提取)  自动查找、理解和提取+“有限技术的无穷运用”
  • 31. Typical ProcessSpecified Information UnderstandingDocument BaseFilled TemplatesInfo: event_frame ……….. …………. ……….(As a DBMS Interface)
  • 32. A Conceived ProcessSpecified Information UnderstandingDocument BaseFilled TemplatesInfo: event_frame ……….. …………. ……….(As a DBMS Interface)“有了数据库之后,就什么都好办了。”
  • 33. 并非那么简单的问题/答案什么是“信息”?——尤其是“可提取的文本信息”? 到底有多少类别/不同层次的信息? 如何定义/形式化表示你想要的“信息”? 机器需要预备什么“信息”才能自动进行“提取”?
  • 34. 什么是信息(最小数据量)Information Theory: “信息是对未知的度量”. 无知者的话:“我愚昧,故我(need)信息”. 设概率空间(, , P),则事件A 的信息(数据bit)量为 (条件)后验事件A|B与A的信息量之差称为事件A, B的“互信息”:(自信息)
  • 35. 信息的至少三个层次“语法信息”(符号信息/形式信息/…) 概率空间(, , P)只涉及到形式符号本身(e.g., CFGs, 词频、共现); “语义信息” 概率空间(, , P)涉及到符号的含义(e.g., Attrib-Gs , 属性的频率); “语用信息” 概率空间(, , P)涉及到符号的用法/使用环境因素;
  • 36. 我们要提取什么信息? “语用信息” :太复杂; “符号信息”: (too trivial); 自然地,IE是基于“语义信息”: 通过“语义关系”组装命名实体
  • 37. 信息提取的“8字方针” 识别(命名)实体,确定(语义)关系 把文本看作是{(2/3/…元)实体关系}的集合 (IR:把文本看作是{词/符号串}的集合/概率空间) Well-defined IE demands a well-defined (computable/decidable/recognizable) info-representation.
  • 38. 物质结构规律 小常识
  • 39. 物质结构规律 小常识
  • 40. 物质结构规律 小常识
  • 41. 物质结构规律 小常识Superstrings
  • 42. 信息组成方式
  • 43. 信息组成方式
  • 44. IE是“化学变化”:原子一级的重新组合。
  • 45. “原子构成分子”的简单例子Named Entities: 国家财政部 : Org 项怀诚 : Person Relations: 国家财政部/nt 部长/n 项怀诚/nrPost_ofEmployee_of
  • 46. 信息提取由简到繁提取单个实体 (the NE Task) -把所有的电话号码、电子邮件/网址、时间(表示)、价格、…都提出来(列出来即可); -把所有的人名、地名都提出来; -把所有的机构/团体名都提出来; -把所有的产品/商标名都提出来; -……
  • 47. 信息提取由简到繁提取实体(二元)关系 -把 XXX (人、公司、院校、…)的电话号码、电子邮件/网址、…都提出来(不要弄错关系); -把所有位于 ZZZ 地区的公司名都提出来; -把 YYY 公司发布/推销/…的产品都提出来; -……
  • 48. 信息提取由简到繁提取事件模板(多元语义关系/“结构”) -把所有开会、出访、产品发布、公司合并、股价变动、职务变化、……的事件都提出来(把我给你的表格填上); -把所有报道恐怖活动的报道都找出来(IR),并按照事件的地点/时间/参与者/…分类、排序; -找出/推断两个事件的时间、因果、人员、…等关联(e.g., “911事件”与美国经济停滞); -找出“红楼梦”中 JBY 参与的“不正常活动”  ……
  • 49. 需要建立一个“IE元素周期表”一套语义分类体系(Ontology) - 实体分类/属性描述表:最基本的Ontology; Person, Org, Post, Time, Location, …… - 二元关系分类: Is_a(), Has_a()/Part_of(), Employee_of(), Product_of(), … - 事件分类:… 实体名词的语义分类是一个关键——二元关系在此分类集合上构造;精神活动类名词基本与IE无关。
  • 50. 信息提取作为信道模型
  • 51. 信息提取作为信道模型
  • 52. 信息提取作为信道模型这个信道模型可以看作是一个对观察(输出)序列进行标注(Tagging)的过程: 标注集是信息提取任务规定的各个实体、关系和事件模板槽(加上一个"无关标记N/A"),而被标注的"输出串"则是适当界定好的短语串(例如通过浅层句法分析后得到的结果)。
  • 53. 3、中文信息提取系统设计
  • 54. 基本目标尝试中文IE所需的各项基本/关键技术的实现 把MUC定义的技术都在中文上面试制一遍; 尽量发挥出我们自己的特色 考虑通用的/可移植的IE系统该怎么去做;结合汉语的特殊性,利用一些基础的汉语研究成果; 以实际应用(潜在)需求为导向 还是希望能够导致有用的系统,并不纯是为了学术
  • 55. 系统流程
  • 56. 大致性能对于人民日报的语料而言: 各种命名实体的平均准确率(precision)和召回率(recall)约在80%; 二元实体关系的平均准确率和召回率约在60~70%; 事件模板的召回率约在50%,准确率约在85%。
  • 57. 基础设施词典、词切分和词性标注 制作一个规模适当、分级合理并可灵活配置的词典是建造中文信息提取系统的第一步; 适用于中文信息提取的短语句法及语义分析 包括句法成分的识别与标引,关键词提取,检索特征集的提取、索引等。 适用于信息提取的句群分析与篇章表示 这些技术包括表达句间成分的传递,指代、引用信息表的建立和使用,"this指针"(当前语义焦点focus)的维护,以及概念关系的推理等。
  • 58. The Outline of A Chinese Word Knowledge-base 现 代 汉 语 语 法 信 息 词 典
  • 59. 语言分析技术信息提取系统的目的在于获取指定的信息,因而往往不需要进行完整的语言分析和理解。 其分析过程通常可称作是“浅层的”或“部分的”语言分析(只分析所需要的部分),即找出代表指定信息的词汇、短语等块状语言结构,而不是去弄清楚每一语句的句法结构树。 在语法分析阶段的一个主要问题是代表信息所包含的事件、消息或事实的有关名词性短语和动词性短语的识别问题。 对文本的语义理解在于发现指定信息所涉及的各项内容,解决句间成分传递、指代与引用情况等问题。
  • 60. 几点特色 Generic Programming设计思想 切分/NE识别/标柱一体化的统计模型 广谱模式与分级的 .Y文件
  • 61. Generic Programming “泛型程序设计”OOP之后的又一个Paradigm (更好?); 它们做同样的事,GP做得更好:Applicable to build-in types; No artificial base classes & virtual f’s; Runtime Efficiency is the major gain; But mainly for source-code reuse; 核心思想: 根据系统中各个基本处理过程对数据结构和类型的一组类型需求(a set of types satisfying a group of requirements),抽象出相应的一个基本概念(concept)作为抽象/隔离界面;根据概念的数据要求设计通用、高效、类型安全的算法。 以类型需求条件(概念)作为“抽象隔离层”,将运算与其数据隔离开,从而实现通用的算法和数据结构——两个集合之间可以任意组合(if it makes sense).
  • 62. Generic Programming “泛型程序设计”实例:C++ STL
  • 63. Layered Container/Iterator Model(分层的Container/Iterator模型)设计思想 - 采用Generic Programming (GP)的设计思想,以概念(concept)作为抽象/隔离界面;根据概念的数据要求设计通用、高效、类型安全的算法。 - 每一个语法/语义分析层次都有相应的结点容器; - 用iterators抽象各个容器的操作界面,实现算法与容器的互操作; 要求: 各个容器都至少是sequence containers (Reversible, BackInsertible); 各个遍历器都至少是bidirectional_iterator; 各级算法都是Mutating algorithms (transform) class ie_unit [idx] ==> paragraph [idx] ==> sentence [idx] ==> phrase/word([idx]==>) token
  • 64. 汉语命名实体的识别(1)人名(包括中国人名和外国人译名) (2)地名(包括中国地名和外国地名) (3)组织机构名(包括政府机构、社会团体、企业等名称) (4)数字表达式和时间表达式(包括数值、数码、时点和时段)
  • 65. 汉语命名实体的识别分两步走: 第一步是词语一级的,与分词同步进行; 第二部是短语一级的,可作为句子(浅层)分析的一部分。 - 词语级命名实体的主要任务是: (1)中国人名识别; (2)外国译名识别; (3)中国地名识别; 可将此过程融入到基于词/词类共现的概率语言模型中(HMM seg&tag),从候选词的标记路径上选择一条概率最大的路径。
  • 66. 信息提取中的模式匹配IE系统中的NE, ER, Event都有一大批Patterns; Event Patterns通常都是一些“广谱”模式:不限于终结符表达式;可以是句法、语义范畴。 信息提取系统通常有数十~数百个模式:性能瓶颈 常规的匹配方法(KMP, B-M):为每个模式n构造一个DFA,逐个地匹配原文m;最好为线性复杂度O(m+n);
  • 67. 分级/Cascaded 模式匹配应对方法:模式分级 + LR分析 模式分级 (1) 浅层短语与二元关系分析 (e_relation.y) Regular expressions 都是LR文法,可以使 用LR Parsing 来做!即“Shallow Phrases”; (2) 事件模式识别 (pattern_x.y) 在Shallow Phrase-Sequence上再做一次 LR Parsing <“Cascaded FA”>. 可以使用“优先的LALR(1)”分析器 (e.g., YACC/Bison parsers)
  • 68. 模式分级的优点本方法取得的几个显著结果: - 无论多少模式,都是线性复杂度O(m) (只要无冲突的YACC Parser能够构造出来) - 会议标题可以有效地进行识别 e.g., 今天交通部召开全国交通系统治理公路和水上”三乱“电话会议
  • 69. 特别技巧the "Pre-Lookahead" trick (as with some C++ compilers) to deal with the conflicts effectively! pattern: IN_Pattern Conf KeyVerb %prec KeyVerb ……
  • 70. 信息提取中的模式匹配IE系统中的NE, ER, Event都有一大批Patterns; [公司] [发布] [产品] [人] + “被” + [机构] + [APPOINT ] + [职务] Event Patterns通常都是一些“广谱”模式:节点不限于终结符表达式;可以是句法、语义范畴。 信息提取系统通常有数十~数百个模式 性能瓶颈:常规的匹配方法(KMP, B-M):为每个模式n构造一个DFA,逐个地匹配原文m;最好为线性复杂度O(m+n);
  • 71. 4、Web页面的文本信息提取
  • 72. “Web IE”IE技术运用于Web页面: 难点依然是难点 ;-) 局部的优势(“很明显”): HTML半结构化信息; XML “语义标签”、Semantic Web; Link Text; 超链“上下文”提示信息; “Page Count”评分/加权(民主投票); ……
  • 73. WebIE的一些初步应用Web页面中各类命名实体的提取 实体数据库(人/公司/…地址、电话、Email信息) 命名实体的行业/特性/类别判定 行业公司数据库、产品目录、…… 在指定行业中某类命名实体流行度的估计 (popularity estimation)等 “XXX排行榜”, “人气指数分析”,…
  • 74. 网上相关信息自动收集 其特征在于:根据用户预先提供的实体特性在信息网络上为用户自动收集和加工/归类/排序 用户的信息需求是通过指定一批有具体特性的实体来确定 通过实体特性描述同收集到的网上信息的对比和评价,判断网页与实体的定量相关程度 可以指定“实体”为“个人”、“公司”、“机构” (例子:名人信息收集) 也可以指定“实体”为特定专题、网络协议、技术术语(例子:TCP/IP相关文章收集)
  • 75. 结语文本信息提取是一个富有挑战性和探索性的课题 Google Search: Information Extraction 许多相关问题的认识及求解需要长期研究、不断积累 应明确信息提取作为一门应用技术的目标和核心策略 与相关数据库技术结合(Data/Text Mining, …),Web信息提取大有前景
  • 76. 谢谢 !Q & A