SEO之基于统计的分词方法也被称为科学统筹分词法。 + w8 C; Q; ]* P3 G4 e & i$ y/ j; O& N N 从形式上看，词是稳定的字的组合，因此在上下文中，相邻的字同时出现的次数越多，就越有可能构成一个词。因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。可以对语料中相邻共现的各个字的组合的频度进行统计，计算它们的互现信息。8 R8 R9 T6 i! J
9 R1 a! o- f2 R% ^9 c, E
定义两个字的互现信息，计算两个汉字X、Y的相邻共现概率。互现信息体现了汉字之间结合关系的紧密程度。当紧密程度高于某一个阈值时，便可认为此字组可能构成了一个词。这种方法只需对语料中的字组频度进行统计，不需要切分词典，因而又叫做无词典分词法或统计取词方法。但这种方法也有一定的局限性，会经常抽出一些共现频度高、但并不是词的常用字组，例如“这一”、“之一”、“有的”、“我的”、“许多的”等，并且对常用词的识别精度差，时空开销大。实际应用的统计分词系统都要使用一部基本的分词词典（常用词词典）进行串匹配分词，同时使用统计方法识别一些新的词，即将串频统计和串匹配结合起来，既发挥匹配分词切分速度快、效率高的特点，又利用了无词典分词结合上下文识别生词、自动消除歧义的优点。 5 `' K' M6 j& ] , F: @9 M% u; ~3 V, d 前面我们有讲到《SEO之基于字符串匹配的分词方法》和《SEO之基于理解的分词方法》，那么这三种方法中，到底是哪种SEO分词算法的准确度更高，目前尚无定论。对于任何一个成熟的分词系统来说，不可能单独依靠某一种算法来实现，对于中文词的识别，需要综合多种算法来处理不同的问题。. O& f$ I1 J5 z
) F0 K% ?6 T, h! h0 t 分词准确性对搜索引擎来说非常重要，如果分词速度太慢，即使准确性再高，对于搜索引擎来说也是不可用的，因为搜索引擎需要处理数以亿计的网页，如果分词耗用的时间过长，会影响到搜索引擎对内容的更新速度。因此对于搜索引擎来说，分词的准确性和速度，都需要达到很高的要求。 M) L8 c& w7 j; I
