|
|
今天继续跟大家分享SEO心得，今天的话题是中文分词技术，这个也是SEO优化的一大环节，网站的分词处理得当将有利于目标关键词在搜索引擎中的排名。$ [: @5 Y8 g, \+ ~- S
& M" p. s; k' t% h. k 当今使用搜索引擎已**们查找信息的首选工具，撇开百度、谷歌、雅虎，随着搜索市场价值的不断增加，越来越多的公司开发出自己的搜索引擎，自然，搜索引擎技术也成为技术人员关注的热点。0 m* |% D6 j+ ]8 ?$ h1 J* q
中文分词是将一句话或一个短语按照日常阅读习惯进行机械分解。英文分词是以词为单位的，词和词之间是靠空格隔开，而中文是以字为单位，句子中所有的字连起来才能描述一个意思。例如，我喜欢搜索引擎，分词的结果是：我|喜欢|搜索引擎。把中文的汉字序列切分成有意义的词，就是中文分词，有些人也称为切词。, z6 D/ `2 r1 q& ?6 z# a% }8 z
1、交集型歧义7 E$ t- C9 i. [, q7 @! d
# O' h; b/ b4 |7 n$ L$ B1 L 假设“ABC”是一个由A、B、C三个汉字构成的字串，如果 “AB”、“BC”都是词，那么计算机在切分时可以把“ABC”切分为“AB/C”，也可以切分为“A/BC”。这种切分歧义称为交集型歧义。
4 Q$ s7 \; | t2 f, N, n/ U" R" r2 I0 k
2、组合型歧义; [( o6 X3 l! {+ O& ^ J
~# J Z$ T6 `" U% p; H5 ]
如果“AB”是词、“ABC”也是词，那么产生的切分歧义称为组合型歧义。
3 r8 g# M5 g: u. j# n8 R
1 L* c3 j1 G2 L3 o6 g7 I 3、混和型歧义
+ O3 H. o( I; B: o& u5 M2 v3 L
& l% B$ o1 C0 s4 ^2 w( z; ^ 混和型歧义是包含交集型歧义和组合型歧义的切分歧义。
8 r* e! z+ T0 ?. I; g7 L
" _! o' y1 B, |2 Z; f 目前解决这些问题主要通过字典和统计学的方法。
2 Y5 o7 {3 q4 b0 V$ k. h4 ?, e6 v- t# f" o! q& f
首先我们先说说字典分词法。字典一般采用前缀树和后缀树的数据存储结构。什么是前缀树呢?其实就是我们把一个句子从左向右扫描一遍，遇到字典里有的词就标识出来，遇到复合词就找最长的词匹配，遇到不认识的字串就分割成单字词，于是简单的分词就完成了。后缀树就是从右向左扫描一遍。& M" D8 Q6 k' s3 X* q+ m3 b B
1 g( ^8 n4 w# Y& T& ^ 统计学的方法，虽然字典分词已经解决了很多分词上出现的问题。但是面对很多新出的词汇，分词也面临着挑战。统计学的分词方式是基于概念和信息学方面的知识进行处理。基本原理就是寻找那些经常一同出现的字，总是相互的字很有可能构成一个词。
2 H" ^1 q- @6 n0 ~0 |
) ^5 Z7 M/ i+ b- V, _& H" i) p, } 到底哪种分词算法的准确度更高，目前并无定论。对于任何一个成熟的分词系统来说，不可能单独依靠某一种算法来实现，对于中文词的识别，需要综合多种算法来处理不同的问题。
# |0 n5 k& j7 x5 x/ n/ i, { |
|
