分词的原理 百度是如何来分词的呢？分词技术现今非常成熟了。分为3种技术。7 `! n/ T! ?3 B: ?+ y
1.字符串匹配的分词方法 这是种常用的分词法，百度就是用此种分词。字符串匹配的分词方法，又分为3种分词方法。, v+ j* u5 s, `. m: \6 P* p
（1）。正向最大匹配法
' |7 B. y0 L \( s/ P' |0 B/ H8 H$ _ 就是把一个词从左至右来分词。
% b2 o7 Y/ @% s T 举个例子：“不知道你在说什么”
' z3 O* Z) D% R3 K/ V 这句话采用正向最大匹配法是如何分的呢？“不知道，你，在，说什么”。
8 s& J7 B# T% {+ F5 s' C0 F- q% { （2）。反向最大匹配法
6 z( j1 l9 ]- D8 Y0 T7 e9 v “不知道你在说什么”反向最大匹配法来分上面这段是如何分的。“不，知道，你在，说，什么”，这个就分的比较多了，反向最大匹配法就是从右至左。
! F9 _4 `( N8 c$ E （3）。就是最短路径分词法。
) x a& g/ T+ k8 v 就是说一段话里面要求切出的词数是最少的。$ \" u2 I% r8 u, U* H7 E
“不知道你在说什么”最短路径分词法就是指，把上面那句话分成的词要是最少的。“不知道，你在，说什么”，这就是最短路径分词法，分出来就只有3个词了。8 ?% w3 z4 n" D: m8 C) Y, A
（4）。双向最大匹配法。
: L0 c. B* i. C/ {, x! R/ h 而有一种特殊的情况，就是关健词前后组合内容被认为粘性相差不大，而搜索结果中也同时包含这两组词的话，百度会进行正反向同时进行分词匹配。 Q' P, u' S l7 j! T
2.词义分词法 就是一种机器语音判断的分词方法。很简单，进行句法、语义分析，利用句法信息和语义信息来处理歧义现象来分词，这种分词方法，现在还不成熟，处在测试阶段。
8 i( |+ l: k! P' r" V+ A; s+ h 3.统计分词法 根据词组的统计，就会发现两个相邻的字出现的频率最多，那么这个词就很重要。就可以作为用户提供字符串中的分隔符，这样来分词。' c# [6 J% w* C, f* ]* [$ U! }2 B: q
比如，“我的，你的，许多的，这里，这一，那里”等等，这些词出现的比较多，就从这些词里面分开来。
1 a. q. l' a$ u6 B- d }2 x0 K1 J" x
|
