找回密码
 加入怎通
查看: 521|回复: 7

[站长八卦] 中文分词算法原理和实例分析

[复制链接]
朱岩 发表于 2013-01-12 15:25:21 | 显示全部楼层 |阅读模式

6 t; F5 {1 }# j
! n8 U  @/ v6 T3 a2 P& ?6 D8 Z
在中文分词实战之前我们还是了解一下中文分词的原理:中文分词的应用还是非常广泛,但是中文分词的匹配既简单又复杂,因为中文的同义词和近义词特别多,在一句话中分割时能够产生各种歧义。中文分词要保留原句的含义,又能很好的把这个词进行划分。分词分的好不好归根到底还是看词库的丰富量。
8 _- W9 ]: ?/ \% v& N比如搜狗拼音输入法就有丰富的词库,能够实时更新我们的词库,例如我们经常玩魔兽世界,那么通过简拼就能很好的输入我们想要的词,而且会智能联想,而且能记录我们的词频,让我们经常输入的词出现在最先的位置。其实想一想,输入法和搜索引擎还是有很多共同之处的。再比如就是前几年google刚刚进入中国市场的时候,根本是干不过百度的,因为百度词库的累积了好多年,具有本土化优势,google刚开始必须购买词库。百度只有合理的利用分词才能更好的匹配用户的需求。. _. a7 C$ T- J8 R# d& X6 Y- _

# ^& {9 @5 f% R3 Q/ O0 \1 i1 ~我们搜索“seo”这个词,我们会找到“百度为您找到相关结果约82,900,000个”个结果来参与排名,他是根据完全匹配找到的,可是并不是所有的内容都能找到这么多的完全匹配,比如长尾关键词,这时就考验了搜索引擎优化的功底了,因为长尾关键词没有完全匹配的内容,他就要去抓取相关性特别强的页面,这个时候就需要很强大的中文分词算法功能了。# ~' v3 m5 K  _
比如我们在百度搜索“中文分词算法实战原理”,结果中有完全匹配也有不完全匹配,那搜索引擎到底是怎样匹配的呢?不管如何分词都有一个原则就是不能分出歧义词出来,也就是和改标题有明显冲突的关键词。比如不可以分成“中文分词算”和“法实战原理”,因为没人这样搜索,词库中没有这个词,是不满足用户需求的,也改变了本来的意思。
+ C. I, m6 }" ], {1 K中文分词的形式有:1.完全匹配“中文分词算法原理实战”;2.正向大化匹配“中文分词算法原理”“实战”或“中文分词算法”“原理实战”;3.反向最大化匹配“分词算法原理实战”“中文”;最大匹配就是优先出现最长的词,但是不能匹配没有出现的词;最小化匹配:“中文”“分词”“算法”“原理”“实战”,不能再小了。搜索引擎会优先最大化,然后最小化,主要是为了精准,比如搜索长尾关键词,一般最小化匹配的排名都靠后,完全匹配排名最靠前。
9 N1 V! g+ ^- p1 l# q+ `; ]  N  o本文由:今日新开传奇 www.51787.cn 负责整理,转载请注明,谢谢
% p7 w8 u* R9 ]

! C( a2 L( J4 R: m+ P/ @# ?

暂时无法加载帖子列表

回复

使用道具 举报

高级站长 发表于 2026-01-12 19:20:37 | 显示全部楼层
说得很实在,没有夸大其词,这种真实分享太难得了
回复

使用道具 举报

zqy21504 发表于 2026-01-14 06:35:35 | 显示全部楼层
这个思路很新颖,打开了新世界的大门,谢谢分享
回复

使用道具 举报

akenzhang 发表于 2026-09-19 02:22:41 | 显示全部楼层
完全赞同,我也是这么认为的,英雄所见略同~
回复

使用道具 举报

释风 发表于 2026-09-22 19:45:37 | 显示全部楼层
刚好遇到类似问题,看完这个帖子心里有底了
回复

使用道具 举报

qwertyuiop 发表于 2026-09-23 21:38:02 | 显示全部楼层
蹲了这么久,终于看到有价值的讨论,支持一下!
回复

使用道具 举报

52show8 发表于 2026-09-28 18:41:39 | 显示全部楼层
分析得很透彻,很多细节都说到点子上了~
回复

使用道具 举报

seo菜鸟一枚 发表于 2026-10-18 14:07:24 | 显示全部楼层
内容很干货,没有多余的废话,值得反复看
回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-10-31 18:03 , Processed in 0.041222 second(s), 26 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表