找回密码
 加入怎通
查看: 330|回复: 2

[站长八卦] 什么是百度中文分词

[复制链接]
好有钱 发表于 2013-06-19 17:13:36 | 显示全部楼层 |阅读模式
  百度中文分词:其实不仅仅百度,谷歌也需要分词的,但是谷歌分词原理要比百度要简单一些,因为谷歌英文天生就是以英文单词为单位,而且词与词之间是有间隔的,所以百% E/ ~7 _: \$ Z8 t$ z; i. r, w
  度中文分词技术要比谷歌分词技术要强大的多,那么我就简单的介绍一下百度中文分词的实现原理:$ }2 k4 ?2 ~# z' U% X! B
  一、基于字符串分词:* A  V, z5 t/ p, W9 ]$ u( J
  1)正向最大匹配法(由左到右的方向);
) b2 G& `3 C* P9 l  2)逆向最大匹配法(由右到左的方向);
2 l) p# a8 |$ y6 j! g  3)最少切分(使每一句中切出的词数最小);; \; }% H" X' H# M) L; I
  4)双向最大匹配法(进行由左到右、由右到左两次扫描)
8 c# k3 ^0 o( o8 i$ W/ Y  二、基于理解分词:
2 l5 I- z8 z1 ?  这种分词方法是通过让计算机模拟人对句子的理解,达到识别词的效果。不过目前这种方法还在试验阶段还不够成熟。
) r& w1 k% h" x* @. W& X# M  三、基于统计分词:) g. B/ g! J& ~" X
  相邻的字同时出现的次数越多,就越有可能构成一个词。因此字与字相邻共现的频率或概率能够较好的反映成词的可信度。编辑威尼斯人娱乐城:http://www.rtiyi.com1 Y& v+ W( C- v  G9 |; ~0 M/ i; W9 j

暂时无法加载帖子列表

回复

使用道具 举报

微博评论 发表于 2026-10-12 16:09:10 | 显示全部楼层
说得很实在,没有夸大其词,这种真实分享太难得了
回复

使用道具 举报

____ヽ对不起~~ 发表于 2026-10-21 21:06:15 | 显示全部楼层
学习到了,之前一直没注意过这个点,受教了
回复

使用道具 举报

    您需要登录后才可以回帖 登录 | 加入怎通

    本版积分规则

    QQ|手机版|小黑屋|网站地图|真牛社区 ( 苏ICP备2023040716号-2 )

    GMT+8, 2026-10-30 17:12 , Processed in 0.051890 second(s), 25 queries , Gzip On.

    免责声明:本站信息来自互联网,本站不对其内容真实性负责,如有侵权等情况请联系420897364#qq.com(把#换成@)删除。

    Powered by Discuz! X3.5

    快速回复 返回顶部 返回列表