新儿 发表于 2012-05-25 10:18:59

关于百度搜索引擎技术的一点笔记

预处理技术包括:网页分析和倒排索引

网页分析:
关键词的提取:
去处html   广告 导航 版权 停用词
然后用切词软件利用字典切出 p={c1,c2,c3.....} 一般c的有效数为200左右

重复和转载文章的消除:
去噪和消重
DocView模型
网页标识、网页类型、内容类别、标题、关键词、摘要、正文、相关链接等要素

网页重要程度的计算:
被引用的次数,最直观的表现为超链接
网页的入度大
网页父网页入度大
网页镜像度高
网页目录深度小

首先形成 网页对应特征相的正排索引,然后再形成 特征词对应网页的倒序索引。


annie 发表于 2026-01-12 16:10:21

这个分享太实用了,刚好能用到,感谢楼主!

lingfeidn 发表于 2026-08-14 01:51:44

这个思路很新颖,打开了新世界的大门,谢谢分享

wodedayu 发表于 2026-08-15 02:52:27

楼主太厉害了,整理得这么详细,必须支持
页: [1]
查看完整版本: 关于百度搜索引擎技术的一点笔记