搜索引擎工作过程之预处理。

在蜘蛛对网站进行了爬行和抓取后,接下来的一步就是主要的步骤--预处理,也被称为“索引”。主要包括提取文字、中文分词、去停止词、消除噪声、去重、正向索引、倒排索引、链接关系计算和特殊文件处理几个方面。

搜索引擎蜘蛛抓取的原始页面,并不能直接用于查询排名处理。搜索引擎数据库中的页面数都在数万亿级别以上,用户输入搜索词后,靠排名程序实时对这么多页面分析相关性,计算量太大,不可能在一两秒内返回排名结果。因此抓取来的页面必须经过预处理,为最后的查询排名做好准备。

1、提取文字

现在的搜索引擎还是以文字内容为基础。蜘蛛抓取到的页面中的HTML代码,除了用户在浏览器上可以看到的可见文字外,还包含了大量的HTML格式标签、JavaScript程序等无法用于排名的内容。搜索引擎预处理首先要做的就是从HTML文件中去除标签、程序,提取出可以用于排名处理的网页面文字内容。

2、中文分词

中文分词是中文搜索引擎特有的步骤,中文词与词之间没有任何分隔符,一个句子中的所有字和词都是连在一起的。搜索引擎必须首先分辨哪几个字组成一个词,哪些字本身就是一个词。中文分词方法有两种,一种是基于词典匹配,另一种是基于统计。

基于词典匹配的方法是指,将待分析的一段汉字与一个事先造好的词典中的词条进行匹配,在待分析汉字串中扫描到词典中已有的词条则匹配成功,或者说切分出一个单词。

于统计的分词方法指的是分析大量文字样本,计算出字与字相邻出现的统计概率,几个字相邻出现越多,就越可能形成一个单词。基于统计的方法的优势是对新出现的词反应更快速,也有利于消除歧义。

在实际使用中,分词系统是混合使用两种方法的。搜索引擎对页面的分词取决于词库的规模、准确性和分词算法的好坏,而不是取决于页面本身如何,所以SEO人员对分词所能做的很少。唯一能做的是在页面上用某种形式提示搜索引擎,某几个字应该被当做一个词处理,尤其是可能产生歧义的时候,比如在页面标题、h1标签及黑体中出现关键词。

3、去停止词

无论是英文还是中文,页面内容中都会有一些出现频率很高,却对内容没有任何影响的词,如“的”、“地”、“得”之类的助词,“啊”、“哈”、“呀”之类的感叹词,“从而”、“以”、“却”之类的副词或介词。这些词被称为停止词,因为它们对页面的主要意思没什么影响。英文中的常见停止词有the,a,an,to,of等。

搜索引擎在索引页面之前会去掉这些停止词,使索引数据主题更为突出,减少无谓的计算量。

4、消除噪声

噪声并不是指网页中的嘈杂的声音,而是指页面上对页面主题没有贡献的内容,比如版权声明文字、导航条、广告等,这些内容对页面主题只能起到分散作用。因此搜索引擎需要识别并消除这些噪声,排名时不使用噪声内容。消噪的基本方法是根据HTML标签对页面分块,区分出页头、导航、正文、页脚、广告等区域,在网站上大量重复出现的区块往往属于噪声。对页面进行消噪后,剩下的才是页面主体内容。

  5、去重

同一篇文章经常会重复出现在不同网站及同一个网站的不同网址上,搜索引擎并不喜欢这种重复性的内容。用户搜索时,如果在前两页看到的都是来自不同网站的同一篇文章,用户体验就太差了,虽然都是内容相关的。搜索引擎希望只返回相同文章中的一篇,所以在进行索引前还需要识别和删除重复内容,这个过程就称为“去重”。

了解了搜索引擎的去重算法,SEO人员就应该知道简单地增加“的”、“地”、“得”、调换段落顺序这种所谓伪原创,并不能逃过搜索引擎的去重算法,因为这样的操作无法改变文章的特征关键词。而且搜索引擎的去重算法很可能不止于页面级别,而是进行到段落级别,混合不同文章、交叉调换段落顺序也不能使转载和抄袭变成原创。

6、正向索引

经过文字提取、分词、消噪、去重后,搜索引擎得到的就是独特的、能反映页面主体内容的、以词为单位的内容。接下来搜索引擎索引程序就可以提取关键词,按照分词程序划分好的词,把页面转换为一个关键词组成的集合,同时记录每一个关键词在页面上的出现频率、出现次数、格式(如出现在标题标签、黑体、H标签、锚文字等)、位置(如页面第一段文字等)。这样,每一个页面都可以记录为一串关键词集合,其中每个关键词的词频、格式、位置等权重信息也都记录在案。

7、倒排索引

正向索引还不能直接用于排名。假设用户搜索关键词2,如果只存在正向索引,排名程序需要扫描所有索引库中的文件,找出包含关键词2的文件,再进行相关性计算。这样的计算量无法满足实时返回排名结果的要求。因此需要搜索引擎将正向索引数据库重新构造成倒排索引,把文件对应到关键词的映射转换为关键词到文件的映射。

8、链接关系计算

现在所有的主流搜索引擎排名因素中都包含网页之间的链接流动信息。搜索引擎在抓取页面内容后,必须事前计算出:页面上有哪些链接指向哪些其他页面,每个页面有哪些导入链接,链接使用了什么锚文字,这些复杂的链接指向关系形成了网站和页面的链接权重。

由于页面和链接数量巨大,网上的链接关系又时时处在更新中,因此链接关系及PR的计算要耗费很长时间。

9、特殊文件处理

除了HTML文件外,搜索引擎通常还能抓取和索引以文字为基础的多种文件类型,如PDF、Word、WPS、XLS、PPT、TXT文件等。我们在搜索结果中也经常会看到这些文件类型。但目前的搜索引擎还不能处理图片、视频、Flash这类非文字内容,也不能执行脚本和程序。

虽然搜索引擎在识别图片及从Flash中提取文字内容方面有些进步,不过距离直接靠读取图片、视频、Flash内容返回结果的目标还很远。对图片、视频内容的排名还往往是依据与之相关的文字内容,详细情况可以参考后面的整合搜索部分。

本文来自投稿,不代表重蔚自留地立场,如若转载,请注明出处https://www.cwhello.com/60225.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
优化家优化家订阅用户
上一篇 2022年8月21日 17:43
下一篇 2022年8月21日

相关推荐

  • 电商平台渠道销售两种方式

    虽然说长沙seo推广网络并非农产品市场的主流消费市场,但是近年来我国的网络农产品消费市场份额不断提升,固而对于站长来说,应该及时的抓住这种趋势,而不应该固步自封。互联网多电商平台渠道销售可以通过两种方式…

    2022年5月29日
    0404
  • 网站优化要怎样做关键词布局。

    现在做网站优化的企业数量都变得越来越多,网络推广要想能够在搜索引擎中获得更多的权重和排名,首先要选择适合的关键词,其次还得根据优化需求和指数高低要做优化布局,而今做线上营销的企业数量都变得越来越多。…

    2022年8月21日
    0117
  • 小编教你网络推广网站被降权了该怎么办。

    最近很多的客户咨询网络推广网站被降权了该怎么办,那么,下面就由小编为大家介绍一下。 网络推广网站被降权了该怎么办,小编介绍以下几点: 第一、查找网站降权的原因 站长要剖析自个的优化进程,找出也许的缝隙。…

    2022年10月31日
    029
  • 小编分享网站优化的新趋势有哪些呢。

    在互联网迅猛发展的今天,不管是网络搜索还是计算机技术,技术更新迭代都很快。作为一个优化人员,也要不停的学习,学习新的技能和新的知识,才能顺应时代。尤其是面对搜索引擎大变革的时代,百度基本上每天都是更…

    2022年10月31日
    021
  • 网站建设的核心内容有哪些。

    企业网站是企业在互联网上进行网络营销和形象宣传的平台,相当于企业的网络名片,不但对企业的形象是一个良好的宣传,同时可以辅助企业的销售,通过网络直接帮助企业实现产品的销售。那么,企业网站建设的核心内容…

    2023年2月22日
    00
  • 确保网站移动化工作的进展,才不会被用户抛弃。

    随着移动设备不断的普及,人们正式步入了移动时代,那么作为一枚为互联网提供内容的站长朋友,如何保证自己和自己的网站在移动化来袭之时不被时代抛弃,不被我们的用户抛弃呢?接下来小编为你分享具体内容,一起看…

    2023年2月15日
    00
  • 网站优化过程中要防止哪些问题。

    公司为什么要做优化都心中有数,为的都是同一个目的:提高排名!一开始,会觉得优化工作非常简单。它是上传一些文章并做外链。但是,如果需要很长时间,就会出现问题。如果你不知道和提前做好准备,会影响优化效果…

    2022年8月22日
    076
  • 网站的相似或重复页该如何处理

    什么是相似度页面? 众所周知搜寻引擎是对原创内容情有独钟,那么这就要求咱们在做网站内容时重视内容品质。相似度页面即是内容的重复率或相似水准很高的页面。 什么是重复页面? 重复页面即是内容几乎或许完全相同的…

    2022年5月30日
    0281

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息