百度指紋算法是什么?
簡(jiǎn)單來(lái)說(shuō)搜索引擎指紋算法就和人的指紋一樣,看起來(lái)這個(gè)手指是差不多的,但是實(shí)際上每一個(gè)人的手指都有一個(gè)獨(dú)一無(wú)二的指紋,而我們所看到的網(wǎng)頁(yè)也是一樣的。不少網(wǎng)頁(yè)內(nèi)容其實(shí)都是差不多的,但是每一個(gè)網(wǎng)頁(yè)搜索引擎抓取以后都會(huì)保存,然后建立一個(gè)指紋,可以理解為唯一標(biāo)識(shí)符,而這個(gè)算法最大的好處就是可以通過(guò)這個(gè)唯一標(biāo)識(shí)別符來(lái)計(jì)算網(wǎng)頁(yè)的重復(fù)。
搜索引擎網(wǎng)頁(yè)指紋技術(shù)在百度百科中的解釋是:提取一個(gè)信息的特征,通常是一組詞或者一組詞+權(quán)重,然后根據(jù)這組詞調(diào)用特別的算法,例如MD5,將之轉(zhuǎn)化為一組代碼,這組代碼就成為標(biāo)識(shí)這個(gè)信息的指紋。搜索引擎在抓取內(nèi)容之后,會(huì)首先剔除掉文章中的一些非特征信息關(guān)鍵詞,比如:你、我、他等稱(chēng)謂;而且、但是等連接詞;哦、呢、吧等語(yǔ)氣詞。這些詞對(duì)于信息標(biāo)識(shí)是沒(méi)有幫助的,然后就是對(duì)文字信息的提取與處理,經(jīng)過(guò)一系列復(fù)雜的算法流程。
二、常見(jiàn)的搜索引擎指紋算法有哪些?
最簡(jiǎn)單的指紋構(gòu)造方式就是計(jì)算文本的md5或者sha哈希值,除非輸入相同的文本,否則會(huì)發(fā)生“雪崩效應(yīng)”,極小的文本差異通過(guò)md5或者sha計(jì)算出來(lái)的指紋就會(huì)不同(發(fā)生沖撞的概率極低),那么對(duì)于稍加改動(dòng)的文本,計(jì)算出來(lái)的指紋也是不一樣。
因此,一個(gè)好的指紋應(yīng)該具備如下特點(diǎn):
1、指紋是確定性的,相同的文本的指紋是相同的;
2、指紋越相似,文本相似性就越高;
3、指紋生成和匹配效率高。
用作品證明實(shí)力,網(wǎng)站建設(shè)行業(yè)排名前列
集團(tuán)網(wǎng)站 / 定制開(kāi)發(fā) / 高端建站 / 響應(yīng)式網(wǎng)站
品牌網(wǎng)站 / 高端定制 / 響應(yīng)式網(wǎng)站
高端會(huì)所 / 美容美業(yè) / 定制設(shè)計(jì)
高新技術(shù) / 定制開(kāi)發(fā) / 品牌官網(wǎng)
品牌網(wǎng)站 / 定制開(kāi)發(fā)
新聞門(mén)戶(hù) / 書(shū)畫(huà)頻道 / 平臺(tái)開(kāi)發(fā)