導航:首頁 > 軟體知識 > 哪個是百度抓取程序的名稱

哪個是百度抓取程序的名稱

發布時間:2023-08-03 22:01:22

❶ 百度是用什麼技術搜索的

網路有一個蜘蛛程序,也叫網路蜘蛛
什麼是網路蜘蛛
網路蜘蛛即Web Spider,是一個很形象的名字。把互聯網比喻成一個蜘蛛網,那麼Spider就是在網上爬來爬去的蜘蛛。網路蜘蛛是通過網頁的鏈接地址來尋找網頁,從網站某一個頁面(通常是首頁)開始,讀取網頁的內容,找到在網頁中的其它鏈接地址,然後通過這些鏈接地址尋找下一個網頁,這樣一直循環下去,直到把這個網站所有的網頁都抓取完為止。如果把整個互聯網當成一個網站,那麼網路蜘蛛就可以用這個原理把互聯網上所有的網頁都抓取下來。
蜘蛛工作原理
對於搜索引擎來說,要抓取互聯網上所有的網頁幾乎是不可能的,從目前公布的數據來看,容量最大的搜索引擎也不過是抓取了整個網頁數量的百分之四十左右。這其中的原因一方面是抓取技術的瓶頸,100億網頁的容量是100×2000G位元組,即使能夠存儲,下載也存在問題(按照一台機器每秒下載20K計算,需要340台機器不停的下載一年時間,才能把所有網頁下載完畢)。同時,由於數據量太大,在提供搜索時也會有效率方面的影響。因此,許多搜索引擎的網路蜘蛛只是抓取那些重要的網頁,而在抓取的時候評價重要性主要的依據是某個網頁的鏈接深度。 搜索引擎抓取策略
在抓取網頁的時候,網路蜘蛛一般有兩種策略:廣度優先和深度優先(如下圖所示)。廣度優先是指網路蜘蛛會先抓取起始網頁中鏈接的所有網頁,然後再選擇其中的一個鏈接網頁,繼續抓取在此網頁中鏈接的所有網頁。這是最常用的方式,因為這個方法可以讓網路蜘蛛並行處理,提高其抓取速度。深度優先是指網路蜘蛛會從起始頁開始,一個鏈接一個鏈接跟蹤下去,處理完這條線路之後再轉入下一個起始頁,繼續跟蹤鏈接。這個方法有個優點是網路蜘蛛在設計的時候比較容易。

閱讀全文

與哪個是百度抓取程序的名稱相關的資料

熱點內容
程序員學什麼專業好就業 瀏覽:976
賣稻穀在哪裡交易 瀏覽:678
版權代理包括哪些 瀏覽:191
市場上如何區分布偶貓的價格 瀏覽:280
ebank是什麼交易 瀏覽:703
怎麼找市場經理 瀏覽:80
小學信息學奧賽有什麼用 瀏覽:940
金知網代理是什麼意思 瀏覽:38
手機代理平台哪裡好 瀏覽:395
蘋果手機和手錶如何做到信息互通 瀏覽:918
fifaep怎麼交易 瀏覽:469
怎麼查詢結婚信息查詢系統 瀏覽:679
對電子數據的提取法律規定是如何 瀏覽:457
高客單價產品如何做站外推廣 瀏覽:714
2021哪個簽證代理公司好辦理 瀏覽:849
氂牛可以做成哪些產品 瀏覽:776
寶馬售後技術哪個最好 瀏覽:117
山東哪個醫院腹腔鏡技術好 瀏覽:202
股票交易用哪個平台會好一點 瀏覽:286
按摩店心靈探索是什麼程序 瀏覽:598