爬行和抓取
爬行和抓取是搜索引擎工作的第一步,完成數據收集任務.
蜘蛛
搜索引擎用來爬行和訪問頁面的程序被稱為蜘蛛(spider),也稱為機器人(bot).
蜘蛛代理名稱:
百度蜘蛛:baiduspider+(+http://www.baidu.com/search/spider.htm) ·
雅虎中國蜘蛛:mozilla/5.0 (compatible; yahoo! slurp china; http://misc.yahoo.com.cn/help.html) ·
英文雅虎蜘蛛:mozilla/5.0 (compatible; yahoo! slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp)
google 蜘蛛:mozilla/5.0 (compatible; googlebot/2.1; +http://www.google.com/bot.html) ·
微軟 bing 蜘蛛:msnbot/1.1 (+http://search.msn.com/msnbot.htm)·
搜狗蜘蛛: sogou+web+robot+(+http://www.sogou.com/docs/help/webmasters.htm#07) ·
搜搜蜘蛛:sosospider+(+http://help.soso.com/webspider.htm) ·
有道蜘蛛:mozilla/5.0 (compatible; yodaobot/1.0; http://www.yodao.com/help/webmaster/spider/; )
跟蹤鏈接
為了抓取網上盡量多的頁面,搜索引擎蜘蛛會跟蹤頁面上的鏈接,從一個頁面爬到下一個頁面,就好像蜘蛛在蜘蛛網上爬行那樣,這也就是搜索引擎蜘蛛這個名稱的由來.最簡單的爬行遍歷策略分為兩種,一是深度優先,二是廣度優先.
深度優先搜索
深度優先搜索就是在搜索樹的每一層始終先只擴展一個子節點,不斷地向縱深前進直到不能再前進(到達葉子節點或受到深度限制)時,才從當前節點返回到上一級節點,沿另一方向又繼續前進.這種方法的搜索樹是從樹根開始一枝一枝逐漸形成的.
深度優先搜索亦稱為縱向搜索.由于一個有解的問題樹可能含有無窮分枝,深度優先搜索如果誤入無窮分枝(即深度無限),則不可能找到目標節點.所以,深度優先搜索策略是不完備的.另外,應用此策略得到的解不一定是好解(最短路徑).

百度競價推廣應該遵循什么規則
“投筆從戎”從“0”走上SEO之道
網絡營銷的高效營銷手段有哪些？
網頁設計CorelDRAW實用快捷鍵大全
深圳網站建設的時候我們該注意那些問題
把自己的關鍵詞做進百度相關搜索有哪些技巧
建設企業網站基本要素有哪些?
網站改版需要注意什么問題？