主頁 > 知識庫 > 非常好的網(wǎng)站生成靜態(tài)頁面防采集策略與方法

非常好的網(wǎng)站生成靜態(tài)頁面防采集策略與方法

熱門標(biāo)簽:地圖標(biāo)注的聊天案例 智能外呼系統(tǒng)的劣勢 定位地圖標(biāo)注 騰訊搜狗地圖標(biāo)注在哪里 江門申請400電話 生化危機3原版地圖標(biāo)注 慶陽電腦外呼系統(tǒng)代理商 電銷客服機器人價格 泉州呼叫中心外呼系統(tǒng)多少錢
目前防采集的方法有很多種,先介紹一下常見防采集策略方法和它的弊端及采集對策: 
一、判斷一個IP在一定時間內(nèi)對本站頁面的訪問次數(shù),如果明顯超過了正常人瀏覽速度,就拒絕此IP訪問

    弊端:
    1、此方法只適用于動態(tài)頁面,如:asp\jsp\php等...靜態(tài)頁面無法判斷某個IP一定時間訪問本站頁面的次數(shù)。
    2、此方法會嚴重影響搜索引擎蜘蛛對其收錄,因為搜索引擎蜘蛛收錄時,瀏覽速度都會比較快而且是多線程。此方法也會拒絕搜索引擎蜘蛛收錄站內(nèi)文件
    采集對策:只能放慢采集速度,或者不采
    建議:做個搜索引擎蜘蛛的IP庫,只允許搜索引擎蜘蛛快速瀏覽站內(nèi)內(nèi)容。搜索引擎蜘蛛的IP庫的收集,也不太容易,一個搜索引擎蜘蛛,也不一定只有一個固定的IP地址。
    評論:此方法對防采集比較有效,但卻會影響搜索引擎對其收錄。

    二、用javascript加密內(nèi)容頁面

    弊端:此方法適用于靜態(tài)頁面,但會嚴重影響搜索引擎對其收錄情況,搜索引擎收到到的內(nèi)容,也都是加密后的內(nèi)容
    采集對策:建議不采,如非要采,就把解密碼的JS腳本也采下來。
    建議:目前沒有好的改良建議
    評論:建議指望搜索引擎帶流量的站長不要使用此方法。

    三、把內(nèi)容頁面里的特定標(biāo)記替換為”特定標(biāo)記+隱藏版權(quán)文字“

    弊端:此方法弊端不大,僅僅會增加一點點的頁面文件大小,但容易反采集
    采集對策:把采集來的含有隱藏版權(quán)文字內(nèi)容的版權(quán)文字替掉,或替換成自己的版權(quán)。
    建議:目前沒有好的改良建議
    評論:自己感覺實用價值不大,就算是加上隨機的隱藏文字,也等于畫蛇添足。

    四、只允許用戶登陸后才可以瀏覽

    弊端:此方法會嚴重影響搜索引擎蜘蛛對其收錄
    采集對策:目前落伍已經(jīng)有人發(fā)了對策文章 ,具體對策就看這個吧《ASP小偷程序如何利用XMLHTTP實現(xiàn)表單的提交以及cookies或session的發(fā)送》
    建議:目前沒有好的改良建議
    評論:建議指望搜索引擎帶流量的站長不要使用此方法。不過此方法防一般的采集程序,還是有點效果的。

    五、用javascript、vbscript腳本做分頁

    弊端:影響搜索引擎對其收錄
    采集對策:分析javascript、vbscript腳本,找出其分頁規(guī)則,自己做個對應(yīng)此站的分頁集合頁即可。
    建議:目前沒有好的改良建議
    評論:感覺懂點腳本語言的人都能找出其分頁規(guī)則

    六、只允許通過本站頁面連接查看,如:Request.ServerVariables("HTTP_REFERER")

    弊端:影響搜索引擎對其收錄
    采集對策:不知道能不能模擬網(wǎng)頁來源。。。。目前我沒有對應(yīng)此方法的采集對策
    建議:目前沒有好的改良建議
    評論:建議指望搜索引擎帶流量的站長不要使用此方法。不過此方法防一般的采集程序,還是有點效果的。

    從以上可以看出,目前常用的防采集方法,要么會對搜索引擎收錄有較大影響,要么防采集效果不好,起不到防采集的效果。那么,還有沒有一種有效防采集,而又不影響搜索引擎收錄的方法呢?那就請繼續(xù)往下看吧!
從前面的我講的采集原理大家可以看出,絕大多數(shù)采集程序都是靠分析規(guī)則來進行采集的,如分析分頁文件名規(guī)則、分析頁面代碼規(guī)則。
    一、分頁文件名規(guī)則防采集對策
    大部分采集器都是靠分析分頁文件名規(guī)則,進行批量、多頁采集的。如果別人找不出你的分頁文件的文件名規(guī)則,那么別人就無法對你的網(wǎng)站進行批量多頁采集。
    實現(xiàn)方法:
    我認為用MD5加密分頁文件名是一個比較好的方法,說到這里,有人會說,你用MD5加密分頁文件名,別人根據(jù)此規(guī)則也可以模擬你的加密規(guī)則得到你的分頁文件名。
    我要指出的是我們加密分頁文件名時,不要只加密文件名變化的部分
    如果I代表分頁的頁碼,那么我們不要這樣加密:page_name=Md5(I,16)&".htm"
最好給要加密的頁碼上再跟進一個或多個字符,如:page_name=Md5(I&"任意一個或幾個字母",16)&".htm"
    因為MD5是無法反解密的,別人看到的會頁字母是MD5加密后的結(jié)果,所以加人也無法知道你在 I 后面跟進的字母是什么,除非他用暴力****MD5,不過不太現(xiàn)實。
    二、頁面代碼規(guī)則防采集對策
如果說我們的內(nèi)容頁面無代碼規(guī)則,那么別人就無法從你的代碼中提取他們所需要的一條條內(nèi)容。所以我們要的這一步做到防采集,就要使代碼無規(guī)則。
    實現(xiàn)方法:
    使對方需要提取的標(biāo)記隨機化
    1、定制多個網(wǎng)頁模板,每個網(wǎng)頁模板里的重要HTML標(biāo)記不同,呈現(xiàn)頁面內(nèi)容時,隨機選取網(wǎng)頁模板,有的頁面用CSS+DIV布局,有的頁面用table布局,此方法是麻煩了點,一個內(nèi)容頁面,要多做幾個模板頁面,不過防采集本身就是一件很煩瑣的事情,多做一個模板,能起到防采集的作用,對很多人來說,都是值得的。
    2、如果嫌上面的方法太麻煩,把網(wǎng)頁里的重要HTML標(biāo)記隨機化,也可以。
    做的網(wǎng)頁模板越多,html代碼越是隨機化,對方分析起內(nèi)容代碼時,就越麻煩,對方針對你的網(wǎng)站專門寫采集策略時,難度就更大,在這個時候,絕大部分人,都會知難而退,因為這此人就是因為懶,才會采集別人網(wǎng)站數(shù)據(jù)嘛~~~再說一下,目前大部分人都是拿別人開發(fā)的采集程序去采集數(shù)據(jù),自己開發(fā)采集程序去采集數(shù)據(jù)的人畢竟是少數(shù)。
    還有些簡單的思路提供給大家:
    1、把對數(shù)據(jù)采集者重要,而對搜索引擎不重要的內(nèi)容用客戶端腳本顯示
    2、把一頁數(shù)據(jù),分為N個頁面顯示,也是加大采集難度的方法
    3、用更深層的連接,因為目前大部分采集程序只能采集到網(wǎng)站內(nèi)容的前3層,如果內(nèi)容所在的連接層更深,也可以避免被采集。不過這樣可能會給客戶造成瀏覽上的不便。如:
    大多網(wǎng)站都是 首頁----內(nèi)容索引分頁----內(nèi)容頁
    如果改成:
    首頁----內(nèi)容索引分頁----內(nèi)容頁入口----內(nèi)容頁
    注:內(nèi)容頁入口最好能加上自動轉(zhuǎn)入內(nèi)容頁的代碼

<meta http-equiv="refresh" content="6;url=內(nèi)容頁(http://www.oureve.net)">
    其實,只要做好防采集的第一步(加密分頁文件名規(guī)則),防采集的效果就已經(jīng)不錯了,還是建議兩條反采集方法同時使用,給采集者增加采集難度,使得他們知難頁退。

標(biāo)簽:錫林郭勒盟 那曲 邢臺 辛集 鷹潭 來賓 山西 萍鄉(xiāng)

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《非常好的網(wǎng)站生成靜態(tài)頁面防采集策略與方法》,本文關(guān)鍵詞  非常,好的,網(wǎng)站,生成,靜態(tài),;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《非常好的網(wǎng)站生成靜態(tài)頁面防采集策略與方法》相關(guān)的同類信息!
  • 本頁收集關(guān)于非常好的網(wǎng)站生成靜態(tài)頁面防采集策略與方法的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章