亚洲精品aⅴ无码精品|视频一区二区国产精品|521香蕉永久播放地址|色婷婷亚洲十月十月色天|麻豆国产av超爽剧情系列|亚洲日本电影一区二区三区|日欧 片内射AV在线影院|精品黄色一区二区三区在线观看

不讓搜索引擎收錄的方法


發(fā)布日期:2014-11-12

 

 

很多朋友都會問沈陽網(wǎng)站建設(shè)如何被搜索引擎收錄?我的網(wǎng)站為什么還沒有被收錄?等等這樣的話題,我們也寫過很多關(guān)于這樣的文章,其實還有很多朋友他們還有這樣的困擾,比如我的有些東西不想被搜索引擎收錄我該怎么辦呢?今天我們就來和大家聊聊不讓搜索引擎收錄的方法。

搜索引擎使用spider程序自動訪問互聯(lián)網(wǎng)上的網(wǎng)頁并獲取網(wǎng)頁信息。spider在訪問一個網(wǎng)站時,會首先會檢查該網(wǎng)站的根域下是否有一個叫做 robots.txt的純文本文件,這個文件用于指定spider在您網(wǎng)站上的抓取范圍。您可以在您的網(wǎng)站中創(chuàng)建一個robots.txt,在文件中聲明 該網(wǎng)站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分。                
 
在這里沈陽網(wǎng)站建設(shè)提醒您請注意,僅當(dāng)您的網(wǎng)站包含不希望被搜索引擎收錄的內(nèi)容時,才需要使用robots.txt文件。如果您希望搜索引擎收錄網(wǎng)站上所有內(nèi)容,請勿建立robots.txt文件。            

那么問題來了robots.txt文件因該放在哪里呢? robots.txt文件應(yīng)該放置在網(wǎng)站根目錄下。舉例來說,當(dāng)spider訪問一個網(wǎng)站(比如 http://www.nftprojectcrowds.com)時,首先會檢查該網(wǎng)站中是否存在http://www.nftprojectcrowds.com/robots.txt這個文件,如果 Spider找到這個文件,它就會根據(jù)這個文件的內(nèi)容,來確定它訪問權(quán)限的范圍。

如您還有網(wǎng)站方面的疑問歡迎您來訪我們沈陽網(wǎng)站建設(shè)。

若羌县| 西峡县| 德格县| 万荣县| 淮南市| 崇礼县| 太白县| 肇源县| 遂川县| 刚察县| 浮山县| 通辽市| 通州区| 沙洋县| 龙里县| 玉林市| 苍南县| 岳普湖县| 东乡| 华容县| 平乡县| 汕头市| 东乡县| 苏州市| 桐乡市| 贡山| 平果县| 金沙县| 云梦县| 苗栗县| 宁明县| 鄯善县| 昌宁县| 商南县| 栾川县| 抚顺县| 佛教| 扶绥县| 沧州市| 北宁市| 静乐县|