1.反斜杠的插入

　　還是以Disallow:/a/b.html為例，在編寫該語句的時候，如果忘記加入了反斜杠，則是對全部內容進行開放，這與編寫語句的想法相悖，因為反斜杠的意義是根目錄。

　　2.空格的出現

　　空格的出現就很好理解了，因為搜索引擎對于這個特殊符號的出現并不識別，它的加入只會使語句失去應有的效用。

    第二：編寫的幾個問題

　　1.Robots.txt編寫的順序問題

　　舉個最簡單的例子，如果你想讓自己a文件中的b.html被抓取，那么你怎么編寫呢?是Allow:/a/b.html Disallow:/a/ 還是Disallow:/a/ Allow:/a/b.html這樣？

　　在Robots.txt編寫規則中，它并不執行樹狀分析結構，換句話說編寫時并不應該把母文件夾放在最前，而是遵循一種就近原則，如果我們把母文件夾放在前面，蜘蛛會認為這個途徑被封閉了，不能訪問，而我們最終的目的卻是訪問，這樣一來，目標和實際就大相逕庭了。

　　2.Robots.txt編寫的開放性問題

　　很多上海網站建設 的站長，尤其是新手站長對于Robots.txt的理解過于片面，他們認為既然Robots.txt可以規定蜘蛛的訪問途徑，那我們何必不開放，把所有文件都設置成可訪問，這樣一來網站的收錄量不久立即上升了，其實問題遠遠沒有我們想象的簡單，大家都知道網站中一些固定的文件是不必傳送給搜索引擎訪問的，如果我們把網站“全方位開放”，后果就是加大網站服務器負載，降低訪問速度，減緩蜘蛛的爬行率，對于網站收錄沒有一點用處，所以對于固定不需要訪問的文件，我們直接Disallow掉就可以了。

　　一般情況下，網站不需要訪問的文件有后臺管理文件、程序腳本、附件、數據庫文件、等等。

　　3.Robots.txt編寫的重復性問題

　　我們每天都在寫著原創內容，然后更新到自己的網站中，大家想過沒有我們這樣做的目的是什么?當然是為了討搜索引擎的好，大家都知道搜索引擎很看重原創內容，對于原創內容的收錄很快，相反，如果你的網站中充斥著大量的復制內容，那么我只能遺憾的告訴你，網站的前途一片渺茫。不過這也從另一個方面告訴我們要積極的利用robots文件禁止重復頁面的代碼，降低頁面的重復度，但是在編寫robots文件時一定要記得

　　在User-agent后加入某個搜索引擎，例如User-agent:BaiduSpider Disallow:/，如果沒有加入，編寫成User-agent: * Disallow: /形式，則是對網站所有內容的“屏蔽”。

　　4.Robots.txt編寫的meta問題

　　在 Robots.txt編寫規則中，有一個取最強參數法則，而且如果網站以及頁面標簽上同時出現robots.txt文件和meta標簽，那么搜索引擎就會服從兩個規則中較為嚴格的一個，即禁止搜索引擎對于某個頁面的索引，當然如果robots.txt文件和meta標簽不是出現一個文件中，那么搜索引擎就會遵循就近原則，就會索引meta標簽前的所有文件。