為什麼你需要 Screaming Frog?它能診斷什麼?
Screaming Frog 是一款能模擬 Googlebot 爬取你網站的桌面工具,用來找出技術性 SEO 問題的根源。它能處理的場景包括網站遷移後的連結檢查、定期的技術健康檢查,以及大型網站的全面審計。與 Google Search Console(GSC)顯示的「結果」不同,Screaming Frog 能讓你深入「過程」,直接觀察爬蟲在爬取你的網站時遇到了什麼障礙,例如哪些資源被阻擋、哪些連結斷裂,或是哪些頁面因為設定問題而無法被正確索引。對於台灣的網站管理者而言,這意味著你能主動發現問題,而不是等到 GSC 報告異常時才被動處理。
台灣網站爬取設定:避免拖垮主機與正確處理中文網址
針對台灣常見的共享主機環境,調整爬取速度與並發數是避免觸發主機防護機制的第一步。在 Screaming Frog 的設定中,你應該將「Configuration」→「Speed」裡的 Max Threads(最大執行緒數)和 Max Crawl Speed(最大爬取速度)從預設值調低。一個保守的建議是將 Max Threads 設為 2-5 之間,Max Crawl Speed 設為每秒 1-2 個請求,然後觀察伺服器的回應情況。如果爬取過程中出現大量 503 錯誤,表示伺服器已經不堪負荷,需要進一步調低數值或安排在凌晨等流量低峰時段進行爬取。
12 個核心頁籤實戰解析
完成爬取後,建議依照一個合乎邏輯的順序來檢閱資料:從整體的「Internal」頁籤開始,接著檢查阻礙爬取與索引的「Response Codes」與「Directives」(包含 robots 標籤與 canonical),再深入頁面內容層面的「Page Titles」、「Meta Description」、「H1」、「Images」與「Canonicals」,最後查看「Hreflang」、「Structured Data」、「Pagination」以及與站點地圖的對照「Sitemaps」頁籤。這個順序能讓你從最基礎的爬取覆蓋率問題,逐步深入到內容與結構性的 SEO 細節,建立完整的診斷脈絡。
從爬取結果找出問題:關鍵指標與過濾器設定
使用 Screaming Frog 的過濾器(Filter)功能,是快速篩選出最需要關注問題清單的關鍵。例如,在「Response Codes」頁籤下,你可以使用過濾器找出所有「Client Error (4xx)」的頁面,這些就是直接的損壞連結;在「Internal」頁籤,你可以過濾「Missing」或「Duplicate」的 Meta Description。對於檢查孤立頁面(Orphan URLs),你可以查看「Inlinks」欄位為 0 的 URL,這些頁面沒有被網站內部任何其他頁面連結到,搜索引擎可能難以發現或評估其重要性。這些過濾器讓你免於在成千上萬的資料中大海撈針。
診斷流程:從症狀到原因的排查步驟
當 GSC 出現問題報告時,一個有效的排查步驟是:先用 Screaming Frog 爬取對應區域或整個網站,然後依照「確認範圍 → 篩選異常 → 交叉比對 → 定位根因」的流程進行。以「GSC 報告大量 404 錯誤」為例:首先,確認你爬取的網域與 GSC 監測的網域完全一致(包括 www 與否)。接著,在 Screaming Frog 的 Response Codes 頁籤過濾出所有 404 頁面。然後,將這份清單與 GSC 的「索引」→「網頁」報告中顯示「已找到 - 目前尚未建立索引」的清單進行交叉比對。最後,逐一點擊 Screaming Frog 中每個 404 URL 的「Inlinks」分頁,查看是哪些頁面連結到了這個無效網址,從而決定是該修復連結、設定 301 轉址,還是徹底移除該連結。
修復優先順序:哪些問題要先處理?
優先修復直接影響爬取與索引的阻斷性問題。第一優先級是處理讓爬蟲完全無法存取或索引頁面的問題,例如伺服器回應 5xx 錯誤、錯誤的 noindex 標記、或 robots.txt 誤擋了重要目錄。第二優先級是修正會混淆搜索引擎或稀釋排名信號的問題,例如重定向鏈過長(理想狀態是直接 301 跳轉)、重複的 canonical 標籤指向不同頁面。第三優先級才是改善可能影響點擊率與使用者體驗的項目,如缺失或過長的 Meta Title/Description。建立這樣的優先順序框架,能確保你將有限的修復資源,投入到對 SEO 影響最深遠的地方。
進階應用:整合 GSC API 與大型站爬取技巧
使用 Screaming Frog 的 GSC API 整合功能,可以在爬取報告中直接匯入每個 URL 的實際表現數據,如點擊次數、展示次數和平均排名。這讓你能夠快速識別出那些「爬得到但流量低」的頁面,進一步診斷其內容相關性或排名潛力問題。對於擁有數十萬頁面的大型網站,全站爬取可能耗時且消耗資源。此時可以使用「List」模式,將 GSC 或 Sitemap 中特定的 URL 清單匯入 Screaming Frog 進行針對性爬取,或是利用「Configuration」→「Spider」→「Limits」設定爬取深度或限制爬取特定目錄,實現分段、高效能的審計。
Screaming Frog vs. Sitebulb:我該選哪一個工具?
Screaming Frog 與 Sitebulb 都是優秀的技術 SEO 爬取工具,但核心優勢不同。Screaming Frog 更像是一個靈活的數據探勘工具,它提供未經修飾的原始數據、極其強大的過濾與匯出能力,適合需要深度客製化分析或將數據導入其他系統(如 Data Studio)的用戶。Sitebulb 則將重點放在「解讀」與「視覺化」上,它內建豐富的圖表、連結圖譜,並自動為問題生成優先級建議,報告更適合直接分享給非技術背景的團隊成員或客戶。選擇的依據在於你的工作流程:如果你需要的是快速獲取問題清單並自行分析,選 Screaming Frog;如果你需要一份能立即溝通的完整視覺化診斷報告,Sitebulb 可能更省時。
常見誤區與注意事項
使用 Screaming Frog 時,幾個常見的誤區會導致診斷失真或工作白費。第一是設定的爬取範圍太大,例如未排除測試目錄或管理後台,導致報告充滿無關 URL。第二是只關注表面的錯誤代碼(如 404),而忽略了爬取深度(Crawl Depth)欄位——如果重要頁面的爬取深度超過 5,這本身就暴露了內部連結結構的缺陷。第三是誤解過濾器的邏輯,例如在「Canonicals」頁籤過濾「Non-Indexable」時,未意識到這包含了所有被 noindex 或 robots.txt 擋住的頁面,而不僅是 canonical 錯誤。記住,工具的價值在於引導你思考問題的根源,而不只是列出問題清單。
Screaming Frog 免費版和付費版最大的差別是什麼?
最關鍵的差別在於免費版最多只能爬取 500 個 URL,且不支援 JavaScript 渲染、Google Analytics 或 Google Search Console 資料整合等進階功能。對於大多數超過數百頁的網站,免費版無法完成全站爬取,因此付費版對於需要進行完整技術審計的網站是必要的。
為什麼我用 Screaming Frog 爬取的頁面數量,比 Sitemap 上列的 URL 少很多?
這通常有兩種可能原因。第一,你的網站可能大量使用 JavaScript 動態生成內容與連結,而 Screaming Frog 預設不執行 JavaScript,導致這些動態內容無法被發現,你需要在「Configuration」→「Spider」→「Rendering」中將模式改為「JavaScript」後重新爬取。第二,可能是你爬取的範圍設定有誤,例如輸入了錯誤的網址或未包含子網域,請在開始爬取前仔細檢查網址列。
如何只爬取網站的某個特定目錄(例如 /blog/)下的所有頁面?
你可以在開始爬取前,使用「Configuration」→「Spider」→「Crawl Scope」中的設定來限制範圍。選擇「Crawl Inside Subdomains」並具體指定網址,例如輸入 `https://example.com/blog/`,工具就會從這個 URL 開始,只爬取此路徑下的所有頁面。這對於針對特定區域進行診斷非常有用。
Screaming Frog 報告中的「Canonical」頁籤和「Directives」頁籤有什麼不同?
「Canonical」頁籤專門聚焦於 canonical 標籤本身,用來檢查是否有設定、是否指向可索引的頁面、或是否存在多個 canonical 衝突。「Directives」頁籤則是一個更廣泛的分類,它包含了所有影響爬蟲或索引的 HTML 標籤,除了 canonical,還包含 robots meta 標籤(如 noindex, nofollow)的檢查。兩者都重要,但「Directives」提供了一個更全面的「可索引性」控制總覽。
爬取過程中遇到很多 503 錯誤,我該怎麼辦?
503 錯誤表示你的伺服器暫時無法處理請求,通常是因為 Screaming Frog 的爬取速度太快,超出了伺服器的負荷能力,觸發了防護機制。請立即暫停爬取,前往「Configuration」→「Speed」,將 Max Threads 和 Max Crawl Speed 的數值調低至原先的一半或更低,然後重新開始爬取。如果問題仍然存在,建議在網站流量較低的時段(如深夜)進行爬取。