久久久久av_欧美日韩一区二区在线_国产精品三区四区_日韩中字在线

Discuz! 官方交流社區

標題: 請問Discuz系統默認的robots.txt會屏蔽Google抓取嗎? [打印本頁]

作者: 品質    時間: 2023-6-18 09:43
標題: 請問Discuz系統默認的robots.txt會屏蔽Google抓取嗎?
robots.txt, 使用的是系統默認的內容 ,未曾調整過,但是通過Google搜索,會出現如下提示,請問這是怎么回事呢?謝謝!

(, 下載次數: 6) (, 下載次數: 5)


系統自帶的robots.txt如下:
  1. #
  2. # robots.txt for Discuz! X3
  3. #

  4. User-agent: *
  5. Allow: /data/attachment/
  6. Allow: /data/cache/
  7. Allow: /uc_server/data/avatar/
  8. Disallow: /api/
  9. Disallow: /data/
  10. Disallow: /source/
  11. Disallow: /install/
  12. Disallow: /template/default/
  13. Disallow: /config/
  14. Disallow: /uc_client/
  15. Disallow: /uc_server/
  16. Disallow: /admin.php
  17. Disallow: /search.php
  18. Disallow: /member.php
  19. Disallow: /api.php
  20. Disallow: /misc.php
  21. Disallow: /connect.php
  22. Disallow: /forum.php?mod=redirect*
  23. Disallow: /forum.php?mod=post*
  24. Disallow: /home.php?mod=spacecp*
  25. Disallow: /*?mod=misc*
  26. Disallow: /*?mod=attachment*
  27. Disallow: /*mobile=yes*
復制代碼



作者: 耗子    時間: 2023-6-18 10:57
會的




作者: 品質    時間: 2023-6-19 22:26
耗子 發表于 2023-6-18 10:57
會的

謝謝回復!請問怎么調整呢?
作者: Discuz有償服務    時間: 2023-6-19 23:24
不會
作者: 湖中沉    時間: 2023-6-20 07:43
耗子 發表于 2023-6-18 10:57
會的

會在哪里?你說說看……

很明顯默認robots.txt完全沒有對GG搜索單獨的屏蔽條目啊……
作者: crx349    時間: 2023-6-20 16:24
robots.txt
默認不會屏蔽搜索引擎 搜索不到只能說明 google搜索引擎沒收錄你站內容哦
作者: 耗子    時間: 2023-6-23 14:01
Discuz有償服務 發表于 2023-6-19 23:24
不會

他遞交robots.txt  里面包含 Disallow  這個難道 不會屏蔽google抓取 這里定義的一些目錄嗎?
作者: Discuz有償服務    時間: 2023-7-9 20:08
耗子 發表于 2023-6-23 14:01
他遞交robots.txt  里面包含 Disallow  這個難道 不會屏蔽google抓取 這里定義的一些目錄嗎? ...

那些圖片附件、頭像、后臺地址等內容不需要被收錄,不影響帖子等正常頁面收錄,而且這個也不是針對google的,有問題的話所有搜索引擎都一樣
作者: 卡卡北    時間: 2023-7-11 10:13
User-agent: * 意思是允許所有種類的用戶訪問,它后面的Allow:和Disallow: 意思是,雖然我允許所有用戶訪問,但我還是給出一定的條件,用以下實例來解說:
Disallow: /data/ 意思是你不可以訪問/data/這個文件夾,但又有一句Allow: /data/attachment/ 意思是雖然我前面說你不可以訪問/data/這個文件夾,但是可以直接訪問/data/attachment/這個文件夾,意思是/data/文件夾下除/attachment/之外,別的文件夾不能訪問。





歡迎光臨 Discuz! 官方交流社區 (http://www.9999xn.com/) Powered by Discuz! W1.0