久久久久av_欧美日韩一区二区在线_国产精品三区四区_日韩中字在线

返回列表 發帖
查看: 2590|回復: 8

[已解決] 請問Discuz系統默認的robots.txt會屏蔽Google抓取嗎?

12

主題

66

回帖

89

積分

漸入佳境

貢獻
0 點
金幣
7 個
樓主
發表于 2023-6-18 09:43:21 | 只看樓主 |只看大圖 |倒序瀏覽 |閱讀模式
robots.txt, 使用的是系統默認的內容 ,未曾調整過,但是通過Google搜索,會出現如下提示,請問這是怎么回事呢?謝謝!




系統自帶的robots.txt如下:
  1. #
  2. # robots.txt for Discuz! X3
  3. #

  4. User-agent: *
  5. Allow: /data/attachment/
  6. Allow: /data/cache/
  7. Allow: /uc_server/data/avatar/
  8. Disallow: /api/
  9. Disallow: /data/
  10. Disallow: /source/
  11. Disallow: /install/
  12. Disallow: /template/default/
  13. Disallow: /config/
  14. Disallow: /uc_client/
  15. Disallow: /uc_server/
  16. Disallow: /admin.php
  17. Disallow: /search.php
  18. Disallow: /member.php
  19. Disallow: /api.php
  20. Disallow: /misc.php
  21. Disallow: /connect.php
  22. Disallow: /forum.php?mod=redirect*
  23. Disallow: /forum.php?mod=post*
  24. Disallow: /home.php?mod=spacecp*
  25. Disallow: /*?mod=misc*
  26. Disallow: /*?mod=attachment*
  27. Disallow: /*mobile=yes*
復制代碼


1 貢獻

最佳答案

不會
回復

使用道具 舉報

15

主題

1796

回帖

2076

積分

應用開發者

discuz 老兵

貢獻
10 點
金幣
188 個
QQ
沙發
發表于 2023-6-18 10:57:37 | 只看Ta
會的



回復

使用道具 舉報

12

主題

66

回帖

89

積分

漸入佳境

貢獻
0 點
金幣
7 個
板凳
 樓主| 發表于 2023-6-19 22:26:32 | 只看Ta

謝謝回復!請問怎么調整呢?
回復

使用道具 舉報

4

主題

969

回帖

24萬

積分

管理員

官方有償服務QQ 1453650

貢獻
174 點
金幣
240005 個
QQ
地板
發表于 2023-6-19 23:24:29 | 只看Ta
不會
回復

使用道具 舉報

28

主題

5584

回帖

1萬

積分

應用開發者

貢獻
597 點
金幣
1442 個
QQ
5#
發表于 2023-6-20 07:43:35 | 只看Ta

會在哪里?你說說看……

很明顯默認robots.txt完全沒有對GG搜索單獨的屏蔽條目啊……
回復

使用道具 舉報

18

主題

2104

回帖

3181

積分

應用開發者

貢獻
68 點
金幣
624 個
QQ
6#
發表于 2023-6-20 16:24:47 | 只看Ta
robots.txt
默認不會屏蔽搜索引擎 搜索不到只能說明 google搜索引擎沒收錄你站內容哦
回復

使用道具 舉報

15

主題

1796

回帖

2076

積分

應用開發者

discuz 老兵

貢獻
10 點
金幣
188 個
QQ
7#
發表于 2023-6-23 14:01:13 | 只看Ta

他遞交robots.txt  里面包含 Disallow  這個難道 不會屏蔽google抓取 這里定義的一些目錄嗎?
回復

使用道具 舉報

4

主題

969

回帖

24萬

積分

管理員

官方有償服務QQ 1453650

貢獻
174 點
金幣
240005 個
QQ
8#
發表于 2023-7-9 20:08:56 | 只看Ta
耗子 發表于 2023-6-23 14:01
他遞交robots.txt  里面包含 Disallow  這個難道 不會屏蔽google抓取 這里定義的一些目錄嗎? ...

那些圖片附件、頭像、后臺地址等內容不需要被收錄,不影響帖子等正常頁面收錄,而且這個也不是針對google的,有問題的話所有搜索引擎都一樣
回復

使用道具 舉報

20

主題

135

回帖

185

積分

漸入佳境

貢獻
4 點
金幣
9 個
9#
發表于 2023-7-11 10:13:38 | 只看Ta
User-agent: * 意思是允許所有種類的用戶訪問,它后面的Allow:和Disallow: 意思是,雖然我允許所有用戶訪問,但我還是給出一定的條件,用以下實例來解說:
Disallow: /data/ 意思是你不可以訪問/data/這個文件夾,但又有一句Allow: /data/attachment/ 意思是雖然我前面說你不可以訪問/data/這個文件夾,但是可以直接訪問/data/attachment/這個文件夾,意思是/data/文件夾下除/attachment/之外,別的文件夾不能訪問。
回復

使用道具 舉報

您需要登錄后才可以回帖 登錄 | 立即注冊

本版積分規則

  • 關注公眾號
  • 有償服務微信
  • 有償服務QQ

手機版|小黑屋|Discuz! 官方交流社區 ( 皖ICP備16010102號 |皖公網安備34010302002376號 )|網站地圖|star

GMT+8, 2025-7-3 02:39 , Processed in 0.060761 second(s), 14 queries , Redis On.

Powered by Discuz! W1.0 Licensed

Cpoyright © 2001-2025 Discuz! Team.

關燈 在本版發帖
有償服務QQ
有償服務微信
返回頂部
快速回復 返回頂部 返回列表