🏠首页 › 站长杂谈 › 防火墙禁止海外IP访问，会把谷歌和bing的蜘蛛屏蔽吗

迪巴拉 发表于 2024-8-17 21:05:52

防火墙禁止海外IP访问，会把谷歌和bing的蜘蛛屏蔽吗

防火墙禁止海外IP访问，是不是也会把谷歌和bing的蜘蛛屏蔽？   谷歌和bing的 ua是什么？怎么加入白名单。不想百度，选答案。

婷姐 发表于 2024-8-17 21:06:24

不会的 你可以全局设置把这两 ua 加入白名单

婷姐 发表于 2024-8-17 21:06:59

ua怎么设置？代码发一下？

IT618发布 发表于 2024-8-17 21:07:23

对，必须啊

IT618发布 发表于 2024-8-17 21:07:42

不会的，谷歌爬虫不是那些IP，不用担心。

Crystαl 发表于 2024-8-17 21:08:38

[
            [
                'id' => 'baidu',
                'name' => '百度',
                'spider_host' => '*.crawl.baidu.com',
                'spider_name' => 'Baiduspider'
            ],
            [
                'id' => '360',
                'name' => '360',
                'spider_host' => '',
                'spider_name' => '360Spider'
            ],
            [
                'id' => 'shenma',
                'name' => '神马',
                'spider_host' => '*.crawl.sm.cn',
                'spider_name' => 'YisouSpider'
            ],
            [
                'id' => 'sougou',
                'name' => '搜狗',
                'spider_host' => '*.crawl.sogou.com',
                'spider_name' => 'Sogou Web Spider'
            ],
            [
                'id' => 'toutiao',
                'name' => '头条',
                'spider_host' => '*.crawl.bytedance.com',
                'spider_name' => 'Bytespider'
            ],
            [
                'id' => 'google',
                'name' => '谷歌',
                'spider_host' => '*.googlebot.com',
                'spider_name' => 'Googlebot'
            ],
            [
                'id' => 'bing',
                'name' => '必应',
                'spider_host' => '*.search.msn.com',
                'spider_name' => 'BingBot'
            ],
            [
                'id' => 'yandex',
                'name' => 'Yandex',
                'spider_host' => '*.spider.yandex.com',
                'spider_name' => 'YandexBot'
            ]

TyCoding 发表于 2024-8-17 21:09:09

啊，我以为你能懂。才看到，设置教程来了。
首先，禁止国外访问，会影响谷歌和必应抓取的，把UA加入黑名单，就不会有影响了。
登录宝塔-打开防火墙-全局设置-UA白名单 中添加 bingbot 和 Googlebot
这样加入UA白名单以后，就不会拦截谷歌和必应蜘蛛了，抓取也不会受阻。
如果，你的网站经常被攻击、被扫描、被投毒，你可以设置设置
登录宝塔-打开防火墙-全局设置-非浏览器拦截 选择打开 对的，没错，打开就行了，不会影响蜘蛛的。

婷姐 发表于 2024-8-17 21:09:48

都不用担心

独家记忆 发表于 2024-8-17 21:10:12

不会的。。。

拾光 发表于 2024-8-17 21:10:33

或者，登录宝塔-打开防火墙-全局设置-UA白名单-设置-导入下面这段代码
["360Spider","Sogou","Googlebot","Bytespider","bingbot","Baiduspider","spider"]

查看完整版本: 防火墙禁止海外IP访问，会把谷歌和bing的蜘蛛屏蔽吗