xiao9469 发表于 2024-8-7 17:39:22

百度蜘蛛不会使用IPHONE吧!!!!

"https://3325.cn/en/Zoologize/" "Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)"

IT618发布 发表于 2024-8-7 17:40:20

3.如何区分PC与移动网页搜索的UA

PC搜索完整UA:Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

移动搜索完整UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)


pc ua:通过关键词Baiduspider/2.0来确定是pc ua

移动ua:通过关键词android和mobile确定是来自移动端抓取访问,Baiduspider/2.0 确定为百度爬虫。

独家记忆 发表于 2024-8-7 17:41:07

百度Spider新增渲染抓取UA公告
发布日期:2017-03-24

为了给搜索用户更好的体验、对站点实现更好地索引和呈现,百度搜索需要访问网站的CSS、Javascript和图片信息,以便更精准地理解页面内容,实现搜索结果最优排名,百度搜索会全面启用最新UA来访问站点的上述资源。从3月24日(2017)开始,百度搜索抽取了部分优质站点进行抓取内测,可能会对站点服务器造成一定压力影响,请尽量不要对UA进行封禁,以免造成不可逆转的损失。

最新UA如下:

PC:Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

移动:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 like Mac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

婷姐 发表于 2024-8-7 17:41:28

当然不会

婷姐 发表于 2024-8-7 17:41:40

看下蜘蛛ip

浅生 发表于 2024-8-7 17:41:55

难怪我服务器时不时蹦掉

拾光 发表于 2024-8-7 17:42:09

nginx有根据UA限制请求频率的参数,百度一大堆。 设一下每秒某个bot最多抓2次,或者干脆1r/s 就最好了。
页: [1]
查看完整版本: 百度蜘蛛不会使用IPHONE吧!!!!

创宇盾启航版免费网站防御网站加速服务