【紧急】禁止国内搜索引擎访问自己网站，防止AI窃取你的劳动成果 New
这年头，openAI人工智能的兴起，什么GPTBot、百度文心一言、Kimi、阿里云天工AI、豆包、清华大学智谱清言、讯飞星火、腾讯混元....他们都在训练大模型，投喂给这些人工智能人类的知识，这些知识哪里来？
通过爬虫，没事来你的网站，收集你的数据，却不收录你网站，更别提给流量了！
原本属于你的流量都给别人了！
只有那些谷歌搜索、必应搜索等国外搜索，公正些！
国内，还是建议用户采用 “必应”
只允许谷歌搜索、必应搜索爬虫的robots
User-Agent: GooglebotAllow: /Disallow: User-Agent: bingbotAllow: /Disallow: User-Agent: *Disallow: /自定义区
DZ论坛能用的robots
知乎的robots文件分析解读：
腾讯、搜狗、百度对知乎都有投资，所以，只保留了百度、搜狗。
北京智者天下科技有限公司为什么这样做？还不是怕AI，保护自己的利益！
中小微企业、个人站长该怎么办？
学知乎，把所有搜索引擎都屏蔽了，只保留给流量的搜索引擎。
建议只保留必应，Google，剩下的搜索引擎不公正，捧他们也没啥用。
3和Q大战，说明什么？
国内都是明着、暗里斗争的！
有没有觉得，你是暗里斗争的牺牲品？
明着意思是打着收录优秀网站的幌子，其实就是间接打压其他人。
不收录，能省搜索引擎的服务器资源，还有巨大的利益，把流量都引导自己家的网站，什么知道、什么百科、什么贴吧等，
看看谷歌作为搜索一哥，从不搞这些花花肠子，把自家服务置顶，更是没有谷歌知道、谷歌百科等侵犯站长利益的网站。
必应搜索也是，为什么他们都那么公正，是因为国外反竞争法很严格。
国内没指望了，那些3、百等公司都是跟上面有合作的，兼职红客， 负责防御工作，要不怎么跟美国斗网络？
缺人才，滴哄着来，狠了，就跑美国了！
以下是知乎的robots文件：
User-agent: Baiduspider-newsDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: BaiduspiderDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Baiduspider-renderDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Baiduspider-imageDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /search-specialDisallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-agent: Sogou web spiderDisallow: /appview/Disallow: /loginDisallow: /logoutDisallow: /resetpasswordDisallow: /termsDisallow: /searchAllow: /tardis/sogou/Disallow: /notificationsDisallow: /settingsDisallow: /inboxDisallow: /admin_inboxDisallow: /*?guide*User-Agent: *Disallow: /
淘宝更加严格，直接屏蔽了所有搜索引擎。现
在是前后端分离，爬虫根本无法爬内容，只能爬到标题。
国内搜索引擎再有市场，不给你流量也白扯！
有奶才是娘，我反正只留下了谷歌、必应。 实在是坑啊
页:
[1]
