网创优客建站品牌官网
为成都网站建设公司企业提供高品质网站建设
热线:028-86922220
成都专业网站建设公司

定制建站费用3500元

符合中小企业对网站设计、功能常规化式的企业展示型网站建设

成都品牌网站建设

品牌网站建设费用6000元

本套餐主要针对企业品牌型网站、中高端设计、前端互动体验...

成都商城网站建设

商城网站建设费用8000元

商城网站建设因基本功能的需求不同费用上面也有很大的差别...

成都微信网站建设

手机微信网站建站3000元

手机微信网站开发、微信官网、微信商城网站...

建站知识

当前位置:首页 > 建站知识

Nginx中配置过滤爬虫的User-Agent方法

这篇“Nginx中配置过滤爬虫的User-Agent方法”文章的知识点大部分人都不太理解,所以小编给大家总结了以下内容,内容详细,步骤清晰,具有一定的借鉴价值,希望大家阅读完这篇文章能有所收获,下面我们一起来看看这篇“Nginx中配置过滤爬虫的User-Agent方法”文章吧。

创新互联建站专注于扎赉特网站建设服务及定制,我们拥有丰富的企业做网站经验。 热诚为您提供扎赉特营销型网站建设,扎赉特网站制作、扎赉特网页设计、扎赉特网站官网定制、小程序开发服务,打造扎赉特网络公司原创品牌,更为您提供扎赉特网站排名全网营销落地服务。

Nginx中配置过滤爬虫的User-Agent方法

一看不得了,基本上都是被一个user agent叫"yisouspider"的东西给刷屏了,一看就不知道是哪的蜘蛛,太没节操了。
找到根目录配置区,增加user agent过滤判断语句,发现叫"yisouspider"的直接返回403

注1:如果需要增加多个过滤,这样做

 ($http_user_agent ~* "spider1|spider2|spider3|spider4")

,中间用|隔开就行了

注2:如果你是用的是子目录博客,像我的一样,那么要找到 "location /blog/" 这样的区段去修改

location / {
......其它配置
if ($http_user_agent ~* "yisouspider") {
return 403;
}
}

配置完成wq保存后reload一下nginx,然后使用以下命令自我测试,地址自己改。没装curl的我就没办法了,自己apt或者yum装一个吧,神器来的。

curl -i -a "yisouspider" www.slyar.com/blog/

看到返回403就可以了,说明配置成功

Nginx中配置过滤爬虫的User-Agent方法

以上就是关于“Nginx中配置过滤爬虫的User-Agent方法”这篇文章的内容,相信大家都有了一定的了解,希望小编分享的内容对大家有帮助,若想了解更多相关的知识内容,请关注创新互联行业资讯频道。


当前题目:Nginx中配置过滤爬虫的User-Agent方法
URL地址:http://bjjierui.cn/article/ipoggo.html

其他资讯