經(jīng)發(fā)現(xiàn),雖然wget遵循 robots.txt 規(guī)則,但是那個還是可以繞過去,現(xiàn)在把我自己使用的屏蔽方法分享給大家:成都服務器托管
1. 屏蔽下載任何文件
.htaccess
1 2 3 4 5 6 | SetEnvIfNoCase User-Agent "^wget" bad_bot
Order Allow,Deny Allow from all Deny from env=bad_bot
|
2. 屏蔽下載部分文件
.htaccess
1 2 3 4 5 6 7 8 | SetEnvIfNoCase User-Agent "^Wget" bad_bot SetEnvIfNoCase User-Agent "^Wget/1.5.3" bad_bot SetEnvIfNoCase User-Agent "^Wget/1.6" bad_bot
Order Allow,Deny Allow from all Deny from env=bad_bot
|