Показаны сообщения с ярлыком googlebot. Показать все сообщения
Показаны сообщения с ярлыком googlebot. Показать все сообщения

среда, 16 июня 2010 г.

HTTP_FROM:googlebot(at)googlebot.com

Дак вот он какой - северный олень! )

HTTP_FROM: googlebot(at)googlebot.com;
HTTP_USER_AGENT: Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html);
REMOTE_ADDR: 66.249.71.114;

Вот так можно опознать ботов гугла которые шарят по инету!
По этой причине нам приходит целая куча сообщений об ошибках на странице которые пытается запросить бот при этом используя кривые параметры в query string.

Сегодня наконец-то дошли руки создать robots.txt с директивами запрета доступа для ботов. посмотрим много ли дебаг сообщений придет за ночь )

Кстати вот этот сервис мне очень нравится: http://www.geobytes.com/IpLocator.htm?GetLocation&IpAddress=66.249.71.114

с его помощью узнал где живет этот самый бот )