Příklad špatného robota: Sosospider
14 07 08 - 15:51 Spider, který to trošku přehání...V posledních dvou měsících začal na Internetu řádit Sosospider (User Agent: “Sosospider+(+http://help.soso.com/webspider.htm)”). Několik webových administrátorů reportovalo jeho agresivní chování. V jedno případě bylo zaznamenáno průměrně 4 hity za sekundu po dobu několika hodin! Co je ještě horší je, že Sosospider naprosto ignoruje robots.txt (má nekdo jiné informace?):
Something called “Sosospider+(+http://help.soso.com/webspider.htm)” has just appeared, has entirely bypassed robots.txt (didn't even bother to fetch the file), originates from an IP range which features bad rDNS, and — in aggregate — has just joined the herd of bots in the block list.
Seznam nežádoucích robotů je opravdu dlouhý, ale tento má obzvláště špatné chování!
žádný komentář
Trackback link:
Prosím povolte javascript aby se dalo trackback url vygenerovat