Tivemos alguns problemas sérios com a (incrivelmente) aranha mal escrita do Yahoo no passado e, como resultado, os bloqueamos. Marco Arment, do Tumblr, também compartilhou suas frustrações conosco em 31/8/2009, o que foi um fator para bloqueá-las.
[O Yahoo's Spider] vem nos inundando com 70-200 solicitações / segundo desde cerca de 5:30 da manhã EST. Eu nunca vi nada assim, mesmo dos rastreadores "experimentais" desonestos que nos abusaram no passado. A proibição do Robots.txt não é suficiente: estou tendo que bloqueá-los por IP no nível do balanceador de carga. Como eles abusaram do Stack Overflow no passado, achei que você poderia querer saber.
Parece que a pesquisa na web do Yahoo é "Powered by Bing!" agora. Isso é bom, porque nunca tivemos um problema com a aranha do Bing (também conhecida como MSNBOT).
Então, a pesquisa do Yahoo é a mesma que a pesquisa do Bing agora, ou deveríamos estar olhando para potencialmente desbloqueá-los se, de alguma forma, contra todas as probabilidades, pararem de chupar tanto?