У нас были некоторые серьезные проблемы с (невероятно) плохо написанным пауком в прошлом , и в результате мы заблокировали их. Марко Армент из Tumblr также поделился с нами своими разочарованиями 31.08.2009, что послужило причиной того, что мы заблокировали их.
[Паук Yahoo] затопляет нас 70-200 запросов в секунду примерно с 5:30 утра по восточному поясному времени. Я никогда не видел ничего подобного, даже от их мошеннических «экспериментальных» сканеров, которые издевались над нами в прошлом. Бана Robots.txt недостаточно: мне приходится блокировать их по IP на уровне балансировки нагрузки. Так как в прошлом они злоупотребляли переполнением стека, я подумала, что вы захотите узнать.
Похоже, что веб-поиск Yahoo "Powered by Bing!" в настоящее время. Это хорошо, потому что у нас никогда не было проблем с пауком Бинга (он же MSNBOT).
Итак, поиск в Yahoo совпадает с поиском в Bing сейчас, или мы должны рассмотреть возможность их разблокировки, если они каким-то образом, несмотря ни на что, перестали так сильно сосать?
источник
Ответы:
Я не вижу причин, чтобы разблокировать поискового бота Yahoo. Yahoo может использовать Bing Engine двумя способами. Они могли бы интегрировать его со своими и освободить гибридный сканер в сети, или они могли просто отправлять запросы в Bing Engine и выплевывать результаты, которые они возвращали.
Из документа Joel связан есть другой документ здесь . В этом Yahoo заявляет: «В середине июля мы начали тестировать доставку органических результатов из Bing в Yahoo!» Для меня это означает, что Yahoo не тесно интегрируется с Bing Engine. Они просто вызывают API Bing Engine. Это также имело бы смысл с точки зрения необходимой работы, поскольку движок Yahoo в долгосрочной перспективе уходит.
Это означает, что мы больше не увидим Yahoo Bot, сканирующим сеть, когда 100% результатов появятся в Bing Engine. Поэтому нет никаких причин, чтобы разблокировать его.
источник
Похоже, что они только начали развертывать результаты поиска Bing на Yahoo! около 25% поисков с целью полного переключения в августе / сентябре. Могу поспорить, что паук Yahoo даже больше не работает, и если это так, это не очень актуально.
источник
В понедельник я поднял поисковый запрос в Yahoo - в подтверждение вошли следующие заметки о переходе на Bing, которые могут оказаться уместными:
источник
К вашему сведению, в понедельник, 23 августа (или в течение нескольких дней после этого), Yahoo официально начнет предоставлять результаты поиска BING.
источник