Что такое типичная вежливость фактор для поискового робота?
Помимо постоянного соблюдения robot.txt
И "Disallow:", и нестандартная "Crawl-delay:"
Но если на сайте не указан явная задержка сканирования, какое значение должно быть установлено по умолчанию?