Я проверяю новый webcrawler, и я ищу некоторые хорошие веб-сайты, которые могли бы сбить его с толку (перенаправления, кадры, что-либо). Кто-либо знает о некоторых действительно сложных сайтах или, которые могли бы сбить его с толку? Спасибо
Если вы протестируете его на топ-1000 Alexa или около того, вы получите довольно репрезентативную выборку того, что происходит на веб-сайтах. Возможно, у вас не будет возможности протестировать некоторые устаревшие протоколы (например, набор фреймов и т. Д.), Но вы получите довольно хорошее представление о производительности, особенно там, где это важно.