Scrapy разрешает все домены

Я видел этот пост о том, как сделать сканирование любого сайта без ограничения разрешенных доменов.

Есть ли лучший способ сделать это, например, используя регулярное выражение в переменной разрешённых доменов, например:

allowed_domains = ["*"]

Я надеюсь, что есть какой-то другой способ сделать это, кроме взлома фреймворка scrapy.

7
задан Community 23 May 2017 в 11:45
поделиться