Я видел этот пост о том, как сделать сканирование любого сайта без ограничения разрешенных доменов.
Есть ли лучший способ сделать это, например, используя регулярное выражение в переменной разрешённых доменов, например:
allowed_domains = ["*"]
Я надеюсь, что есть какой-то другой способ сделать это, кроме взлома фреймворка scrapy.