scrapy Craw myspider
Однако, когда я пытаюсь запустить парсер из пользовательского скрипта, он работает не начать. Я разбил сценарий до минимума, который не работает:
Код: Выделить всё
from scrapy.spiderloader import SpiderLoader
from scrapy.crawler import CrawlerRunner
from scrapy.utils.project import get_project_settings
from scrapy.utils.log import configure_logging
from twisted.internet import reactor
settings = get_project_settings()
configure_logging(settings)
runner = CrawlerRunner(settings)
spider_loader = SpiderLoader.from_settings(settings)
for spider in spider_loader.list():
print(f"Adding Spider: {spider}")
runner.crawl(spider_loader.load(spider))
d = runner.join()
d.addBoth(lambda _: reactor.stop())
reactor.run()
Код: Выделить всё
$ python3 minimal.py
Adding Spider: myspider
2024-12-06 14:52:02 [scrapy.addons] INFO: Enabled addons:
[]
Подробнее здесь: https://stackoverflow.com/questions/792 ... rt-spiders