Код: Выделить всё
class IndiaSpider(scrapy.Spider):
name = 'india'
allowed_domains = ['indiamart.com']
# search_value = 'car'
start_urls = [f'https://dir.indiamart.com/search.mp?ss=laptop&prdsrc=1&res=RC4']
user_agent = 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/108.0.0.0 Safari/537.36'
def request_header(self):
yield scrapy.Request(url=self.start_urls, callback=self.parse, headers={'User-Agent':self.user_agent})
def parse(self, response):
title = response.xpath("//span[@class='elps elps2 p10b0 fs14 tac mListNme']/a/text()").get()
related_link = response.xpath("//span[@class='elps elps2 p10b0 fs14 tac mListNme']/a/@href").get()
yield{
'titling':title,
'rel_link':related_link
}
Код: Выделить всё
2023-02-14 15:20:34 [scrapy.core.scraper] DEBUG: Scraped from
2023-02-14 15:20:34 [scrapy.core.engine] ИНФОРМАЦИЯ: Закрытие паука (завершено)
Я получал результаты вчера, и он работает хорошо, но сегодня он не возвращает никаких результатов. это не веб-сайт на основе JavaScript. Я пробовал несколько раз, но результат тот же
Подробнее здесь: https://stackoverflow.com/questions/751 ... turns-none
Мобильная версия