Вопрос относительно новичка Scrapy и Scrapy CrowlPython

Программы на Python
Ответить Пред. темаСлед. тема
Anonymous
 Вопрос относительно новичка Scrapy и Scrapy Crowl

Сообщение Anonymous »

Недавно я начал пытаться научиться парсить веб-страницы с помощью Scrapy. Недавно я попытался выполнить Scrapycrawl на сайте books.toscrape.com. Согласно терминалу, вызов Scrapycrawl работает нормально, но он не возвращает количество предметов и не показывает никакой информации о книгах. Мне было интересно, нормально ли это, или в моем коде есть ошибка.
Вот мой код для решения проблемы, если это поможет кому-нибудь понять, что я делаю.
import scrapy

class BookspiderSpider(scrapy.Spider):
name = "bookspider"
allowed_domains = ["books.toscrape.com"]
start_urls = ["https://books.toscrape.com"]

def parse(self, response):
books = response.css('article.product_pod')
for book in books:
yield{
'name': book.css('h3 a::text').get(),
'url': book.css('h3 a').attrib['href'],
}

next_page = response.css('li.next a ::attr(href)').get()
if next_page is not None:
if 'catalogue/' in next_page:
next_page_url = 'https://books.toscrape.com/' + next_page
else:
next_page_url = 'https://books.toscrape.com/catalogue/' + next_page
yield response.follow(next_page_url , callback = self.parse)


Подробнее здесь: https://stackoverflow.com/questions/769 ... rapy-crawl
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение
  • PHP Foreach Loop с использованием модели MVC для новичка для новичка
    Anonymous » » в форуме Php
    0 Ответы
    17 Просмотры
    Последнее сообщение Anonymous
  • Обработка ошибок Scrapy Spider (scrapy.core.scraper)
    Anonymous » » в форуме Python
    0 Ответы
    50 Просмотры
    Последнее сообщение Anonymous
  • 2D-преобразование не работает (вопрос новичка)
    Anonymous » » в форуме CSS
    0 Ответы
    28 Просмотры
    Последнее сообщение Anonymous
  • Ошибка новичка с JOptionPane
    Anonymous » » в форуме JAVA
    0 Ответы
    26 Просмотры
    Последнее сообщение Anonymous
  • Aws sam: самый простой способ для новичка разобраться с версиями Python
    Anonymous » » в форуме Python
    0 Ответы
    17 Просмотры
    Последнее сообщение Anonymous

Вернуться в «Python»