Парсинг веб-страниц с помощью Selenium [дубликат]Python

Программы на Python
Ответить Пред. темаСлед. тема
Anonymous
 Парсинг веб-страниц с помощью Selenium [дубликат]

Сообщение Anonymous »

Я пытаюсь написать скрипт на Python, который использует селен для получения некоторой информации с этого сайта. Похоже, Cloudfare блокирует скрипт, потому что это бот. Здесь я публикую часть кода:

Код: Выделить всё

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.common.keys import Keys
from selenium.webdriver.support.wait import WebDriverWait

options = webdriver.ChromeOptions()
options.add_argument("--disable-blink-features=AutomationControlled")
options.add_argument("--incognito")
options.add_experimental_option("excludeSwitches", ["enable-automation"])
options.add_experimental_option("useAutomationExtension", False)
prefs = {"profile.managed_default_content_settings.images": 2,
"profile.default_content_setting_values.notifications": 2
}

options.add_experimental_option("prefs", prefs)
driver = webdriver.Chrome(options=options)

driver.get("https://worldwide.espacenet.com/")
advanced_search = WebDriverWait(driver, 10).until( lambda x: x.find_element(By.XPATH, "/html/body/div/div/nav/ul/li[5]/label/span")) #toggle to be triggered to enter in advanced search mode
advanced_search.click()
Cloudfare мгновенно блокирует страницу и просит пользователя подтвердить, что он человек. Есть ли какие-нибудь способы заставить веб-сайт думать, что он взаимодействует с реальным пользователем, или какие-то опции, которые можно добавить непосредственно в веб-драйвер селена?
Я также пытался добавить скрипт, который перемещает мышь случайным образом. в окне
РЕДАКТИРОВАТЬ: я хочу использовать библиотеку под лицензией MIT или Apache, поэтому я не могу использовать undetected_chromedriver, даже если она работает хорошо. Спасибо

Подробнее здесь: https://stackoverflow.com/questions/791 ... h-selenium
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение
  • Парсинг веб-страниц / Парсинг веб-страниц Zomato с помощью BeautifulSoup
    Anonymous » » в форуме Python
    0 Ответы
    29 Просмотры
    Последнее сообщение Anonymous
  • Парсинг веб-страниц с помощью Python с использованием Selenium: невозможно перемещаться между страницами
    Anonymous » » в форуме Python
    0 Ответы
    20 Просмотры
    Последнее сообщение Anonymous
  • Распараллелить парсинг веб-страниц с помощью Python и Selenium
    Anonymous » » в форуме Python
    0 Ответы
    17 Просмотры
    Последнее сообщение Anonymous
  • Распараллелить парсинг веб-страниц с помощью Python и Selenium
    Anonymous » » в форуме Python
    0 Ответы
    30 Просмотры
    Последнее сообщение Anonymous
  • Распараллелить парсинг веб-страниц с помощью Python и Selenium [Отредактировано и обновлено]
    Anonymous » » в форуме Python
    0 Ответы
    12 Просмотры
    Последнее сообщение Anonymous

Вернуться в «Python»