Лямбда-функция aws не получает необходимые данные из URL-адресаPython

Программы на Python
Ответить
Anonymous
 Лямбда-функция aws не получает необходимые данные из URL-адреса

Сообщение Anonymous »

У меня есть код, который извлекает данные с определенного веб-сайта с помощью BeautifulSoup. Я хотел развернуть этот код в облаке, поэтому я развернул его на лямбде AWS.
лямбда-функция должна использовать сценарий очистки для очистки данных, сохраняя эти данные в массивы, а затем использовать функцию open() для создания файла. Я сохранил данные массива в файл CSV и загрузил этот файл из aws лямбда temp в корзину S3.
после тестирования событий кажется, что файл CSV был создан и успешно загружен в корзину s3, но он пуст, даже печать массивов в консоль вывода показывает, что это пусто.
код отлично работает на моем компьютере, он очищает данные и сохраняет их в файле CSV на моем компьютере.
тестирование некоторого кода изменений, я думаю, что проблема в запрашивающей части данных, возможно, она не может запросить или получить данные, а может быть, что-то не так с парсером HTML или преобразованием данных в текстовый файл.
Может быть, мне нужно вынести эту часть в Lambda_handler и передать текст результата в обработчик позже.
Не знаю, возможно, это поможет вам разобраться в этом для меня.< /p>
запрос данных:

обратите внимание, что я не указал веб-сайт, который собираю с него данные, так как это может быть плохим способом представления его. так что вместо этого это ****.

Код: Выделить всё

url = f"https://www.****"

# Fetch data from the URL
result = requests.get(url) # requesting data from the link
doc = BeautifulSoup(result.text, "html.parser")
Остальная часть кода предназначена для очистки данных, я не хочу делиться полным кодом, поскольку он отлично работает на моем компьютере, и я не думаю, что в этом нет ничего плохого, но в основном я не хочу увеличьте длину вопроса.
примечание: хотя это может быть проблема с разрешением, но кажется, что все в порядке, и лямбда по умолчанию имеет доступ к Интернету, насколько я знаю.

Подробнее здесь: https://stackoverflow.com/questions/792 ... a-from-url
Ответить

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

Вернуться в «Python»