Проблема с анализом запроса «снежинка»Python

Программы на Python
Anonymous
Проблема с анализом запроса «снежинка»

Сообщение Anonymous »

Мы анализируем путь s3 в запросе Snowfalke, чтобы получить идентификатор раздела для каждой таблицы.
Написал запрос, он работает нормально, если файлы part-*.parquet присутствуют в разделах.
Дает неправильные результаты. если файлы паркета имеют разные имена.
Целью является один запрос, который должен возвращать part_id=20240101 в обоих случаях использования.
вариант использования 1 работает нормально как и ожидалось:

Код: Выделить всё

select split(split(split_part('1234/local/table_name1/partition_id=20240101/part-0001.parquet','table_name1'),'part-')[0],'/')c

output :
partition_id=20240101
используйте case2 для вывода — также и раздел_раздела, и файл паркета.

Код: Выделить всё

select
split(split(split_part('1234/local/table_name2/partition_id=20240101/table.name2.parquet','table_name2'),'part-')[0],'/')c

output:
partition_id=20240101
table.name2.parquet
Мне нужно настроить запрос, чтобы он работал в обоих случаях и возвращал только part_id=20240101. Поделитесь своим мнением.
Заранее спасибо

Подробнее здесь: https://stackoverflow.com/questions/785 ... lake-query

Вернуться в «Python»