Написал запрос, он работает нормально, если файлы part-*.parquet присутствуют в разделах.
Дает неправильные результаты. если файлы паркета имеют разные имена.
Целью является один запрос, который должен возвращать part_id=20240101 в обоих случаях использования.
вариант использования 1 работает нормально как и ожидалось:
Код: Выделить всё
select split(split(split_part('1234/local/table_name1/partition_id=20240101/part-0001.parquet','table_name1'),'part-')[0],'/')c
output :
partition_id=20240101
Код: Выделить всё
select
split(split(split_part('1234/local/table_name2/partition_id=20240101/table.name2.parquet','table_name2'),'part-')[0],'/')c
output:
partition_id=20240101
table.name2.parquet
Заранее спасибо
Подробнее здесь: https://stackoverflow.com/questions/785 ... lake-query