У меня есть большой и сложный запрос с использованием нового механизма потоковой передачи Polars на каждом узле физического плана:
import polars as pl
def big_complex_query(
data: pl.LazyFrame,
) -> pl.LazyFrame:
data = data.with_columns(pl.col("var") * 2)
return data
df = pl.LazyFrame({"var": [1, 2, 3, 4, 5, 6]})
df_processed = big_complex_query(df)
df_processed.sink_parquet("df_processed.parquet")
И я хочу иметь доступ к «метаданным» сгенерированного LazyFrame. Например: df_processed.select(pl.col("var").sum()).collect(engine="streaming").item().
Как лучше всего получить эти «метаданные»? Стоит ли мне это делать:
df_processed.select(pl.col("var").sum()).sink_parquet("df_processed_var_sum.parquet")
df_processed.sink_parquet("df_processed.parquet")
# Accessing the "metadata"
pl.read_parquet("df_processed_var_sum.parquet")
или:
df_processed_var_sum: int = df_processed.select(pl.col("var").sum()).collect(engine="streaming").item()
df_processed.sink_parquet("df_processed.parquet")
Подробнее здесь: https://stackoverflow.com/questions/799 ... y-metatata
Рекомендации по созданию метаданных запроса LazyFrame ⇐ Python
Программы на Python
-
Anonymous
1773039887
Anonymous
У меня есть большой и сложный запрос с использованием нового механизма потоковой передачи Polars на каждом узле физического плана:
import polars as pl
def big_complex_query(
data: pl.LazyFrame,
) -> pl.LazyFrame:
data = data.with_columns(pl.col("var") * 2)
return data
df = pl.LazyFrame({"var": [1, 2, 3, 4, 5, 6]})
df_processed = big_complex_query(df)
df_processed.sink_parquet("df_processed.parquet")
И я хочу иметь доступ к «метаданным» сгенерированного LazyFrame. Например: df_processed.select(pl.col("var").sum()).collect(engine="streaming").item().
Как лучше всего получить эти «метаданные»? Стоит ли мне это делать:
df_processed.select(pl.col("var").sum()).sink_parquet("df_processed_var_sum.parquet")
df_processed.sink_parquet("df_processed.parquet")
# Accessing the "metadata"
pl.read_parquet("df_processed_var_sum.parquet")
или:
df_processed_var_sum: int = df_processed.select(pl.col("var").sum()).collect(engine="streaming").item()
df_processed.sink_parquet("df_processed.parquet")
Подробнее здесь: [url]https://stackoverflow.com/questions/79903529/best-practices-of-generating-lazyframe-query-metatata[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия