Предположим, я хочу вычислить дисперсию и/или стандартное отклонение с нестандартным ddof в контексте группировки, я могу это сделать:
df.groupby("a")["b"].var(ddof=2)
Если я хочу, чтобы это происходило вместе с другими агрегатами, я могу использовать:
df.groupby("a").agg(b_var = ("b", "var"), c_sum = ("c", "sum"))
Насколько я понимаю, чтобы иметь возможность использовать ddof не по умолчанию, мне нужно создать собственную агрегацию.
Вот что я получил далеко:
def var(ddof: int = 1) -> dd.Aggregation:
import dask.dataframe as dd
return dd.Aggregation(
name="var",
chunk=lambda s: (s.count(), s.sum(), (s.pow(2)).sum()),
agg=lambda count, sum_, sum_sq: (count.sum(), sum_.sum(), sum_sq.sum()),
finalize=lambda count, sum_, sum_sq: (sum_sq - (sum_ ** 2 / count)) / (count - ddof),
)
Тем не менее, я обнаружил ошибку выполнения:
df.groupby("a").agg({"b": var(2)})
RuntimeError('Не удалось создать метаданные для DecomposableGroupbyAggregation(frame=df, arg={'b': объект
Чего мне не хватает? Есть ли лучший способ добиться этого?
Замена? s.pow(2) с s**2 также приводит к ошибке.
Полный сценарий:
import dask.dataframe as dd
data = {
"a": [1, 1, 1, 1, 2, 2, 2],
"b": range(7),
"c": range(10, 3, -1),
}
df = dd.from_dict(data, 2)
def var(ddof: int = 1) -> dd.Aggregation:
import dask.dataframe as dd
return dd.Aggregation(
name="var",
chunk=lambda s: (s.count(), s.sum(), (s.pow(2)).sum()),
agg=lambda count, sum_, sum_sq: (count.sum(), sum_.sum(), sum_sq.sum()),
finalize=lambda count, sum_, sum_sq: (sum_sq - (sum_ ** 2 / count)) / (count - ddof),
)
df.groupby("a").agg(b_var = ("b", "var"), c_sum = ("c", "sum")) #
Подробнее здесь: https://stackoverflow.com/questions/793 ... gregations
Dask `var` и `std` с ddof в контексте группировки и других агрегатах ⇐ Python
Программы на Python
1735483110
Anonymous
Предположим, я хочу вычислить дисперсию и/или стандартное отклонение с нестандартным ddof в контексте группировки, я могу это сделать:
df.groupby("a")["b"].var(ddof=2)
Если я хочу, чтобы это происходило вместе с другими агрегатами, я могу использовать:
df.groupby("a").agg(b_var = ("b", "var"), c_sum = ("c", "sum"))
Насколько я понимаю, чтобы иметь возможность использовать ddof не по умолчанию, мне нужно создать собственную агрегацию.
Вот что я получил далеко:
def var(ddof: int = 1) -> dd.Aggregation:
import dask.dataframe as dd
return dd.Aggregation(
name="var",
chunk=lambda s: (s.count(), s.sum(), (s.pow(2)).sum()),
agg=lambda count, sum_, sum_sq: (count.sum(), sum_.sum(), sum_sq.sum()),
finalize=lambda count, sum_, sum_sq: (sum_sq - (sum_ ** 2 / count)) / (count - ddof),
)
Тем не менее, я обнаружил ошибку выполнения:
df.groupby("a").agg({"b": var(2)})
RuntimeError('Не удалось создать метаданные для DecomposableGroupbyAggregation(frame=df, arg={'b': объект
Чего мне не хватает? Есть ли лучший способ добиться этого?
Замена? s.pow(2) с s**2 также приводит к ошибке.
Полный сценарий:
import dask.dataframe as dd
data = {
"a": [1, 1, 1, 1, 2, 2, 2],
"b": range(7),
"c": range(10, 3, -1),
}
df = dd.from_dict(data, 2)
def var(ddof: int = 1) -> dd.Aggregation:
import dask.dataframe as dd
return dd.Aggregation(
name="var",
chunk=lambda s: (s.count(), s.sum(), (s.pow(2)).sum()),
agg=lambda count, sum_, sum_sq: (count.sum(), sum_.sum(), sum_sq.sum()),
finalize=lambda count, sum_, sum_sq: (sum_sq - (sum_ ** 2 / count)) / (count - ddof),
)
df.groupby("a").agg(b_var = ("b", "var"), c_sum = ("c", "sum")) #
Подробнее здесь: [url]https://stackoverflow.com/questions/79311280/dask-var-and-std-with-ddof-in-groupby-context-and-other-aggregations[/url]
Ответить
1 сообщение
• Страница 1 из 1
Перейти
- Кемерово-IT
- ↳ Javascript
- ↳ C#
- ↳ JAVA
- ↳ Elasticsearch aggregation
- ↳ Python
- ↳ Php
- ↳ Android
- ↳ Html
- ↳ Jquery
- ↳ C++
- ↳ IOS
- ↳ CSS
- ↳ Excel
- ↳ Linux
- ↳ Apache
- ↳ MySql
- Детский мир
- Для души
- ↳ Музыкальные инструменты даром
- ↳ Печатная продукция даром
- Внешняя красота и здоровье
- ↳ Одежда и обувь для взрослых даром
- ↳ Товары для здоровья
- ↳ Физкультура и спорт
- Техника - даром!
- ↳ Автомобилистам
- ↳ Компьютерная техника
- ↳ Плиты: газовые и электрические
- ↳ Холодильники
- ↳ Стиральные машины
- ↳ Телевизоры
- ↳ Телефоны, смартфоны, плашеты
- ↳ Швейные машинки
- ↳ Прочая электроника и техника
- ↳ Фототехника
- Ремонт и интерьер
- ↳ Стройматериалы, инструмент
- ↳ Мебель и предметы интерьера даром
- ↳ Cантехника
- Другие темы
- ↳ Разное даром
- ↳ Давай меняться!
- ↳ Отдам\возьму за копеечку
- ↳ Работа и подработка в Кемерове
- ↳ Давай с тобой поговорим...
Мобильная версия