Есть ли выгода от поляров в отношении параллелизма с использованием Select Over Long выраженияPython

Программы на Python
Ответить Пред. темаСлед. тема
Anonymous
 Есть ли выгода от поляров в отношении параллелизма с использованием Select Over Long выражения

Сообщение Anonymous »

Есть ли разница в отношении параллелизма в полярах при сравнении этих двух методов, которые дают тот же результат? Метод 1 назначает в Select как промежуточный шаг, который показывает, что x_1 и x_2 можно рассчитать параллельно. Метод 2 просто использует полное выражение. Это оба в ленивом выполнении, позволяя оптимизировать.

Код: Выделить всё

import polars as pl

df = pl.DataFrame({
"a": pl.int_range(0,100_000_000,eager=True),
"b": pl.int_range(0,100_000_000,eager=True),
"c": pl.int_range(0,100_000_000,eager=True)}).lazy()

# Method 1
(
df.select(
x_1 = pl.col("a") + pl.col("b"),
x_2 = pl.col("b")+ pl.col("c"))
.select(target = pl.col("x_1") + pl.col("x_2"))
.collect()
)

# Method 2
(
df.select(
target =  (pl.col("a") + pl.col("b")) + (pl.col("b")+ pl.col("c"))
)
.collect()
)

Я пробовал время, и Method 2 выходит на вершине, но я не уверен, почему. Итак, знаете ли вы, что параллелизм происходит в расчете в Метод 2 или это по своей природе однопользой?

Подробнее здесь: https://stackoverflow.com/questions/796 ... ing-select
Реклама
Ответить Пред. темаСлед. тема

Быстрый ответ

Изменение регистра текста: 
Смайлики
:) :( :oops: :roll: :wink: :muza: :clever: :sorry: :angel: :read: *x)
Ещё смайлики…
   
К этому ответу прикреплено по крайней мере одно вложение.

Если вы не хотите добавлять вложения, оставьте поля пустыми.

Максимально разрешённый размер вложения: 15 МБ.

  • Похожие темы
    Ответы
    Просмотры
    Последнее сообщение

Вернуться в «Python»