Polars vs Pandas 2026년 비교: 성능, 문법, 데이터 분석가 면접 대비

# benchmark_comparison.py
import polars as pl
import pandas as pd
import time

# Polars: 조건부 푸시다운이 포함된 지연 평가
start = time.perf_counter()
result_polars = (
    pl.scan_parquet("sales_data_14gb.parquet")  # 지연: 아직 데이터 로드 안 됨
    .filter(pl.col("region") == "EMEA")         # 조건부가 파일 리더에 푸시다운
    .group_by("product_category")
    .agg(pl.col("revenue").sum())
    .collect()                                   # 여기서 실행
)
polars_time = time.perf_counter() - start

# Pandas: 즉시 평가로 전체 파일 로드
start = time.perf_counter()
df = pd.read_parquet("sales_data_14gb.parquet")  # 14GB 전체가 메모리에 로드
result_pandas = (
    df[df["region"] == "EMEA"]                   # 로드 후 필터 적용
    .groupby("product_category")["revenue"]
    .sum()
)
pandas_time = time.perf_counter() - start

print(f"Polars: {polars_time:.2f}s | Pandas: {pandas_time:.2f}s")
# 일반적인 출력: Polars: 1.2s | Pandas: 13.2s

# lazy_evaluation_example.py
import polars as pl

# 지연 쿼리 정의 (아직 실행 안 됨)
lazy_query = (
    pl.scan_csv("transactions_50gb.csv")   # LazyFrame: 스키마만, 데이터 없음
    .filter(pl.col("amount") > 1000)       # 쿼리 플랜에 추가
    .filter(pl.col("status") == "completed")  # 위 필터와 결합
    .select(["transaction_id", "amount", "customer_id"])  # 프로젝션 푸시다운
    .group_by("customer_id")
    .agg([
        pl.col("amount").sum().alias("total_spent"),
        pl.col("transaction_id").count().alias("transaction_count")
    ])
)

# 최적화된 쿼리 플랜 보기
print(lazy_query.explain())
# 표시: 조건부 푸시다운, 프로젝션 푸시다운, 필터 결합

# 준비되면 실행
result = lazy_query.collect()

# pandas_3_new_features.py
import pandas as pd

# PyArrow 문자열 백엔드가 기본값 (문자열 작업 5~10배 빠름)
df = pd.read_csv("users.csv")  # 문자열이 이제 기본적으로 string[pyarrow]

# 새로운 표현식 빌더 (Polars 구문과 유사)
result = df.select(
    pd.col("name").str.upper(),
    pd.col("age") * 2,
    (pd.col("salary") > 100000).alias("high_earner")
)

# Copy-on-Write로 SettingWithCopyWarning 해결
subset = df[df["age"] > 30]  # 복사가 아닌 뷰 반환
subset = subset.copy()        # 변경에는 명시적 복사 필요

# 새로운 Arrow 상호 운용 메서드
import pyarrow as pa
arrow_table = pa.table({"x": [1, 2, 3]})
df = pd.DataFrame.from_arrow(arrow_table)  # 제로 카피 임포트

# filtering_comparison.py
import polars as pl
import pandas as pd

# 샘플 데이터
data = {
    "name": ["Alice", "Bob", "Charlie", "Diana"],
    "department": ["Engineering", "Sales", "Engineering", "HR"],
    "salary": [95000, 72000, 88000, 65000],
    "years": [5, 3, 7, 2]
}

# POLARS: pl.col()을 사용한 명시적 컬럼 참조
df_pl = pl.DataFrame(data)
result_pl = (
    df_pl
    .filter(pl.col("department") == "Engineering")  # pl.col()로 필터
    .filter(pl.col("salary") > 80000)               # 필터 체이닝
    .select(["name", "salary"])                     # 컬럼 선택
)

# PANDAS: 브래킷 표기법
df_pd = pd.DataFrame(data)
result_pd = (
    df_pd
    .loc[df_pd["department"] == "Engineering"]  # 필터에 loc
    .loc[lambda x: x["salary"] > 80000]         # 체이닝에 람다
    [["name", "salary"]]                        # 선택에 브래킷
)

# aggregation_comparison.py

# POLARS: 표현력 있는 집계 구문
result_pl = (
    df_pl
    .group_by("department")
    .agg([
        pl.col("salary").mean().alias("avg_salary"),
        pl.col("salary").max().alias("max_salary"),
        pl.col("name").count().alias("headcount"),
        (pl.col("salary") * pl.col("years")).sum().alias("total_compensation_years")
    ])
)

# PANDAS: 명명된 집계 구문
result_pd = (
    df_pd
    .groupby("department")
    .agg(
        avg_salary=("salary", "mean"),
        max_salary=("salary", "max"),
        headcount=("name", "count"),
        total_compensation_years=("salary", lambda x: (df_pd.loc[x.index, "salary"] * df_pd.loc[x.index, "years"]).sum())
    )
)

# joins_comparison.py

employees = pl.DataFrame({
    "emp_id": [1, 2, 3],
    "name": ["Alice", "Bob", "Charlie"],
    "dept_id": [10, 20, 10]
})

departments = pl.DataFrame({
    "dept_id": [10, 20, 30],
    "dept_name": ["Engineering", "Sales", "HR"]
})

# POLARS: 명시적 조인 구문
result_pl = employees.join(
    departments,
    on="dept_id",      # 조인 컬럼
    how="left"         # 조인 유형: left, inner, outer, cross, semi, anti
)

# PANDAS: merge 함수
result_pd = pd.merge(
    employees.to_pandas(),
    departments.to_pandas(),
    on="dept_id",
    how="left"
)

# hybrid_workflow.py
import polars as pl
from sklearn.ensemble import RandomForestClassifier
import matplotlib.pyplot as plt

# Polars로 무거운 데이터 처리 (10배 빠름)
df = (
    pl.scan_parquet("raw_data/*.parquet")
    .filter(pl.col("valid") == True)
    .with_columns([
        (pl.col("revenue") / pl.col("quantity")).alias("unit_price"),
        pl.col("timestamp").dt.month().alias("month")
    ])
    .group_by(["customer_id", "month"])
    .agg([
        pl.col("revenue").sum(),
        pl.col("quantity").mean()
    ])
    .collect()
)

# ML용 Pandas로 변환 (숫자 컬럼은 제로 카피)
X = df.select(["revenue", "quantity"]).to_pandas()
y = df.select("churn").to_pandas().values.ravel()

# scikit-learn은 Pandas/NumPy를 기대
model = RandomForestClassifier()
model.fit(X, y)

# Pandas 통합으로 플로팅
df.to_pandas().plot(kind="bar", x="month", y="revenue")
plt.savefig("monthly_revenue.png")

# interview_answer_large_file.py
import polars as pl

# 옵션 1: 스트리밍을 사용한 지연 평가 (Polars)
result = (
    pl.scan_csv("large_file.csv")  # 스키마만 읽음
    .filter(pl.col("status") == "active")
    .group_by("region")
    .agg(pl.col("revenue").sum())
    .collect(streaming=True)  # 배치로 처리
)

# 옵션 2: 청크 처리 (Pandas 폴백)
import pandas as pd

results = []
for chunk in pd.read_csv("large_file.csv", chunksize=1_000_000):
    filtered = chunk[chunk["status"] == "active"]
    agg = filtered.groupby("region")["revenue"].sum()
    results.append(agg)

final = pd.concat(results).groupby(level=0).sum()

# interview_conversion.py

# 주어진 Pandas 코드
df = pd.read_csv("sales.csv")
df["year"] = pd.to_datetime(df["date"]).dt.year
result = (
    df[df["amount"] > 1000]
    .groupby(["region", "year"])
    .agg({"amount": ["sum", "mean"], "customer_id": "nunique"})
)

# Polars 동등 코드
result = (
    pl.scan_csv("sales.csv")  # 최적화를 위해 지연
    .with_columns(
        pl.col("date").str.to_datetime().dt.year().alias("year")
    )
    .filter(pl.col("amount") > 1000)
    .group_by(["region", "year"])
    .agg([
        pl.col("amount").sum().alias("amount_sum"),
        pl.col("amount").mean().alias("amount_mean"),
        pl.col("customer_id").n_unique().alias("unique_customers")
    ])
    .collect()
)

# migration_strategy.py
import polars as pl
import pandas as pd

# 단계 1: 빠른 탐색에는 Pandas 유지
def explore_data(path: str) -> pd.DataFrame:
    return pd.read_csv(path).head(1000)

# 단계 2: 무거운 변환에 Polars 도입
def process_data(path: str) -> pl.DataFrame:
    return (
        pl.scan_csv(path)
        .filter(pl.col("valid") == True)
        .with_columns([
            (pl.col("price") * pl.col("quantity")).alias("total")
        ])
        .collect()
    )

# 단계 3: 필요한 경계에서 변환
def train_model(df_polars: pl.DataFrame):
    df_pandas = df_polars.to_pandas()  # 숫자는 제로 카피
    # scikit-learn 코드 여기에

# 단계 4: 핫 패스를 점진적으로 교체
# 프로파일링으로 느린 Pandas 작업 식별
# 한 번에 하나의 함수씩 Polars 동등물로 교체