Data Engineering

Data Engineering ๋ฉด์ ‘ ์งˆ๋ฌธ

์‹ค์ œ๋กœ ๋ฌผ์–ด๋ณด๋Š” ์งˆ๋ฌธ๋“ค. ์ƒ์„ธ ๋‹ต๋ณ€ ํฌํ•จ.

ย ์ด ์งˆ๋ฌธ ์ˆ˜
โ€ข
DATA
๋ ˆ๋ฒจ๋ณ„ ํ•„ํ„ฐ

Data Engineering ๋ฉด์ ‘ ์ค€๋น„๊ฐ€ ๋˜์…จ๋‚˜์š”?

์ด๊ฒƒ์€ ๋ฏธ๋ฆฌ๋ณด๊ธฐ์— ๋ถˆ๊ณผํ•ฉ๋‹ˆ๋‹ค. 500๊ฐœ ์ด์ƒ์˜ ์งˆ๋ฌธ, flashcards, ๋ฉด์ ‘ ์‹œ๋‚˜๋ฆฌ์˜ค๊ฐ€ Data Engineering ๋งˆ์Šคํ„ฐ๋ฅผ ๊ธฐ๋‹ค๋ฆฌ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

๋ฌด๋ฃŒ๋กœ ๊ฐ€์ž…ํ•˜๊ธฐ

๋ชจ๋“  Data Engineering ์ฃผ์ œ ํƒ์ƒ‰

Linux & Shell - ๊ธฐ์ดˆ

์ฃผ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

Git & GitHub - ๊ธฐ์ดˆ

์ฃผ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

๋ฐ์ดํ„ฐ ์—”์ง€๋‹ˆ์–ด๋ง์„ ์œ„ํ•œ ๊ณ ๊ธ‰ Python

์ฃผ๋‹ˆ์–ด
25๊ฐœ ์งˆ๋ฌธ

Docker - ๊ธฐ์ดˆ

์ฃผ๋‹ˆ์–ด
25๊ฐœ ์งˆ๋ฌธ

Google Cloud Platform - ๊ธฐ์ดˆ

์ฃผ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

CI/CD ๋ฐ ์ฝ”๋“œ ํ’ˆ์งˆ

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

Docker Compose

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

FastAPI - ๋ฐ์ดํ„ฐ API

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

Data Engineering์„ ์œ„ํ•œ ๊ณ ๊ธ‰ SQL

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

Data Lake - ์•„ํ‚คํ…์ฒ˜ ๋ฐ ์ˆ˜์ง‘

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

๋ฐ์ดํ„ฐ ์—”์ง€๋‹ˆ์–ด๋ง์„ ์œ„ํ•œ BigQuery

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

PostgreSQL - ๊ด€๋ฆฌ

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

Data Engineering์„ ์œ„ํ•œ Data Modeling

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

Fivetran & Airbyte - ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

dbt - ๊ธฐ์ดˆ

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

Apache Airflow - ๊ธฐ์ดˆ

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

Kubernetes - ๊ธฐ์ดˆ

๋ฏธ๋“œ๋ ˆ๋ฒจ
20๊ฐœ ์งˆ๋ฌธ

dbt - ๊ณ ๊ธ‰ ๊ธฐ๋Šฅ

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

ETL / ELT / ETLT ํŒจํ„ด

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

Apache Airflow - ๊ณ ๊ธ‰

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

Airflow + dbt - ํŒŒ์ดํ”„๋ผ์ธ ์˜ค์ผ€์ŠคํŠธ๋ ˆ์ด์…˜

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

PySpark - ๋Œ€๊ทœ๋ชจ ์ฒ˜๋ฆฌ

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

Google Pub/Sub - ๋ฐ์ดํ„ฐ ์ŠคํŠธ๋ฆฌ๋ฐ

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

Apache Beam & Dataflow

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

Kubernetes - ํ”„๋กœ๋•์…˜ ๋ฐ ์Šค์ผ€์ผ๋ง

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

Terraform - Infrastructure as Code

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

NoSQL ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

๋ชจ๋˜ Data Architecture

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

๋ชจ๋‹ˆํ„ฐ๋ง ๋ฐ ๊ด€์ฐฐ ๊ฐ€๋Šฅ์„ฑ

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

IAM ๋ฐ ๋ฐ์ดํ„ฐ ๋ณด์•ˆ

์‹œ๋‹ˆ์–ด
20๊ฐœ ์งˆ๋ฌธ

๋‹ค์Œ ๋ฉด์ ‘์„ ์œ„ํ•ด Data Engineering์„ ๋งˆ์Šคํ„ฐํ•˜์„ธ์š”

๋ชจ๋“  ์งˆ๋ฌธ, flashcards, ๊ธฐ์ˆ  ํ…Œ์ŠคํŠธ, ์ฝ”๋“œ ๋ฆฌ๋ทฐ ์—ฐ์Šต, ๋ฉด์ ‘ ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์— ์ ‘๊ทผํ•˜์„ธ์š”.

๋ฌด๋ฃŒ๋กœ ์‹œ์ž‘ํ•˜๊ธฐ