Data Engineering

Modern Data Architecture

Data Lake vs Data Warehouse vs Lakehouse, Data Mesh, Data Contracts, schema registry, ADR, yönetişim, data catalog, lineage

20 mülakat soruları·
Senior
1

Bir Data Lake ile Data Warehouse arasındaki temel fark nedir?

Cevap

Data Lake verileri yerel (ham) formatlarında saklar ve schema'yı okuma sırasında uygular (schema-on-read), keşif için büyük esneklik sağlar. Data Warehouse yazma sırasında yapılandırılmış bir schema'yı zorunlu kılar (schema-on-write) ve analiz için dönüştürülmüş ve optimize edilmiş veriler içerir. Data Lake'ler esneklik ve düşük maliyetli büyük ölçekli depolamayı önceliklendirirken, Data Warehouse'lar sorgu performansını ve veri kalitesini önceliklendirir.

2

Lakehouse mimarisinin ayrı Data Lake ve Data Warehouse mimarilerine kıyasla temel avantajı nedir?

Cevap

Lakehouse mimarisi her iki dünyanın en iyisini birleştirir: Data Lake'in esnek ve maliyet etkin depolaması ile Data Warehouse'un ACID yetenekleri, sorgu performansı ve yönetişimi. Bu, sistemler arasındaki veri tekrarını ortadan kaldırır, senkronizasyon maliyetlerini ve karmaşıklığını azaltır, aynı zamanda Delta Lake, Iceberg veya Hudi gibi açık formatlar kullanarak BI ve ML iş yüklerinin aynı platformda çalışmasına olanak tanır.

3

Hangi açık tablo formatı bir Data Lake üzerinde ACID işlemlerini mümkün kılar?

Cevap

Delta Lake, Apache Iceberg ve Apache Hudi, bir Data Lake üzerinde ACID işlemlerini mümkün kılan üç ana açık tablo formatıdır. Databricks tarafından geliştirilen Delta Lake, atomiklik ve tutarlılığı garanti etmek için bir transaction log kullanır. Netflix tarafından oluşturulan Iceberg, gelişmiş partition yönetimi ve schema evolution sunar. Uber tarafından geliştirilen Hudi, upsert ve CDC senaryolarında öne çıkar. Bu formatlar basit nesne depolamayı işlemsel garantilere sahip bir Lakehouse'a dönüştürür.

4

Data Mesh'in temel ilkesi nedir?

5

Data Mesh bağlamında Data Contract nedir?

+17 mülakat soruları

Bir sonraki mülakatın için Data Engineering'de uzmanlaş

Tüm sorulara, flashcards'a, teknik testlere, code review alıştırmalarına ve mülakat simülatörlerine eriş.

Ücretsiz başla