ํ ์ค ์์ฝ
- Kinesis Data Analytics (KDA) ๐ ์ค์๊ฐ ์คํธ๋ฆฌ๋ฐ ๋ฐ์ดํฐ๋ฅผ ๋ฐ๋ก๋ฐ๋ก ๋ถ์
- EMR ๐ ๋์ฉ๋ ๋ฐ์ดํฐ๋ฅผ ๋ฐฐ์นยท๋ถ์ฐ ์ฒ๋ฆฌ (๋น
๋ฐ์ดํฐ ํ๋ซํผ)
1๏ธโฃ Kinesis Data Analytics
- ์ค์๊ฐ ๋ฐ์ดํฐ ์คํธ๋ฆผ ๋ถ์
- Kinesis Data Streams / Firehose์์ ํ๋ฌ์ค๋ ๋ฐ์ดํฐ๋ฅผ ์ฆ์ ์ฒ๋ฆฌ
ํน์ง
- ์๋ฒ ๊ด๋ฆฌ โ (์์ ๊ด๋ฆฌํ)
- SQL ๋๋ Apache Flink ์ฌ์ฉ
- ์ง์ฐ ์๊ฐ: ์ด~๋ฐ๋ฆฌ์ด
- ์๋ ํ์ฅ
์ ์ฐ๋ ์ํฉ
- ์ค์๊ฐ ๋ก๊ทธ ๋ถ์
- ํด๋ฆญ ์คํธ๋ฆผ ๋ถ์
- ์ค์๊ฐ ์ด์ ํ์ง
- ์ค์๊ฐ ์งํ ์ง๊ณ
์์
โ์ง๊ธ 1๋ถ ๋์ ๋ก๊ทธ์ธ ์คํจ๊ฐ 100๋ฒ ๋์ผ๋ฉด ๊ฒฝ๊ณ ๋ฐ์โ
2๏ธโฃ EMR (Elastic MapReduce)
- ๋น
๋ฐ์ดํฐ ์ฒ๋ฆฌ ํ๋ซํผ
- Hadoop / Spark / Hive / Presto ๋ฑ ์คํ
ํน์ง
- EC2 ๊ธฐ๋ฐ (๊ด๋ฆฌ ํ์ โญ)
- ๋๊ท๋ชจ ๋ฐฐ์น ์ฒ๋ฆฌ์ ๊ฐํจ
- ํํ๋ฐ์ดํธ๊ธ ๋ฐ์ดํฐ ์ฒ๋ฆฌ
- ์ ์ฐํ์ง๋ง ์ด์ ์ค๋ฒํค๋ ํผ
์ ์ฐ๋ ์ํฉ
- ํ๋ฃจ์น ๋ก๊ทธ๋ฅผ ๋ชจ์์ ๋ถ์
- ๋จธ์ ๋ฌ๋ ์ ์ฒ๋ฆฌ
- ๋ฐ์ดํฐ ์จ์ดํ์ฐ์ค ๊ตฌ์ถ
- ๋๊ท๋ชจ ETL ์์
์์
โ์ด์ ํ๋ฃจ ๋์์ ๋ชจ๋ ์ฌ์ฉ์ ๋ก๊ทธ๋ฅผ ๋ถ์ํด์ ๋ฆฌํฌํธ ์์ฑโ
๐ ํต์ฌ ์ฐจ์ด ํ (์ํ์ฉ)
| ๊ตฌ๋ถ | Kinesis Data Analytics | EMR |
|---|
| ์ฒ๋ฆฌ ๋ฐฉ์ | ์คํธ๋ฆฌ๋ฐ (์ค์๊ฐ) | ๋ฐฐ์น (๋๊ท๋ชจ) |
| ์ง์ฐ ์๊ฐ | ๋ฐ๋ฆฌ์ด~์ด | ๋ถ~์๊ฐ |
| ์๋ฒ ๊ด๋ฆฌ | โ ์์ | โญ ์์ |
| ๋ฐ์ดํฐ ํฌ๊ธฐ | ๊ณ์ ํ๋ฌ์ค๋ ๋ฐ์ดํฐ | ์์ฃผ ํฐ ๋ฐ์ดํฐ ๋ฌถ์ |
| ์ฌ์ฉ ๊ธฐ์ | SQL, Flink | Spark, Hadoop, Hive |
| ์ด์ ๋์ด๋ | ๋ฎ์ | ๋์ |
| ์๋ฒ๋ฆฌ์ค | โญ | โ |
๐ง ์ํ์์ ์ด๋ ๊ฒ ํ๋จ
๋ฌธ์ ์ ์ด๋ฐ ๋ง์ด ๋์ค๋ฉด โ Kinesis Data Analytics
- โreal-timeโ
- โstreaming dataโ
- โimmediate insightsโ
- โcontinuous dataโ
- โevent-drivenโ
๋ฌธ์ ์ ์ด๋ฐ ๋ง์ด ๋์ค๋ฉด โ EMR
- โlarge-scale data processingโ
- โbatch analyticsโ
- โbig dataโ
- โSpark / Hadoopโ
- โETL jobsโ
๐ฏ ์ํ์ฉ ๊ฒฐ์ ๊ณต์
์ง๊ธ ๋น์ฅ ์ฒ๋ฆฌ โ Kinesis Data Analytics
๋ชจ์์ ํฌ๊ฒ ์ฒ๋ฆฌ โ EMR