Kinesis Data Analytics๊ณผ EMR

์ˆœ๋‘๋ˆ„๋‚˜ยท2026๋…„ 2์›” 9์ผ

AWS ๊ณต๋ถ€

๋ชฉ๋ก ๋ณด๊ธฐ
12/18

ํ•œ ์ค„ ์š”์•ฝ

  • Kinesis Data Analytics (KDA) ๐Ÿ‘‰ ์‹ค์‹œ๊ฐ„ ์ŠคํŠธ๋ฆฌ๋ฐ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฐ”๋กœ๋ฐ”๋กœ ๋ถ„์„
  • EMR ๐Ÿ‘‰ ๋Œ€์šฉ๋Ÿ‰ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฐฐ์น˜ยท๋ถ„์‚ฐ ์ฒ˜๋ฆฌ (๋น…๋ฐ์ดํ„ฐ ํ”Œ๋žซํผ)

1๏ธโƒฃ Kinesis Data Analytics

  • ์‹ค์‹œ๊ฐ„ ๋ฐ์ดํ„ฐ ์ŠคํŠธ๋ฆผ ๋ถ„์„
  • Kinesis Data Streams / Firehose์—์„œ ํ˜๋Ÿฌ์˜ค๋Š” ๋ฐ์ดํ„ฐ๋ฅผ ์ฆ‰์‹œ ์ฒ˜๋ฆฌ

ํŠน์ง•

  • ์„œ๋ฒ„ ๊ด€๋ฆฌ โŒ (์™„์ „ ๊ด€๋ฆฌํ˜•)
  • SQL ๋˜๋Š” Apache Flink ์‚ฌ์šฉ
  • ์ง€์—ฐ ์‹œ๊ฐ„: ์ดˆ~๋ฐ€๋ฆฌ์ดˆ
  • ์ž๋™ ํ™•์žฅ

์ž˜ ์“ฐ๋Š” ์ƒํ™ฉ

  • ์‹ค์‹œ๊ฐ„ ๋กœ๊ทธ ๋ถ„์„
  • ํด๋ฆญ ์ŠคํŠธ๋ฆผ ๋ถ„์„
  • ์‹ค์‹œ๊ฐ„ ์ด์ƒ ํƒ์ง€
  • ์‹ค์‹œ๊ฐ„ ์ง€ํ‘œ ์ง‘๊ณ„

์˜ˆ์‹œ

โ€œ์ง€๊ธˆ 1๋ถ„ ๋™์•ˆ ๋กœ๊ทธ์ธ ์‹คํŒจ๊ฐ€ 100๋ฒˆ ๋„˜์œผ๋ฉด ๊ฒฝ๊ณ  ๋ฐœ์ƒโ€


2๏ธโƒฃ EMR (Elastic MapReduce)

  • ๋น…๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ํ”Œ๋žซํผ
  • Hadoop / Spark / Hive / Presto ๋“ฑ ์‹คํ–‰

ํŠน์ง•

  • EC2 ๊ธฐ๋ฐ˜ (๊ด€๋ฆฌ ํ•„์š” โญ•)
  • ๋Œ€๊ทœ๋ชจ ๋ฐฐ์น˜ ์ฒ˜๋ฆฌ์— ๊ฐ•ํ•จ
  • ํŽ˜ํƒ€๋ฐ”์ดํŠธ๊ธ‰ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ
  • ์œ ์—ฐํ•˜์ง€๋งŒ ์šด์˜ ์˜ค๋ฒ„ํ—ค๋“œ ํผ

์ž˜ ์“ฐ๋Š” ์ƒํ™ฉ

  • ํ•˜๋ฃจ์น˜ ๋กœ๊ทธ๋ฅผ ๋ชจ์•„์„œ ๋ถ„์„
  • ๋จธ์‹ ๋Ÿฌ๋‹ ์ „์ฒ˜๋ฆฌ
  • ๋ฐ์ดํ„ฐ ์›จ์–ดํ•˜์šฐ์Šค ๊ตฌ์ถ•
  • ๋Œ€๊ทœ๋ชจ ETL ์ž‘์—…

์˜ˆ์‹œ

โ€œ์–ด์ œ ํ•˜๋ฃจ ๋™์•ˆ์˜ ๋ชจ๋“  ์‚ฌ์šฉ์ž ๋กœ๊ทธ๋ฅผ ๋ถ„์„ํ•ด์„œ ๋ฆฌํฌํŠธ ์ƒ์„ฑโ€


๐Ÿ“Š ํ•ต์‹ฌ ์ฐจ์ด ํ‘œ (์‹œํ—˜์šฉ)

๊ตฌ๋ถ„Kinesis Data AnalyticsEMR
์ฒ˜๋ฆฌ ๋ฐฉ์‹์ŠคํŠธ๋ฆฌ๋ฐ (์‹ค์‹œ๊ฐ„)๋ฐฐ์น˜ (๋Œ€๊ทœ๋ชจ)
์ง€์—ฐ ์‹œ๊ฐ„๋ฐ€๋ฆฌ์ดˆ~์ดˆ๋ถ„~์‹œ๊ฐ„
์„œ๋ฒ„ ๊ด€๋ฆฌโŒ ์—†์Œโญ• ์žˆ์Œ
๋ฐ์ดํ„ฐ ํฌ๊ธฐ๊ณ„์† ํ˜๋Ÿฌ์˜ค๋Š” ๋ฐ์ดํ„ฐ์•„์ฃผ ํฐ ๋ฐ์ดํ„ฐ ๋ฌถ์Œ
์‚ฌ์šฉ ๊ธฐ์ˆ SQL, FlinkSpark, Hadoop, Hive
์šด์˜ ๋‚œ์ด๋„๋‚ฎ์Œ๋†’์Œ
์„œ๋ฒ„๋ฆฌ์Šคโญ•โŒ

๐Ÿง  ์‹œํ—˜์—์„œ ์ด๋ ‡๊ฒŒ ํŒ๋‹จ

๋ฌธ์ œ์— ์ด๋Ÿฐ ๋ง์ด ๋‚˜์˜ค๋ฉด โ†’ Kinesis Data Analytics

  • โ€œreal-timeโ€
  • โ€œstreaming dataโ€
  • โ€œimmediate insightsโ€
  • โ€œcontinuous dataโ€
  • โ€œevent-drivenโ€

๋ฌธ์ œ์— ์ด๋Ÿฐ ๋ง์ด ๋‚˜์˜ค๋ฉด โ†’ EMR

  • โ€œlarge-scale data processingโ€
  • โ€œbatch analyticsโ€
  • โ€œbig dataโ€
  • โ€œSpark / Hadoopโ€
  • โ€œETL jobsโ€

๐ŸŽฏ ์‹œํ—˜์šฉ ๊ฒฐ์ • ๊ณต์‹

์ง€๊ธˆ ๋‹น์žฅ ์ฒ˜๋ฆฌ โ†’ Kinesis Data Analytics

๋ชจ์•„์„œ ํฌ๊ฒŒ ์ฒ˜๋ฆฌ โ†’ EMR

profile
์ˆœ๋‘์˜ ๋ˆ„๋‚˜์ž…๋‹ˆ๋‹ค

0๊ฐœ์˜ ๋Œ“๊ธ€