AWS ํด๋ผ์šฐ๋“œ
AWS ํด๋ผ์šฐ๋“œ
AWS Data Pipeline ์‹œ์ž‘ํ•˜๊ธฐ

AWS Data Pipeline์€ ์˜จํ”„๋ ˆ๋ฏธ์Šค ๋ฐ์ดํ„ฐ ์†Œ์Šค๋ฟ ์•„๋‹ˆ๋ผ ์—ฌ๋Ÿฌ AWS ์ปดํ“จํŒ… ๋ฐ ์Šคํ† ๋ฆฌ์ง€ ์„œ๋น„์Šค ๊ฐ„์— ๋ฐ์ดํ„ฐ๋ฅผ ์•ˆ์ •์ ์œผ๋กœ ์ฒ˜๋ฆฌํ•˜๊ณ  ์ง€์ •๋œ ๊ฐ„๊ฒฉ์œผ๋กœ ์ด๋™ํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด ์ฃผ๋Š” ์›น ์„œ๋น„์Šค์ž…๋‹ˆ๋‹ค. AWS Data Pipeline์„ ์‚ฌ์šฉํ•˜๋ฉด, ์ €์žฅ๋˜์–ด ์žˆ๋Š” ๋ฐ์ดํ„ฐ์— ์ •๊ธฐ์ ์œผ๋กœ ์•ก์„ธ์Šคํ•˜๊ณ , ๋Œ€๊ทœ๋ชจ๋กœ ๋ฐ์ดํ„ฐ๋ฅผ ๋ณ€ํ™˜ ๋ฐ ์ฒ˜๋ฆฌํ•˜๋ฉฐ, Amazon S3, Amazon RDS, Amazon DynamoDB ๋ฐ Amazon EMR๊ณผ ๊ฐ™์€ AWS ์„œ๋น„์Šค์— ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ํšจ์œจ์ ์œผ๋กœ ์ „์†กํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

AWS Data Pipeline์„ ์‚ฌ์šฉํ•˜๋ฉด ๋‚ด๊ฒฐํ•จ์„ฑ์ด ์žˆ๊ณ , ๋ฐ˜๋ณต ๊ฐ€๋Šฅํ•˜๋ฉฐ, ๊ฐ€์šฉ์„ฑ์ด ๋†’๊ณ , ๋ณต์žกํ•œ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ ์›Œํฌ๋กœ๋“œ๋ฅผ ์†์‰ฝ๊ฒŒ ์ƒ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋ฆฌ์†Œ์Šค ๊ฐ€์šฉ์„ฑ ๋ณด์žฅ, ์ž‘์—… ๊ฐ„ ์ข…์†์„ฑ ๊ด€๋ฆฌ, ์ผ์‹œ์  ์‹คํŒจ ๋ฐ ์‹œ๊ฐ„ ์ดˆ๊ณผ๋กœ ์ธํ•œ ๊ฐœ๋ณ„ ์ž‘์—… ์žฌ์‹œ๋„, ์‹คํŒจ ์•Œ๋ฆผ ์ƒ์„ฑ ์‹œ์Šคํ…œ ๋“ฑ์— ๋Œ€ํ•ด ์—ผ๋ คํ•˜์ง€ ์•Š์•„๋„ ๋ฉ๋‹ˆ๋‹ค. ๋˜ํ•œ, AWS Data Pipeline์„ ์‚ฌ์šฉํ•˜๋ฉด ์ด์ „์—๋Š” ์˜จํ”„๋ ˆ๋ฏธ์Šค ๋ฐ์ดํ„ฐ ์‚ฌ์ผ๋กœ์—์„œ ๋ฌถ์—ฌ ์žˆ๋˜ ๋ฐ์ดํ„ฐ๋ฅผ ์ด๋™ํ•˜๊ณ  ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Coursera-reInvent-2


์•ˆ์ •์„ฑ

์•ˆ์ •์„ฑ

AWS Data Pipeline์€ ํ™œ๋™์˜ ๋‚ด๊ฒฐํ•จ์„ฑ ์‹คํ–‰์„ ์œ„ํ•ด ์„ค๊ณ„๋œ ๊ณ ๊ฐ€์šฉ์„ฑ์˜ ๋ถ„์‚ฐ ์ธํ”„๋ผ์— ๊ตฌ์ถ•๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. ํ™œ๋™ ๋กœ์ง ๋˜๋Š” ๋ฐ์ดํ„ฐ ์†Œ์Šค์— ์žฅ์• ๊ฐ€ ๋ฐœ์ƒํ•˜๋ฉด AWS Data Pipeline์—์„œ ์ž๋™์œผ๋กœ ํ•ด๋‹น ํ™œ๋™์„ ๋‹ค์‹œ ์‹œ๋„ํ•ฉ๋‹ˆ๋‹ค. ์žฅ์• ๊ฐ€ ์ง€์†๋˜๋ฉด AWS Data Pipeline๊ฐ€ Amazon Simple Notification Service(Amazon SNS)๋ฅผ ํ†ตํ•ด ์‹คํŒจ ์•Œ๋ฆผ์„ ๋ณด๋ƒ…๋‹ˆ๋‹ค. ์‹คํ–‰ ์„ฑ๊ณต, ๊ณ„ํš๋œ ํ™œ๋™์˜ ์ง€์—ฐ ๋˜๋Š” ์‹คํŒจ์— ๋Œ€ํ•œ ์•Œ๋ฆผ์„ ๊ตฌ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์‚ฌ์šฉ ํŽธ์˜์„ฑ

์‚ฌ์šฉ ํŽธ์˜์„ฑ

Amazon์˜ ๋“œ๋ž˜๊ทธ ์•ค ๋“œ๋กญ ์ฝ˜์†”์„ ์‚ฌ์šฉํ•˜์—ฌ ์‰ฝ๊ณ  ๋น ๋ฅด๊ฒŒ ํŒŒ์ดํ”„๋ผ์ธ์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ผ๋ฐ˜์ ์ธ ์‚ฌ์ „ ์กฐ๊ฑด์€ ์„œ๋น„์Šค์— ๋‚ด์žฅ๋˜์–ด ์žˆ์œผ๋ฏ€๋กœ, ์ด๋ฅผ ์‚ฌ์šฉํ•˜๊ธฐ ์œ„ํ•ด ์ถ”๊ฐ€ ๋…ผ๋ฆฌ๋ฅผ ์ž‘์„ฑํ•  ํ•„์š”๊ฐ€ ์—†์Šต๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด Amazon S3 ํŒŒ์ผ์ด ์žˆ๋Š”์ง€ ํ™•์ธํ•˜๋ ค๋Š” ๊ฒฝ์šฐ, Amazon S3 ๋ฒ„ํ‚ท์˜ ์ด๋ฆ„ ๋ฐ ํŒŒ์ผ ๊ฒฝ๋กœ๋งŒ ์ œ๊ณตํ•˜๋ฉด ๋‚˜๋จธ์ง€๋Š” AWS Data Pipeline์—์„œ ์•Œ์•„์„œ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. AWS Data Pipeline์€ ํŽธ๋ฆฌํ•œ ์‹œ๊ฐ์  Pipeline Creator๋ฟ๋งŒ ์•„๋‹ˆ๋ผ ํŒŒ์ดํ”„๋ผ์ธ ํ…œํ”Œ๋ฆฟ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ํ…œํ”Œ๋ฆฟ์„ ์‚ฌ์šฉํ•˜๋ฉด ์ •๊ธฐ์ ์œผ๋กœ ๋กœ๊ทธ ํŒŒ์ผ์„ ์ฒ˜๋ฆฌํ•˜๊ฑฐ๋‚˜, Amazon S3์— ๋ฐ์ดํ„ฐ๋ฅผ ๋ณด๊ด€ํ•˜๊ฑฐ๋‚˜, ์ฃผ๊ธฐ์ ์œผ๋กœ SQL ์ฟผ๋ฆฌ๋ฅผ ์‹คํ–‰ํ•˜๋Š” ๋“ฑ์˜ ๋” ๋ณต์žกํ•œ ์‚ฌ์šฉ ์‚ฌ๋ก€์— ๋Œ€ํ•œ ํŒŒ์ดํ”„๋ผ์ธ์„ ๋งค์šฐ ๊ฐ„ํŽธํ•˜๊ฒŒ ๋งŒ๋“ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์œ ์—ฐ์„ฑ

์œ ์—ฐ์„ฑ

AWS Data Pipeline์„ ์‚ฌ์šฉํ•˜๋ฉด ์ผ์ • ์˜ˆ์•ฝ, ์ข…์†์„ฑ ์ถ”์ , ์˜ค๋ฅ˜ ์ฒ˜๋ฆฌ ๋“ฑ์˜ ๋‹ค์–‘ํ•œ ๊ธฐ๋Šฅ์„ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. AWS์—์„œ ์ œ๊ณตํ•˜๋Š” ํ™œ๋™ ๋ฐ ์‚ฌ์ „ ์กฐ๊ฑด์„ ์‚ฌ์šฉํ•˜๊ฑฐ๋‚˜ ์‚ฌ์šฉ์ž ์ง€์ • ํ™œ๋™ ๋ฐ ์‚ฌ์ „ ์กฐ๊ฑด์„ ์ž‘์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ AWS Data Pipeline์—์„œ Amazon EMR ์ž‘์—…์„ ์‹คํ–‰ํ•˜๊ฑฐ๋‚˜ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค์—์„œ ์ง์ ‘ SQL ์ฟผ๋ฆฌ๋ฅผ ์‹คํ–‰ํ•˜๊ฑฐ๋‚˜ Amazon EC2 ๋˜๋Š” ์ž์ฒด ๋ฐ์ดํ„ฐ์„ผํ„ฐ์—์„œ ์‹คํ–‰ ์ค‘์ธ ์‚ฌ์šฉ์ž ์ง€์ • ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ์‹คํ–‰ํ•˜๋Š” ๋“ฑ์˜ ์กฐ์น˜๋ฅผ ์ทจํ•˜๋„๋ก ๊ตฌ์„ฑํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ ‡๊ฒŒ ํ•˜์—ฌ ์•ˆ์ •์ ์œผ๋กœ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๋…ผ๋ฆฌ๋ฅผ ์˜ˆ์•ฝํ•˜๊ณ  ์‹คํ–‰ํ•˜๋Š” ๋“ฑ ๋ณต์žกํ•˜๊ฒŒ ์ฒ˜๋ฆฌํ•˜์ง€ ์•Š๊ณ ๋„ ๋ฐ์ดํ„ฐ๋ฅผ ๋ถ„์„ํ•˜๊ณ  ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋Š” ๊ฐ•๋ ฅํ•œ ์‚ฌ์šฉ์ž ์ง€์ • ํŒŒ์ดํ”„๋ผ์ธ์„ ๋งŒ๋“ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค

ํ™•์žฅ ๊ฐ€๋Šฅ

ํ™•์žฅ ๊ฐ€๋Šฅ

AWS Data Pipeline์€ ์ž‘์—…์„ ํ•˜๋‚˜ ๋˜๋Š” ์—ฌ๋Ÿฌ ๋Œ€์˜ ๋จธ์‹ ์— ์ง๋ ฌ ๋˜๋Š” ๋ณ‘๋ ฌ ๋ฐฉ์‹์œผ๋กœ ์†์‰ฝ๊ฒŒ ๋””์ŠคํŒจ์น˜ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. AWS Data Pipeline์˜ ์œ ์—ฐํ•œ ์„ค๊ณ„ ๋•๋ถ„์— ์ˆ˜๋ฐฑ๋งŒ ๊ฐœ์˜ ํŒŒ์ผ์„ ํ•˜๋‚˜์˜ ํŒŒ์ผ์ฒ˜๋Ÿผ ์•„์ฃผ ๊ฐ„๋‹จํ•˜๊ฒŒ ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

 

์ €๋ ดํ•œ ๋น„์šฉ

์ €๋ ดํ•œ ๋น„์šฉ

AWS Data Pipeline์€ ์ €๋ ดํ•œ ๋น„์šฉ์œผ๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ ์›” ์‚ฌ์šฉ๋ฃŒ๊ฐ€ ๋‚ฎ์Šต๋‹ˆ๋‹ค. AWS ํ”„๋ฆฌ ํ‹ฐ์–ด๋ฅผ ํ†ตํ•ด ๋ฌด๋ฃŒ๋กœ ์‚ฌ์šฉํ•ด ๋ณด์‹ค ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ธฐ.

ํˆฌ๋ช…์„ฑ

ํˆฌ๋ช…์„ฑ

์‚ฌ์šฉ์ž๋Š” ๋น„์ฆˆ๋‹ˆ์Šค ๋กœ์ง์„ ์‹คํ–‰ํ•˜๋Š” ์ปดํ“จํŒ… ๋ฆฌ์†Œ์Šค๋ฅผ ์™„๋ฒฝํ•˜๊ฒŒ ์ œ์–ดํ•˜๊ณ  ์‰ฝ๊ฒŒ ๋…ผ๋ฆฌ๋ฅผ ๊ฐœ์„ ํ•˜๊ฑฐ๋‚˜ ๋””๋ฒ„๊น…ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ ์ „์ฒด ์‹คํ–‰ ๋กœ๊ทธ๊ฐ€ ์ž๋™์ ์œผ๋กœ Amazon S3๋กœ ์ „์†ก๋˜๋ฏ€๋กœ ์‚ฌ์šฉ์ž๋Š” ํŒŒ์ดํ”„๋ผ์ธ์˜ ์ƒํ™ฉ์— ๋Œ€ํ•œ ์ง€์†์ ์ด๊ณ  ์ž์„ธํ•œ ๋ ˆ์ฝ”๋“œ๋ฅผ ๋ฐ›์„ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์‹œ์ž‘ํ•˜๊ธฐ