AWS Data Pipeline์ ์จํ๋ ๋ฏธ์ค ๋ฐ์ดํฐ ์์ค๋ฟ ์๋๋ผ ์ฌ๋ฌ AWS ์ปดํจํ ๋ฐ ์คํ ๋ฆฌ์ง ์๋น์ค ๊ฐ์ ๋ฐ์ดํฐ๋ฅผ ์์ ์ ์ผ๋ก ์ฒ๋ฆฌํ๊ณ ์ง์ ๋ ๊ฐ๊ฒฉ์ผ๋ก ์ด๋ํ ์ ์๊ฒ ํด ์ฃผ๋ ์น ์๋น์ค์ ๋๋ค. AWS Data Pipeline์ ์ฌ์ฉํ๋ฉด, ์ ์ฅ๋์ด ์๋ ๋ฐ์ดํฐ์ ์ ๊ธฐ์ ์ผ๋ก ์ก์ธ์คํ๊ณ , ๋๊ท๋ชจ๋ก ๋ฐ์ดํฐ๋ฅผ ๋ณํ ๋ฐ ์ฒ๋ฆฌํ๋ฉฐ, Amazon S3, Amazon RDS, Amazon DynamoDB ๋ฐ Amazon EMR๊ณผ ๊ฐ์ AWS ์๋น์ค์ ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ํจ์จ์ ์ผ๋ก ์ ์กํ ์ ์์ต๋๋ค.
AWS Data Pipeline์ ์ฌ์ฉํ๋ฉด ๋ด๊ฒฐํจ์ฑ์ด ์๊ณ , ๋ฐ๋ณต ๊ฐ๋ฅํ๋ฉฐ, ๊ฐ์ฉ์ฑ์ด ๋๊ณ , ๋ณต์กํ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ์ํฌ๋ก๋๋ฅผ ์์ฝ๊ฒ ์์ฑํ ์ ์์ต๋๋ค. ๋ฆฌ์์ค ๊ฐ์ฉ์ฑ ๋ณด์ฅ, ์์
๊ฐ ์ข
์์ฑ ๊ด๋ฆฌ, ์ผ์์ ์คํจ ๋ฐ ์๊ฐ ์ด๊ณผ๋ก ์ธํ ๊ฐ๋ณ ์์
์ฌ์๋, ์คํจ ์๋ฆผ ์์ฑ ์์คํ
๋ฑ์ ๋ํด ์ผ๋ คํ์ง ์์๋ ๋ฉ๋๋ค. ๋ํ, AWS Data Pipeline์ ์ฌ์ฉํ๋ฉด ์ด์ ์๋ ์จํ๋ ๋ฏธ์ค ๋ฐ์ดํฐ ์ฌ์ผ๋ก์์ ๋ฌถ์ฌ ์๋ ๋ฐ์ดํฐ๋ฅผ ์ด๋ํ๊ณ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค.
์์ ์ฑ
AWS Data Pipeline์ ํ๋์ ๋ด๊ฒฐํจ์ฑ ์คํ์ ์ํด ์ค๊ณ๋ ๊ณ ๊ฐ์ฉ์ฑ์ ๋ถ์ฐ ์ธํ๋ผ์ ๊ตฌ์ถ๋์ด ์์ต๋๋ค. ํ๋ ๋ก์ง ๋๋ ๋ฐ์ดํฐ ์์ค์ ์ฅ์ ๊ฐ ๋ฐ์ํ๋ฉด AWS Data Pipeline์์ ์๋์ผ๋ก ํด๋น ํ๋์ ๋ค์ ์๋ํฉ๋๋ค. ์ฅ์ ๊ฐ ์ง์๋๋ฉด AWS Data Pipeline๊ฐ Amazon Simple Notification Service(Amazon SNS)๋ฅผ ํตํด ์คํจ ์๋ฆผ์ ๋ณด๋ ๋๋ค. ์คํ ์ฑ๊ณต, ๊ณํ๋ ํ๋์ ์ง์ฐ ๋๋ ์คํจ์ ๋ํ ์๋ฆผ์ ๊ตฌ์ฑํ ์ ์์ต๋๋ค.
์ฌ์ฉ ํธ์์ฑ
Amazon์ ๋๋๊ทธ ์ค ๋๋กญ ์ฝ์์ ์ฌ์ฉํ์ฌ ์ฝ๊ณ ๋น ๋ฅด๊ฒ ํ์ดํ๋ผ์ธ์ ๋ง๋ค ์ ์์ต๋๋ค. ์ผ๋ฐ์ ์ธ ์ฌ์ ์กฐ๊ฑด์ ์๋น์ค์ ๋ด์ฅ๋์ด ์์ผ๋ฏ๋ก, ์ด๋ฅผ ์ฌ์ฉํ๊ธฐ ์ํด ์ถ๊ฐ ๋
ผ๋ฆฌ๋ฅผ ์์ฑํ ํ์๊ฐ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด Amazon S3 ํ์ผ์ด ์๋์ง ํ์ธํ๋ ค๋ ๊ฒฝ์ฐ, Amazon S3 ๋ฒํท์ ์ด๋ฆ ๋ฐ ํ์ผ ๊ฒฝ๋ก๋ง ์ ๊ณตํ๋ฉด ๋๋จธ์ง๋ AWS Data Pipeline์์ ์์์ ์ฒ๋ฆฌํฉ๋๋ค. AWS Data Pipeline์ ํธ๋ฆฌํ ์๊ฐ์ Pipeline Creator๋ฟ๋ง ์๋๋ผ ํ์ดํ๋ผ์ธ ํ
ํ๋ฆฟ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ ๊ณตํฉ๋๋ค. ์ด๋ฌํ ํ
ํ๋ฆฟ์ ์ฌ์ฉํ๋ฉด ์ ๊ธฐ์ ์ผ๋ก ๋ก๊ทธ ํ์ผ์ ์ฒ๋ฆฌํ๊ฑฐ๋, Amazon S3์ ๋ฐ์ดํฐ๋ฅผ ๋ณด๊ดํ๊ฑฐ๋, ์ฃผ๊ธฐ์ ์ผ๋ก SQL ์ฟผ๋ฆฌ๋ฅผ ์คํํ๋ ๋ฑ์ ๋ ๋ณต์กํ ์ฌ์ฉ ์ฌ๋ก์ ๋ํ ํ์ดํ๋ผ์ธ์ ๋งค์ฐ ๊ฐํธํ๊ฒ ๋ง๋ค ์ ์์ต๋๋ค.
์ ์ฐ์ฑ
AWS Data Pipeline์ ์ฌ์ฉํ๋ฉด ์ผ์ ์์ฝ, ์ข
์์ฑ ์ถ์ , ์ค๋ฅ ์ฒ๋ฆฌ ๋ฑ์ ๋ค์ํ ๊ธฐ๋ฅ์ ํ์ฉํ ์ ์์ต๋๋ค. AWS์์ ์ ๊ณตํ๋ ํ๋ ๋ฐ ์ฌ์ ์กฐ๊ฑด์ ์ฌ์ฉํ๊ฑฐ๋ ์ฌ์ฉ์ ์ง์ ํ๋ ๋ฐ ์ฌ์ ์กฐ๊ฑด์ ์์ฑํ ์ ์์ต๋๋ค. ๋ฐ๋ผ์ AWS Data Pipeline์์ Amazon EMR ์์
์ ์คํํ๊ฑฐ๋ ๋ฐ์ดํฐ๋ฒ ์ด์ค์์ ์ง์ SQL ์ฟผ๋ฆฌ๋ฅผ ์คํํ๊ฑฐ๋ Amazon EC2 ๋๋ ์์ฒด ๋ฐ์ดํฐ์ผํฐ์์ ์คํ ์ค์ธ ์ฌ์ฉ์ ์ง์ ์ ํ๋ฆฌ์ผ์ด์
์ ์คํํ๋ ๋ฑ์ ์กฐ์น๋ฅผ ์ทจํ๋๋ก ๊ตฌ์ฑํ ์ ์์ต๋๋ค. ์ด๋ ๊ฒ ํ์ฌ ์์ ์ ์ผ๋ก ์ ํ๋ฆฌ์ผ์ด์
๋
ผ๋ฆฌ๋ฅผ ์์ฝํ๊ณ ์คํํ๋ ๋ฑ ๋ณต์กํ๊ฒ ์ฒ๋ฆฌํ์ง ์๊ณ ๋ ๋ฐ์ดํฐ๋ฅผ ๋ถ์ํ๊ณ ์ฒ๋ฆฌํ ์ ์๋ ๊ฐ๋ ฅํ ์ฌ์ฉ์ ์ง์ ํ์ดํ๋ผ์ธ์ ๋ง๋ค ์ ์์ต๋๋ค
ํ์ฅ ๊ฐ๋ฅ
AWS Data Pipeline์ ์์
์ ํ๋ ๋๋ ์ฌ๋ฌ ๋์ ๋จธ์ ์ ์ง๋ ฌ ๋๋ ๋ณ๋ ฌ ๋ฐฉ์์ผ๋ก ์์ฝ๊ฒ ๋์คํจ์นํ ์ ์์ต๋๋ค. AWS Data Pipeline์ ์ ์ฐํ ์ค๊ณ ๋๋ถ์ ์๋ฐฑ๋ง ๊ฐ์ ํ์ผ์ ํ๋์ ํ์ผ์ฒ๋ผ ์์ฃผ ๊ฐ๋จํ๊ฒ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค.
์ ๋ ดํ ๋น์ฉ
AWS Data Pipeline์ ์ ๋ ดํ ๋น์ฉ์ผ๋ก ์ฌ์ฉํ ์ ์์ผ๋ฉฐ ์ ์ฌ์ฉ๋ฃ๊ฐ ๋ฎ์ต๋๋ค. AWS ํ๋ฆฌ ํฐ์ด๋ฅผ ํตํด ๋ฌด๋ฃ๋ก ์ฌ์ฉํด ๋ณด์ค ์ ์์ต๋๋ค. ์์ธํ ์์๋ณด๊ธฐ.
ํฌ๋ช
์ฑ
์ฌ์ฉ์๋ ๋น์ฆ๋์ค ๋ก์ง์ ์คํํ๋ ์ปดํจํ
๋ฆฌ์์ค๋ฅผ ์๋ฒฝํ๊ฒ ์ ์ดํ๊ณ ์ฝ๊ฒ ๋
ผ๋ฆฌ๋ฅผ ๊ฐ์ ํ๊ฑฐ๋ ๋๋ฒ๊น
ํ ์ ์์ต๋๋ค. ๋ํ ์ ์ฒด ์คํ ๋ก๊ทธ๊ฐ ์๋์ ์ผ๋ก Amazon S3๋ก ์ ์ก๋๋ฏ๋ก ์ฌ์ฉ์๋ ํ์ดํ๋ผ์ธ์ ์ํฉ์ ๋ํ ์ง์์ ์ด๊ณ ์์ธํ ๋ ์ฝ๋๋ฅผ ๋ฐ์ ์ ์์ต๋๋ค.

