์๋ก์ด AWS ์์ฑํ AI ํ์ ๊ธฐ๋ฅ
re:Invent 2024์์๋ ์์ฑํ AI๋ฅผ ๋๊ท๋ชจ๋ก ์์ฝ๊ฒ ๋์ ํ ์ ์๋๋ก ํ๋ ์๋ก์ด ์ ํ ๋ฐ ๊ธฐ๋ฅ์ ์ถ์ํ์ต๋๋ค.
Amazon Nova ์๊ฐ
์๋ก์ด ํ์ด๋ฐ์ด์ ๋ชจ๋ธ(FM) ์ ํ๊ตฐ์ธ Amazon Nova๋ ํ๋ก ํฐ์ด ์ธํ ๋ฆฌ์ ์ค์ ์ ๊ณ ์ต๊ณ ์ ๊ฐ๊ฒฉ ๋๋น ์ฑ๋ฅ ์ ๊ณต:
- Amazon Nova Micro: ์ ๊ณ ์ต์ ์์ค์ ์ง์ฐ ์๊ฐ ๋ด์ ์๋ต์ ์ ๊ณตํ๋ฉฐ ๋น์ฉ๋ ๋งค์ฐ ์ ๋ ดํ ํ ์คํธ ์ ์ฉ ๋ชจ๋ธ
- Amazon Nova Lite: ์ด๋ฏธ์ง, ๋น๋์ค ๋ฐ ํ ์คํธ ์ ๋ ฅ์ ๋งค์ฐ ๋น ๋ฅด๊ฒ ์ฒ๋ฆฌํ๋ฉฐ ๋น์ฉ๋ ๋งค์ฐ ์ ๋ ดํ ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ
- Amazon Nova Pro: ์ ํ์ฑ, ์๋ ๋ฐ ๋น์ฉ์ด๋ผ๋ ์ต์์ ์กฐํฉ์ ๊ฐ์ถ ๊ณ ์ฑ๋ฅ ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ
- Amazon Nova Canvas: ์ฒจ๋จ ์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ
- Amazon Nova Reel: ์ฒจ๋จ ๋น๋์ค ์์ฑ ๋ชจ๋ธ
์ด ์ด๋ฏธ์ง๋ โํ๋ณตํ ์ฝ๊ธฐ ๊ฐ์์ง์ ๋ชจ์ตโ์ด๋ผ๋ ํ๋กฌํํธ๋ก Amazon Nova Canvas๋ฅผ ์ฌ์ฉํ์ฌ ์์ฑ๋์์ต๋๋ค.
์กฐ์ง์ ์ด์ ๋ฐฉ์ ํ์
Amazon Q๋ ํ๋ก์ธ์ค๋ฅผ ๊ฐ์ํํ๊ณ ์์ฌ ๊ฒฐ์ ์ ๊ฐ์ ํ๋ฉฐ ์์ฐ์ฑ์ ๋์ด๋ ๋ฐ ๋์์ด ๋๋ AWS์ ์์ฑํ AI ๊ธฐ๋ฐ ๋์ฐ๋ฏธ์ ๋๋ค.
Amazon Q์ ๋ค์๊ณผ ๊ฐ์ ์ฌ๋ฌ ๊ฐ์ง ์๋ก์ด ๊ธฐ๋ฅ์ด ์ถ๊ฐ๋์์ต๋๋ค.
- Amazon Q Developer ์์ด์ ํธ๋ฅผ ์ฌ์ฉํ์ฌ ๋ ๋น ๋ฅด๊ฒ ๊ตฌ์ถ ๋ฐ ๋ฐฐํฌ
- ๋๊ท๋ชจ ๋ง์ด๊ทธ๋ ์ด์ ๋ฐ ํ๋ํ ํ๋ก์ ํธ ํ์
- ๋ฐฐํฌ๊ฐ ๊ฐํธํ ํ์ฅ ๊ธฐ๋ฅ์ ์ฌ์ฉํ์ฌ ์๋ ํํฐ ์ ํ๋ฆฌ์ผ์ด์ ์์ Amazon Q ๋์ฐ๋ฏธ์ ์ก์ธ์ค
- ์ ํ ๋ฐ ๋น์ ํ ๋ฐ์ดํฐ ์์ค ํตํฉ
- ๊ณ ๊ฐ์๊ฒ ๋ํํ ์ ํ ์๋น์ค ์ง์ ์ ๊ณต
์์ฑํ AI ์ ํ๋ฆฌ์ผ์ด์ ์ ์์ฝ๊ฒ ๊ตฌ์ถํ๊ณ ๊ท๋ชจ๋ฅผ ์กฐ์
Amazon Bedrock์ ์ฃผ์ AI ๊ธฐ์ ์ ๊ณ ์ฑ๋ฅ FM ์ต์ ์ ํ๊ฐํ๊ณ ์ ํํ๋ ๋ฐ ๋์์ ์ฃผ๋ ์์ ๊ด๋ฆฌํ ์๋น์ค์ ๋๋ค. ๊ธฐ๋ฐ ์ธํ๋ผ๋ฅผ ๊ด๋ฆฌํ์ง ์๊ณ ๋ ์์ฑํ AI ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ตฌ์ถํ ์ ์์ต๋๋ค.
Amazon Bedrock์ ๋ค์๊ณผ ๊ฐ์ ์ฌ๋ฌ ๊ฐ์ง ์๋ก์ด ๊ธฐ๋ฅ์ด ์ถ๊ฐ๋์์ต๋๋ค.
- Amazon Bedrock Marketplace์์ 100๊ฐ ์ด์์ ์์ฒด ๊ด๋ฆฌ ๋ชจ๋ธ ์ด์ฉ
- ๋์์ ์์ฑ์ ์ํ ํน์ ๋ชจ๋ธ
- ๋น์ฉ ํจ์จ์ ์ธ ์์ ๋ณ ์ถ๋ก ์ ์ํ ๋ชจ๋ธ ์ฆ๋ฅ
- ๋น์ฉ ์ต์ ํ๋ ์์ฑํ AI ์ ํ๋ฆฌ์ผ์ด์ ์ ์ํ ํ๋กฌํํธ ๋ผ์ฐํ ๋ฐ ์บ์ฑ
- ๋ฌธ์ ํด๊ฒฐ ํฅ์์ ์ํด ๋ค์ค ์์ด์ ํธ ํ์
- Amazon SageMaker Unified Studio์ Bedrock IDE๋ฅผ ์ฌ์ฉํ ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ๋ฐ
AI ๋ชจ๋ธ์ ๊ตฌ์ถ, ํ๋ จ ๋ฐ ๋ง์ถคํํ๊ธฐ ์ํ ์ธํ๋ผ
Amazon Elastic Compute Cloud(Amazon EC2) Trn2 ์ธ์คํด์ค๋ ์์ฑํ AI ํ๋ จ ๋ฐ ์ถ๋ก ์ ์ง์ํ๋ ๊ฐ์ฅ ๊ฐ๋ ฅํ Amazon EC2 ์ธ์คํด์ค์ ๋๋ค. AWS Trainium2 ์นฉ์ผ๋ก ๊ตฌ๋๋๋ Trn2 ์ธ์คํด์ค๋ ๊ธฐ์กด GPU ๊ธฐ๋ฐ EC2 ์ธ์คํด์ค(P5e ๋ฐ P5en)๋ณด๋ค ์ต๋ 30~40% ๋ ๋ฐ์ด๋ ๊ฐ๊ฒฉ ๋๋น ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
์ธ ๊ฐ์ง ์๋ก์ด Amazon SageMaker HyperPod ํ์ ๊ธฐ์ ์ ์ฌ์ฉํ๋ฉด ์ค๋๋ ๊ฐ์ฅ ์ธ๊ธฐ ์๋ ๋ช ๊ฐ์ง ๋ชจ๋ธ์ ํ๋ จํ๊ธฐ ์ํ ์์ฒด FM์ ์์ฝ๊ฒ ๊ตฌ์ถํ์ฌ ํ๋ จ ์๊ฐ์ ์ต๋ 40% ๋จ์ถํ ์ ์์ต๋๋ค. ์ด์ ์์ ๊ฑฐ๋ฒ๋์ค์ ์ ์ฐํ ํ๋ จ ๊ณํ์ผ๋ก ์ปดํจํ ๋ฆฌ์์ค ํ ๋น์ ์๋ฒฝํ๊ฒ ํ์ ๋ฐ ์ ์ดํ๊ณ , ์ปดํจํ ๋ฆฌ์์ค๋ฅผ ํจ์จ์ ์ผ๋ก ์ฌ์ฉํ์ฌ ๋ชจ๋ธ ํ๋ จ ์๊ฐ์ ๋จ์ถํ ์ ์์ต๋๋ค.
์ด์ Amazon SageMaker AI๋ฅผ ์ฌ์ฉํ์ฌ Amazon SageMaker Studio์์ AWS ํํธ๋์ ์์ ๊ด๋ฆฌํ ์์ฑํ AI ๋ฐ ๊ธฐ๊ณ ํ์ต(ML) ๊ฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์ ์ ๊ฒ์, ๋ฐฐํฌ, ์ฌ์ฉํ ์ ์์ต๋๋ค. ์ด ํตํฉ ๊ธฐ๋ฅ์ ํตํด ๊ณ ๊ฐ์ ๊ฐ์ฅ ์ ํฉํ ๋๊ตฌ๋ฅผ ์ ํํ ์ ์์ต๋๋ค.
AI์ ๋ํ ์ ๋ขฐ ์ฆ์ง
Amazon์ AI๋ฅผ ์ฑ ์ ์๊ฒ ๊ตฌ์ถํ๊ณ ์ฌ์ฉํ์ฌ ์ ๋ขฐ๋ฅผ ์ฆ์งํ๊ณ ๊ณ ๊ฐ์๊ฒ ์ฅ๊ธฐ์ ์ธ ๊ฐ์น๋ฅผ ์ ๊ณตํ๊ธฐ ์ํด ์ค๋ซ๋์ ๋ ธ๋ ฅํด ์์ต๋๋ค. Amazon์ ์ฑ ์ ์๋ AI ํ์ ์ ์ต์ฐ์ ์ผ๋ก ํ๋ฉฐ, ์ต๊ทผ ํต์ฌ AI ์๋น์ค์ ISO/IEC 42001 ์ธ์ฆ ์ทจ๋ ์ฌ์ค์ ๋ฐํํ ๋ฐ ์์ต๋๋ค.
์๋ก์ด ์ฑ ์ ์๋ AI ๊ธฐ๋ฅ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
- Amazon Bedrock Guardrails์ ์๋ ์ถ๋ก ๊ฒ์ฌ๋ฅผ ์ฌ์ฉํ์ฌ ์ํ๋๊ฐ ๋์ ์ฌ์ฉ ์ฌ๋ก๋ฅผ ์ํด ์ ๋ขฐํ ์ ์๋ ์ ํ๋ฆฌ์ผ์ด์ ๊ตฌ์ถ
- ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ(LLM)์ ํ๋จ ๊ธฐ๋ฅ์ ์ฌ์ฉํ์ฌ ์ฃผ์ ์์ ๋ฐ ์ ํ๋ ๊ธฐ์ค์ ๋ฐ๋ผ FM ๋ฐ RAG ์ ํ๋ฆฌ์ผ์ด์ ํ๊ฐ
- Amazon ํ์ด๋ฐ์ด์ ๋ชจ๋ธ์ ์ํ ์๋ก์ด AI ์๋น์ค ์นด๋์ ์ก์ธ์ค
AWS ์๋ฃจ์ ์ดํด๋ณด๊ธฐ
AWS ์ ํ ์ดํด๋ณด๊ธฐ
๊ต์ก ๋ฐ ์๊ฒฉ์ฆ
๊ณ ๊ฐ ํ์ ์ง์
๋ค์ํ ์ ์ข ์ ๊ณ ๊ฐ์ด ์ง์ ์์ฐ์ฑ์ ๋์ด๊ณ ํ์ํ ๊ณ ๊ฐ ๊ฒฝํ์ ์ ๊ณตํ๊ณ ๋น์ฆ๋์ค ํ๋ก์ธ์ค๋ฅผ ๊ฐ์ํํ๋ ๋ฐฉ๋ฒ์ ์์๋ณด์ธ์.

