AWS ๊ธฐ์ˆ  ๋ธ”๋กœ๊ทธ

Amazon Bedrock์—์„œ DeepSeek-R1 Distilled Llama ๋ชจ๋ธ ๋ฐฐํฌํ•˜๊ธฐ

์˜คํ”ˆ ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ(Open Foundation Models, FM)์€ ์ƒ์„ฑํ˜•AI ํ˜์‹ ์˜ ์ดˆ์„์ด ๋˜์–ด, ์กฐ์ง๋“ค์ด ๋น„์šฉ๊ณผ ๋ฐฐ์น˜ ์ „๋žต์„ ํ†ต์ œํ•˜๋ฉด์„œ AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ๊ตฌ์ถ•ํ•˜๊ณ  ๋งž์ถคํ™”ํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ด์ค๋‹ˆ๋‹ค. AI ์ปค๋ฎค๋‹ˆํ‹ฐ๋Š” ๊ณต๊ฐœ์ ์œผ๋กœ ์ด์šฉ ๊ฐ€๋Šฅํ•œ ๊ณ ํ’ˆ์งˆ์˜ ๋ชจ๋ธ์„ ์ œ๊ณตํ•จ์œผ๋กœ์จ, ๊ฐœ๋ฐœ์ž์™€ ์ตœ์ข… ์‚ฌ์šฉ์ž ๋ชจ๋‘์—๊ฒŒ ์ด์ต์ด ๋˜๋Š” ์‹ ์†ํ•œ ๋ฐ˜๋ณต, ์ง€์‹ ๊ณต์œ , ๋น„์šฉ ํšจ์œจ์ ์ธ ์†”๋ฃจ์…˜์„ ์ด‰์ง„ํ•ฉ๋‹ˆ๋‹ค. AI ๊ธฐ์ˆ  ๋ฐœ์ „์— ์ฃผ๋ ฅํ•˜๋Š” ์—ฐ๊ตฌ ํšŒ์‚ฌ์ธ DeepSeek AI๋Š” ์ด ์ƒํƒœ๊ณ„์— ํฌ๊ฒŒ [โ€ฆ]

AWS๊ฐ€ ์ œ๊ณตํ•˜๋Š” ์™„์ „๊ด€๋ฆฌํ˜• ๋ณ‘๋ ฌ ํŒŒ์ผ์‹œ์Šคํ…œ, Amazon FSx for Lustre โ€“ 2

์ด์ „ ๋ธ”๋กœ๊ทธ์—์„œ๋Š” ๋ณ‘๋ ฌ ํŒŒ์ผ์‹œ์Šคํ…œ์˜ ๊ธฐ๋ณธ ๊ฐœ๋…๊ณผ ํŠน์ง• ๊ทธ๋ฆฌ๊ณ  ๋Œ€ํ‘œ์ ์ธ ๋ณ‘๋ ฌ ํŒŒ์ผ์‹œ์Šคํ…œ์ธ Lustre์— ๋Œ€ํ•ด ์‚ดํŽด๋ณด์•˜์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ AWS์—์„œ ์ œ๊ณตํ•˜๋Š” ์™„์ „ ๊ด€๋ฆฌํ˜• Lustre ํŒŒ์ผ์‹œ์Šคํ…œ์ธ Amazon FSx for Lustre์— ๋Œ€ํ•ด์„œ๋„ ์•Œ์•„๋ณด์•˜์Šต๋‹ˆ๋‹ค. ๋ณ‘๋ ฌ ํŒŒ์ผ์‹œ์Šคํ…œ์€ ๋ฌด์—‡์ด๊ณ  ์™œ ํ•„์š”ํ• ๊นŒ? ์ง€๊ตฌ์ƒ์—์„œ ๊ฐ€์žฅ ์ธ๊ธฐ์žˆ๋Š” ๋ณ‘๋ ฌ ํŒŒ์ผ์‹œ์Šคํ…œ, Lustre ํŒŒ์ผ์‹œ์Šคํ…œ ์•Œ์•„๋ณด๊ธฐ AWS๊ฐ€ ์ œ๊ณตํ•˜๋Š” ์™„์ „ ๊ด€๋ฆฌํ˜• ๋ณ‘๋ ฌ ํŒŒ์ผ์‹œ์Šคํ…œ, Amazon FSx for Lustre โ€“ 1 ์ด๋ฒˆ ๋ธ”๋กœ๊ทธ๋Š” ์‹œ๋ฆฌ์ฆˆ์˜ [โ€ฆ]

AI ์‘๋‹ต์„ฑ ์ตœ์ ํ™”ํ•˜๊ธฐ: Amazon Bedrock ์ง€์—ฐ ์‹œ๊ฐ„ ์ตœ์ ํ™” ์ถ”๋ก ์— ๋Œ€ํ•œ ์‹ค์šฉ์ ์ธ ๊ฐ€์ด๋“œ

์ด ๊ธ€์€ AWS Machine Learning ๋ธ”๋กœ๊ทธ์˜ Optimizing AI responsiveness: A practical guide to Amazon Bedrock latency-optimized inference by Ishan Singh, Ankur Desai, Rupinder Grewal, Vivek Singh, and Yanyan Zhang์˜ ํ•œ๊ตญ์–ด ๋ฒˆ์—ญ์ž…๋‹ˆ๋‹ค. ์ƒ์šฉ ์ƒ์„ฑํ˜•AI ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์—์„œ ๋ฐ˜์‘์„ฑ์€ ๋ชจ๋ธ์˜ ์„ฑ๋Šฅ(์ •ํ™•๋„)๋งŒํผ์ด๋‚˜ ์ค‘์š”ํ•ฉ๋‹ˆ๋‹ค. ์‹œ๊ฐ„์— ๋ฏผ๊ฐํ•œ ๋ฌธ์˜ ์‚ฌํ•ญ์„ ์ฒ˜๋ฆฌํ•˜๋Š” ๊ณ ๊ฐ ์„œ๋น„์Šค ํŒ€์ด๋“ , ์ฆ‰๊ฐ์ ์ธ ์ฝ”๋“œ ์ œ์•ˆ์ด ํ•„์š”ํ•œ ๊ฐœ๋ฐœ์ž์ด๋“ , ์ง€์—ฐ ์‹œ๊ฐ„(๋Œ€๊ธฐ ์‹œ๊ฐ„)์œผ๋กœ ์•Œ๋ ค์ง„ 1์ดˆ์˜ ์ง€์—ฐ๋„ ์ƒ๋‹นํ•œ ์˜ํ–ฅ์„ ๋ฏธ์น  [โ€ฆ]

AWS ๋ฐ์ดํ„ฐ ๋ถ„์„ ์„œ๋น„์Šค ๊ธฐ๋ฐ˜ ๊ฒŒ์ž„ ๋ ˆ๋ฒจ๋ง ํ™˜๊ฒฝ ๊ตฌ์„ฑ ์‚ฌ๋ก€

๊ฐœ์š” ๊ธฐ์กด์˜ ๋ฌธ์ œ ์ƒํ™ฉ ์†Œ๊ทœ๋ชจ ์ธ๋””๊ฒŒ์ž„ ๊ฐœ๋ฐœ์‚ฌ๋Š” ์ž‘์€ ๊ทœ๋ชจ์™€ ํ•œ์ •๋œ ์ž์›์—๋„ ๋ถˆ๊ตฌํ•˜๊ณ  ์ฐฝ์˜์„ฑ๊ณผ ํ˜์‹ ์„ฑ์„ ๋ฐœํœ˜ํ•˜๋ฉฐ ์ƒˆ๋กœ์šด ๊ฒŒ์ž„ ๊ฒฝํ—˜์„ ์„ ์‚ฌํ•ฉ๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ์ด๋Ÿฌํ•œ ์žฅ์ ์—๋„ ๋ถˆ๊ตฌํ•˜๊ณ , ๊ฒŒ์ž„ ๊ฐœ๋ฐœ ๊ณผ์ •์—์„œ ์ ์ง€ ์•Š์€ ๊ณผ์ œ์— ์ง๋ฉดํ•˜๊ณค ํ•ฉ๋‹ˆ๋‹ค. ํŠนํžˆ ๊ฒŒ์ž„ ์ถœ์‹œ ์ „ ์™„์„ฑ๋„๋ฅผ ๋†’์ด๊ธฐ ์œ„ํ•œ ํ…Œ์ŠคํŒ…๊ณผ ๋‚œ์ด๋„ ์กฐ์ • ์ž‘์—…์€ ๋งค์šฐ ์ค‘์š”ํ•˜์ง€๋งŒ, ์ธ๋ ฅ์ด ๋ถ€์กฑํ•œ ์ธ๋”” ๊ฒŒ์ž„ ์ŠคํŠœ๋””์˜ค์—์„œ๋Š” ์ด๋Ÿฌํ•œ ์ž‘์—…์„ ์ถฉ๋ถ„ํžˆ ์ˆ˜ํ–‰ํ•˜๊ธฐ ์–ด๋ ค์šด ์ƒํ™ฉ์ž…๋‹ˆ๋‹ค. [โ€ฆ]

๋น„์ •ํ˜• ๋ฐ์ดํ„ฐ! Amazon Bedrock์œผ๋กœ ์ œ๋Œ€๋กœ ํ™œ์šฉํ•˜๊ธฐ

์˜ค๋Š˜๋‚  ๊ธฐ์—…๋“ค์€ ์ „๋ก€ ์—†๋Š” ๊ทœ๋ชจ์˜ ๋น„์ •ํ˜• ๋ฐ์ดํ„ฐ๋ฅผ ๋ณด์œ ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฉ”์ผ, ๋ฌธ์„œ, ์ด๋ฏธ์ง€, ๋™์˜์ƒ, ์†Œ์…œ ๋ฏธ๋””์–ด ๊ฒŒ์‹œ๋ฌผ ๋“ฑ ๋‹ค์–‘ํ•œ ํ˜•ํƒœ์˜ ๋น„์ •ํ˜• ๋ฐ์ดํ„ฐ๋Š” ๋ชจ๋“  ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ๋ฐ์ดํ„ฐ์—์„œ 80%~90%๋ฅผ ์ฐจ์ง€ํ•˜๊ณ  ์žˆ์œผ๋ฉฐ, ์ •ํ˜• ๋ฐ์ดํ„ฐ๋ณด๋‹ค ๋ช‡ ๋ฐฐ๋‚˜ ๋น ๋ฅด๊ฒŒ ์ฆ๊ฐ€ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ๋ฐฉ๋Œ€ํ•œ ๋น„์ •ํ˜• ๋ฐ์ดํ„ฐ์—๋Š” ์‹œ์žฅ ํŠธ๋ Œ๋“œ, ๊ณ ๊ฐ ๋‹ˆ์ฆˆ, ์šด์˜์ƒ์˜ ๋ฌธ์ œ์  ๋“ฑ ๊ท€์ค‘ํ•œ ์ธ์‚ฌ์ดํŠธ๊ฐ€ ์žˆ์Šต๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ์•ฝ 18%์˜ ๊ธฐ์—…๋งŒ์ด ์ด๋Ÿฌํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ํšจ๊ณผ์ ์œผ๋กœ [โ€ฆ]

Amazon Bedrock๊ณผ Amazon Neptune์œผ๋กœ ์ง€์‹ ๊ทธ๋ž˜ํ”„๋ฅผ ํ™œ์šฉํ•œ GraphRAG ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ตฌ์ถ•ํ•˜๊ธฐ

์ด ๊ธ€์€ AWS Database ๋ธ”๋กœ๊ทธ์˜ Using knowledge graphs to build GraphRAG applications with Amazon Bedrock and Amazon Neptune์˜ ํ•œ๊ตญ์–ด ๋ฒˆ์—ญ์ž…๋‹ˆ๋‹ค. ๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ(Retrieval Augmented Generation, RAG)์€ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ๊ณผ ์™ธ๋ถ€ ์ง€์‹ ์†Œ์Šค๋ฅผ ๊ฒฐํ•ฉํ•˜๋Š” ํ˜์‹ ์ ์ธ ์ ‘๊ทผ ๋ฐฉ์‹์œผ๋กœ, ๋” ์ •ํ™•ํ•˜๊ณ  ์ •๋ณด๊ฐ€ ํ’๋ถ€ํ•œ ์ฝ˜ํ…์ธ  ์ƒ์„ฑ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ธฐ์ˆ ์€ ์–ธ์–ด ๋ชจ๋ธ์˜ ๋งฅ๋ฝ ์ดํ•ด ๋ฐ ์ผ๊ด€๋œ ์‘๋‹ต ์ƒ์„ฑ ๋Šฅ๋ ฅ๊ณผ [โ€ฆ]

SKํ•˜์ด๋‹‰์Šค์˜ RAG ํ”Œ๋žซํผ ๊ตฌ์ถ• ๋ฐ ์„ฑ๋Šฅ ํ‰๊ฐ€/๋ถ„์„ ์—ฐ๊ตฌ ์‚ฌ๋ก€

์ด ๋ธ”๋กœ๊ทธ๋Š” SK hynix ์˜ค์„ธ์ง„ TL, ๋…ธ์ •๊ธฐ TL, ์˜คํƒœ์ง„ TL ์ด ํ•จ๊ป˜ ์ž‘์„ฑํ•˜์˜€์Šต๋‹ˆ๋‹ค. SK ํ•˜์ด๋‹‰์Šค๋Š” AI ์‹œ๋Œ€๋ผ๋Š” ์ƒˆ๋กœ์šด ์„ธ์ƒ์˜ ์ค‘์‹ฌ์— ๋ฐ˜๋„์ฒด๊ฐ€ ์žˆ๋‹ค๋Š” ์‚ฌ๋ช…๊ฐ์„ ๊ฐ€์ง€๊ณ  ์ตœ๊ณ ์˜ ๊ธฐ์ˆ ๋ ฅ์„ ํ–ฅํ•ด ๋Š์ž„์—†๋Š” ํ˜์‹ ์„ ์ด๋ค„ ๊ฐ€๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์„ธ๊ณ„ ์ตœ๊ณ  ์„ฑ๋Šฅ์˜ HBM3๋ฅผ ์ตœ์ดˆ ๊ฐœ๋ฐœ ๋ฐ ์ถœ์‹œํ•œ ๋ฐ ์ด์–ด ํ™•์žฅ ๋ฒ„์ „์ธ HBM3E ์—ญ์‹œ ์„ธ๊ณ„ ์ตœ์ดˆ ์–‘์‚ฐ์— ์„ฑ๊ณตํ•˜๋ฉฐ ๋ฉ”๋ชจ๋ฆฌ ๋ฐ˜๋„์ฒด ์‹œ์žฅ์„ ์„ ๋„ํ•˜๊ณ  ์žˆ๊ณ , ์„ธ๊ณ„ [โ€ฆ]

์ „์šฉ ์ฝ”๋””๋„ค์ดํ„ฐ ๋…ธ๋“œ๋ฅผ ์‚ฌ์šฉํ•œ Amazon OpenSearch Service ํด๋Ÿฌ์Šคํ„ฐ ๋ณต์›๋ ฅ๊ณผ ์„ฑ๋Šฅ ํ–ฅ์ƒ

์ด ๊ธ€์€ Akshay Zade ๋‹˜์ด ์ง์„ฑํ•˜์‹  โ€œImprove OpenSearch Service cluster resiliency and performance with dedicated coordinator nodesโ€ ํฌ์ŠคํŒ…์„ ํ•œ๊ธ€๋กœ ๋ฒˆ์—ญ ํ•œ Posting์ž…๋‹ˆ๋‹ค. Amazon OpenSearch Service์—์„œ OpenSearch ๋„๋ฉ”์ธ์„ ์ƒ์„ฑํ•  ๋•Œ, ๊ธฐ์กด์—๋Š” ๋ฐ์ดํ„ฐ ๋…ธ๋“œ๊ฐ€ ์—ฌ๋Ÿฌ ์—ญํ• ์„ ๋™์‹œ์— ์ˆ˜ํ–‰ํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ฐ์ดํ„ฐ ๋…ธ๋“œ๋Š” ์ƒ‰์ธ ์š”์ฒญ ๋ฐ ๊ฒ€์ƒ‰ ์š”์ฒญ์„ ์กฐ์ •ํ•  ๋ฟ๋งŒ ์•„๋‹ˆ๋ผ, ์ƒ‰์ธ ๋ฌธ์„œ๋ฅผ ์ฒ˜๋ฆฌํ•˜๊ณ  ๊ฒ€์ƒ‰ ์ฟผ๋ฆฌ์— ์‘๋‹ตํ•˜๋Š” ์ž‘์—…๊นŒ์ง€ ๋‹ด๋‹นํ–ˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ, [โ€ฆ]

Amazon Elasticache Valkey 8.0์€ ๋” ๋น ๋ฅธ ์Šค์ผ€์ผ๋ง๊ณผ ๊ฐœ์„ ๋œ ๋ฉ”๋ชจ๋ฆฌ ํšจ์œจ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค

์ด ๊ธ€์€ AWS Database Blog์— ๊ฒŒ์‹œ๋œ Amazon ElastiCache version 8.0 for Valkey brings faster scaling and improved memory efficiency by Abhay Saxena and Rashim Gupta ์„ ํ•œ๊ตญ์–ด๋กœ ๋ฒˆ์—ญ ๋ฐ ํŽธ์ง‘ํ•˜์˜€์Šต๋‹ˆ๋‹ค. 2024๋…„ 11์›”, Amazon ElastiCache์— Valkey 8.0 ๋ฒ„์ „์— ๋Œ€ํ•œ ์ง€์›์ด ์ถ”๊ฐ€ ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. Valkey ์ „์šฉ ElastiCache ๋ฒ„์ „ 8.0์€ ์„œ๋ฒ„๋ฆฌ์Šค์— ๋Œ€ํ•œ ๋” ๋น ๋ฅธ ํ™•์žฅ๊ณผ ๋…ธ๋“œ ๊ธฐ๋ฐ˜ ํด๋Ÿฌ์Šคํ„ฐ์— ๋Œ€ํ•œ [โ€ฆ]

Amazon Network Firewall Suricata ๊ทœ์น™์—์„œ HOME_NET ๋ณ€์ˆ˜ ์‚ฌ์šฉํ•˜๊ธฐ

์ด ๊ฒŒ์‹œ๋ฌผ์—์„œ๋Š” AWS Network Firewall(์ดํ•˜ โ€œANFโ€) ๋ชจ๋ฒ” ์‚ฌ๋ก€ ์‹œ๋ฆฌ์ฆˆ์˜ ์ฒซ ๋ฒˆ์งธ ๊ฒŒ์‹œ๋ฌผ์ธ โ€œAWS Network Firewall Suricata ๊ทœ์น™์—์„œ Flow ํ‚ค์›Œ๋“œ ์‚ฌ์šฉํ•˜๊ธฐโ€์— ์ด์–ด์„œ ๋‘ ๋ฒˆ์งธ ๊ฒŒ์‹œ๋ฌผ๋กœ ANF์˜ ๊ทœ์น™ ๊ทธ๋ฃน์„ ์ƒ์„ฑํ•  ๋•Œ โ€œHOME_NET ๋ณ€์ˆ˜ ์„ค์ •โ€์„ ์‚ฌ์šฉํ•ด์•ผ ํ•˜๋Š” ์ด์œ ์™€ ํŠน์ง• ๋ฐ ํ™œ์šฉ ์‚ฌ๋ก€์— ๋Œ€ํ•ด์„œ ์•Œ์•„๋ณด๋„๋ก ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค. ANF๋Š” Suricata Engine์„ ์‚ฌ์šฉํ•˜๋Š” ์ •์ฑ… ๊ธฐ๋ฐ˜์˜ ๋„คํŠธ์›Œํฌ ๋ณด์•ˆ ์„œ๋น„์Šค๋กœ, VPC ํ™˜๊ฒฝ์—์„œ ํŠธ๋ž˜ํ”ฝ์„ ํ•„ํ„ฐ๋งํ•˜๊ณ  [โ€ฆ]