AI296

Develop, Test, and Run Granite Family LLMs with Red Hat Enterprise Linux AI

๊ฐœ์š”

๊ต์œก ๊ณผ์ • ๊ฐœ์š”

Red Hat Enterprise Linux AI๋กœ ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์„ ๋ฏธ์„ธ ์กฐ์ •(fine-tuning), ์„œ๋น™, ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์— ๋Œ€ํ•œ ๊ฐœ์š” ๊ณผ์ •์ž…๋‹ˆ๋‹ค.

Develop, Test, and Run granite Family LLMs with Red Hat Enterprise Linux AI(AI296)๋Š” ํŠน์ • ๋น„์ฆˆ๋‹ˆ์Šค ์š”๊ตฌ ์‚ฌํ•ญ์— ๋งž๋Š” ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์„ ๋ฏธ์„ธ ์กฐ์ •, ์„œ๋น™, ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์— ๋Œ€ํ•œ ๊ธฐ๋ณธ ์ง€์‹์„ ์ˆ˜๊ฐ•์ƒ์—๊ฒŒ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ต์œก ๊ณผ์ •์„ ํ†ตํ•ด ์ˆ˜๊ฐ•์ƒ์€ ์•ˆ์ „ํ•œ ํ”„๋ผ์ด๋น— ํ™˜๊ฒฝ์—์„œ ๋ชจ๋ธ์„ ํ•™์Šต์‹œํ‚ฌ ์ˆ˜ ์žˆ๋Š” ํ•ต์‹ฌ ๊ธฐ์ˆ ์„ ์Šต๋“ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

์ด ๊ต์œก ๊ณผ์ •์€ Red Hat Enterprise Linux AI 1.5๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•ฉ๋‹ˆ๋‹ค.

์ฐธ๊ณ : ์ด ๊ต์œก ๊ณผ์ •์€ 2์ผ๊ฐ„์˜ ๋Œ€๋ฉด ๊ฐ•์˜์‹ค ์ˆ˜์—…, 3์ผ๊ฐ„์˜ ์˜จ๋ผ์ธ ์ˆ˜์—… ๋˜๋Š” ์ž๊ธฐ ์ฃผ๋„์‹์œผ๋กœ ์ œ๊ณต๋ฉ๋‹ˆ๋‹ค. ๊ธฐ๊ฐ„์€ ์ œ๊ณต ๋ฐฉ๋ฒ•์— ๋”ฐ๋ผ ๋‹ค๋ฅผ ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ „์ฒด ๊ต์œก ๊ณผ์ •์˜ ์„ธ๋ถ€ ์ •๋ณด, ์ผ์ •, ๊ฐ€๊ฒฉ์„ ํ™•์ธํ•˜๋ ค๋ฉด ์œ„์น˜๋ฅผ ์„ ํƒํ•œ ๋‹ค์Œ ์˜ค๋ฅธ์ชฝ ๋ฉ”๋‰ด์—์„œ '์‹œ์ž‘ํ•˜๊ธฐ'๋ฅผ ์„ ํƒํ•˜์„ธ์š”.

๊ต์œก ๊ณผ์ • ๋‚ด์šฉ ์š”์•ฝ

  • ์ƒ์„ฑํ˜• AI ๊ธฐ๋ณธ ์‚ฌํ•ญ: ๊ธฐ๋Šฅ, ๊ณผ์ œ, ๋ชจ๋ธ, ๊ธฐ์ˆ 
  • ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ์ƒ์„ฑํ˜• AI๋ฅผ ์œ„ํ•œ Granite ๋ชจ๋ธ
  • Red Hat Enterprise Linux AI๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ ํ•™์Šต
  • Red Hat Enterprise Linux AI๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ํ•™์Šต๋œ ๋ชจ๋ธ ๋ฐฐํฌ

๊ต์œก ๋Œ€์ƒ

  • ํŠน์ • ๋น„์ฆˆ๋‹ˆ์Šค ์š”๊ตฌ ์‚ฌํ•ญ์— ๋งž๊ฒŒ GenAI ๋ชจ๋ธ์„ ํ•™์Šต์‹œํ‚ค๊ณ  ์กฐ์ •ํ•˜๋Š” ๊ณผ์ •๊ณผ Granite ๋ชจ๋ธ์— ๋Œ€ํ•ด ์ž์„ธํžˆ ์•Œ์•„๋ณด๊ณ ์ž ํ•˜๋Š” ๋ฐ์ดํ„ฐ ์‚ฌ์ด์–ธํ‹ฐ์ŠคํŠธ์™€ AI ์ „๋ฌธ๊ฐ€
  • ๊ธฐ๋ณธ์ ์ธ AI/ML ์ง€์‹์„ ๊ฐ–์ถ˜ ๊ฐœ๋ฐœ์ž ๋˜๋Š” ์•ˆ์ „ํ•œ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ํ™˜๊ฒฝ์—์„œ AI ๊ธฐ๋ฐ˜ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์„ ๊ฐœ๋ฐœ, ํ…Œ์ŠคํŠธ, ์‹คํ–‰ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šฐ๋Š” ๋ฐ ๊ด€์‹ฌ์ด ์žˆ๋Š” ๋จธ์‹  ๋Ÿฌ๋‹ ์—”์ง€๋‹ˆ์–ด
  • ๋ณด์•ˆ ์ •์ฑ…์„ ์‹œํ–‰ํ•˜๋Š” ๋™์‹œ์— ์ƒ์„ฑํ˜• AI ๋ฐ LLM์˜ ๋„์ž…์„ ์ด‰์ง„ํ•˜๊ธฐ ์œ„ํ•ด ํšŒ์‚ฌ์˜ ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ํด๋ผ์šฐ๋“œ ์ธํ”„๋ผ๋ฅผ ๊ด€๋ฆฌํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šฐ๋Š” ๋ฐ ๊ด€์‹ฌ์ด ์žˆ๋Š” ์‹œ์Šคํ…œ ๊ด€๋ฆฌ์ž
  • ๋น„์ฆˆ๋‹ˆ์Šค ์š”๊ตฌ ์‚ฌํ•ญ์— ๋งž๋Š” ๋ณด์•ˆ ๋ชจ๋ธ์˜ ํ•™์Šต์— ๊ธฐ์—ฌํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๋ฐฐ์šฐ๋Š” ๋ฐ ๊ด€์‹ฌ์ด ์žˆ๋Š” SME, ๋„๋ฉ”์ธ ์ „๋ฌธ๊ฐ€ ๋“ฑ๊ณผ ๊ฐ™์€ ๊ธฐํƒ€ ์ „๋ฌธ๊ฐ€

๊ถŒ์žฅ ๊ต์œก

  • AI ๋ฐ ML์— ๋Œ€ํ•œ ๊ธฐ๋ณธ์ ์ธ ์ดํ•ด๊ฐ€ ๊ถŒ์žฅ๋˜์ง€๋งŒ ํ•„์ˆ˜๋Š” ์•„๋‹™๋‹ˆ๋‹ค.
  • Linux ์ปค๋งจ๋“œ๋ผ์ธ์— ๋Œ€ํ•œ ์‚ฌ์ „ ์ง€์‹์„ ๋ณด์œ ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

๊ธฐ์ˆ  ๊ณ ๋ ค ์‚ฌํ•ญ

  • ๋ฒ„์ถ”์–ผ, ์ž๊ธฐ ์ฃผ๋„, ๊ฐ•์˜์‹ค ํ•™์Šต์ž ๋ชจ๋‘๋ฅผ ์œ„ํ•œ ์•ˆ๋‚ด:
    • ์ธํ„ฐ๋„ท ์—ฐ๊ฒฐ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
    • ๋žฉ์€ Red Hat์˜ ์˜จ๋ผ์ธ ํ•™์Šต ํ™˜๊ฒฝ์—์„œ ์ง„ํ–‰๋ฉ๋‹ˆ๋‹ค.
    • ๊ฐ•์˜์‹ค ์ˆ˜๊ฐ•์ƒ์„ ์œ„ํ•œ ๋Œ€์•ˆ์œผ๋กœ, ์ถ”ํ›„ ๊ต์œก์žฅ์— ํ•„์š”ํ•œ ์ธํ”„๋ผ๊ฐ€ ์„ค์น˜๋  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
๊ต์œก ๋‚ด์šฉ

๊ต์œก ๊ณผ์ • ๋‚ด์šฉ

์ƒ์„ฑํ˜• AI ๊ธฐ๋ณธ ์‚ฌํ•ญ: ๊ธฐ๋Šฅ, ๊ณผ์ œ, ๋ชจ๋ธ, ๊ธฐ์ˆ 

์ƒ์„ฑํ˜• AI์™€ ๊ทธ ์ค‘์š”์„ฑ, ์žฅ์ , ๊ณผ์ œ๋ฅผ ์ •์˜ํ•ฉ๋‹ˆ๋‹ค. ๊ธฐ๋Šฅ, ํ™œ์šฉ ์‚ฌ๋ก€, ์ œํ•œ ์‚ฌํ•ญ์„ ๊ณ ๋ คํ•˜์—ฌ ์ ํ•ฉํ•œ GenAI์™€ LLM ๋ชจ๋ธ ๋ฐ ๊ธฐ์ˆ ์„ ์„ ํƒํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ํ•™์Šตํ•ฉ๋‹ˆ๋‹ค.

์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ์ƒ์„ฑํ˜• AI๋ฅผ ์œ„ํ•œ Granite ๋ชจ๋ธ

Granite ๋ชจ๋ธ๊ณผ ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ํ™œ์šฉ ์‚ฌ๋ก€๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” Granite ๋ชจ๋ธ์˜ ๊ธฐ๋Šฅ์„ ํ์‡„ํ˜• ๋Œ€๊ทœ๋ชจ ๋ชจ๋ธ๊ณผ ๋น„๊ตํ•˜์—ฌ ์„ค๋ช…ํ•˜๊ณ  ์ดํ•ดํ•ฉ๋‹ˆ๋‹ค.

Red Hat Enterprise Linux AI๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ ํ•™์Šต

Red Hat Enterprise Linux AI์™€ IBM Granite๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ๊ธฐ์ˆ  ๋ฐ ๋น„๊ธฐ์ˆ ์ง ์ดํ•ด๊ด€๊ณ„์ž๊ฐ€ ํŠน์ • ๋น„์ฆˆ๋‹ˆ์Šค ์š”๊ตฌ ์‚ฌํ•ญ์— ์ตœ์ ํ™”๋œ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ์ƒ์„ฑํ•˜๊ณ  ํ•™์Šต์‹œํ‚ค๊ณ  ๋ฐฐํฌํ•˜๋Š” ๋ฐ ํ˜‘์—…ํ•  ์ˆ˜ ์žˆ๋„๋ก ์ง€์›ํ•ฉ๋‹ˆ๋‹ค.

Red Hat Enterprise Linux AI๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ ํ•™์Šต๋œ ๋ชจ๋ธ ๋ฐฐํฌ

Red Hat Enterprise Linux AI๋กœ ํ•™์Šต๋œ ์ƒ์„ฑํ˜• AI ๋ชจ๋ธ์„ ๋ฐฐํฌ, ์„œ๋น™, ์šด์˜ํ•ฉ๋‹ˆ๋‹ค.

๊ฒฐ๊ณผ

์กฐ์ง์— ๋ฏธ์น˜๋Š” ํšจ๊ณผ

  • ์กฐ์ง์€ ๋‹ค์–‘ํ•œ ์†Œ์Šค์—์„œ ๋ฐฉ๋Œ€ํ•œ ์–‘์˜ ์ •๋ณด๋ฅผ ์ˆ˜์ง‘ํ•˜๊ณ  ์ €์žฅํ•ฉ๋‹ˆ๋‹ค. Red Hat Enterprise Linux AI๋ฅผ ํ†ตํ•ด ์กฐ์ง์€ ํŠน์ • ๋น„์ฆˆ๋‹ˆ์Šค ์š”๊ตฌ ์‚ฌํ•ญ์— ๋งž๋Š” ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ์•ˆ์ „ํ•˜๊ฒŒ ํ•™์Šต์‹œํ‚ค๊ณ  ๋ฐฐํฌํ•˜๋Š” ์—ญ๋Ÿ‰์„ ๊ฐ•ํ™”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๊ฐœ์ธ์—๊ฒŒ ๋ฏธ์น˜๋Š” ํšจ๊ณผ

  • ์ด ๊ต์œก ๊ณผ์ •์„ ์ด์ˆ˜ํ•˜๋ฉด ์ƒ์„ฑํ˜• AI์˜ ๊ธฐ๋ณธ ์‚ฌํ•ญ์„ ์ดํ•ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์—”ํ„ฐํ”„๋ผ์ด์ฆˆ ํ™œ์šฉ ์‚ฌ๋ก€๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•œ Granite ๋ชจ๋ธ์˜ ๊ธฐ๋Šฅ์„ ์ดํ•ดํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋งˆ์ง€๋ง‰์œผ๋กœ, Red Hat Enterprise Linux AI๋กœ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์„ ํ•™์Šต์‹œํ‚ค๊ณ  ๋ฐฐํฌํ•˜๊ณ  ์„œ๋น™ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

๊ถŒ์žฅ๋˜๋Š” ๋‹ค์Œ ๊ต์œก ๊ณผ์ • ๋˜๋Š” ์‹œํ—˜

์œ„์น˜ ์„ ํƒ ํ•˜๊ธฐ

ํ˜„์žฅ ๊ต์œก ์•ˆ๋‚ด

ํŒ€ ์ „์ฒด๊ฐ€ ์ˆ˜๊ฐ•์„ ์›ํ•˜๋Š” ๊ฒฝ์šฐ ๊ต์œก์žฅ์—์„œ ์ง์ ‘ ์ˆ˜๊ฐ•ํ•˜๊ฑฐ๋‚˜ ์›๊ฒฉ์œผ๋กœ ์ฐธ์—ฌํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

Red Hat ๊ต์œก ์„œ๋ธŒ์Šคํฌ๋ฆฝ์…˜

Red Hat ์ œํ’ˆ์— ๋Œ€ํ•œ ํ†ตํ•ฉ ๊ต์œก ๋ฐ ํ•™์Šต ๊ฒฝ๋กœ, ์—…๊ณ„์—์„œ ์ธ์ฆ๋œ ์ž๊ฒฉ์ฆ, ์œ ์—ฐํ•˜๊ณ  ๋‹ค์ด๋‚˜๋ฏนํ•œ IT ํ•™์Šต ๊ฒฝํ—˜.

๋‹ค๋ฅธ ์ˆ˜๊ฐ•์ƒ๋“ค์ด Red Hat Learning Community์˜ ๊ต์œก ๊ณผ์ •์— ๋Œ€ํ•ด ์–ด๋–ป๊ฒŒ ํ‰๊ฐ€ํ•˜๋Š”์ง€ ์ฝ์–ด๋ณด์„ธ์š”.