AI500
MLOps Practices with Red Hat OpenShift AI
๊ต์ก ๊ณผ์ ๊ฐ์
Red Hat์ด ๊ณ ๊ฐ ํ์ ์ ์ง์ํ๋ ๋ฐ ์ฌ์ฉํ๋ ๊ฒ์ฆ๋ ๊ฐ๋ฐฉํ ๋ฌธํ์ ์ฌ๋ก๋ฅผ ํตํด MLOps์ ์ ์ฌ๋ ฅ์ ๊ฒฝํํด๋ณด์ธ์.
- MLOps Practices with Red Hat OpenShift AI(AI500)๋ 5์ผ๊ฐ ์งํ๋๋ ๋ชฐ์ ํ ๊ต์ก ๊ณผ์ ์ผ๋ก, ์ด ๊ณผ์ ์ ์ด์ํ์ฌ ์ฑ๊ณต์ ์ธ MLOps ๋์ ์ฌ์ ์ ๊ฒฝํํ๊ณ ๊ตฌํํ ์ ์์ต๋๋ค. ๋ง์ AI ๋๋ ๋ฐ์ดํฐ ์ฌ์ด์ธ์ค ๊ต์ก ํ๋ก๊ทธ๋จ์ด ํน์ ํ๋ ์์ํฌ ๋๋ ๊ธฐ์ ์ ์น์คํ๋ ๋ฐ๋ฉด, ์ด ๊ต์ก ๊ณผ์ ์ ์ ์ฒด MLOps ์ํฌํ๋ก์ฐ์์ ์ต์ ์ ์คํ์์ค ํด์ ํจ๊ป ์ํํ๊ฒ ์ฌ์ฉํ๋ ๋ฐฉ๋ฒ์ ๋ค๋ฃน๋๋ค. ์ค์ ๋จธ์ ๋ฌ๋ ์๋๋ฆฌ์ค๋ฅผ ์๋ฎฌ๋ ์ด์ ํ์ฌ ๋ชฐ์ ๊ฐ์ ๊ทน๋ํํ๋ ํ๊ฒฝ ์์์ ์ง์์ ์ธ ๊ฒ์, ์ง์์ ์ธ ๊ต์ก, ์ง์์ ์ธ ์ ๊ณต์ ๋ชจ๋ ๊ฒฝํํ ์ ์์ต๋๋ค.
- ํ์ต ๋ชฉํ๋ฅผ ๋ฌ์ฑํ๋ ค๋ฉด ์กฐ์ง ์ ์ฒด์์ ๊ฐ๊ธฐ ๋ค๋ฅธ ์ญํ ์ ์ํํ๋ ๋ค์ํ ์ฐธ๊ฐ์๊ฐ ๊ต์ก์ ์ฐธ์ฌํด์ผ ํฉ๋๋ค. ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ, ๋จธ์ ๋ฌ๋ ์์ง๋์ด, ํ๋ซํผ ์์ง๋์ด, ์ํคํ ํธ, ์ ํ ์ค๋๋ ๊ธฐ์กด์ ์ฌ์ผ๋ก๋ฅผ ๋ฐ์ด๋์ด ํ์ ํ๋ ๊ฒฝํ์ ํ ์ ์์ต๋๋ค. ์ผ์์ ์ธ ์ ๋ฌด๋ฅผ ํตํด ์ค์ ์ ๊ณต ํ์ ์๋ฎฌ๋ ์ด์ ํ๋ฉฐ, ๋ค์ํ ๋ถ๋ฌธ์ ํ์ด ํ์ ์ ํตํด ํ์ ์ ๋ฌ์ฑํ๋ ๋ฐฉ๋ฒ์ ํ์ตํฉ๋๋ค. ๊ณต์ ๋ ๊ฒฝํ๊ณผ ๋ชจ๋ฒ ์ฌ๋ก๋ก ๋ฌด์ฅํ ํ์ ๊ต์ก ๊ณผ์ ์์ ๋ฐฐ์ด ๋ด์ฉ์ ์ค์ ์ ์ ์ฉํ์ฌ ์๋ก์ด ํ๋ก์ ํธ์ ํ๋ก์ธ์ค ๊ฐ์ ์ ์ถ์งํจ์ผ๋ก์จ ์กฐ์ง์ ๋ฌธํ์ ๋ฏธ์ ์ ์ฑ๊ณต์ผ๋ก ์ด๋ ์ ์์ต๋๋ค.
- ์ด ๊ต์ก ๊ณผ์ ์ Red Hat OpenShift AI, Red Hat OpenShift GitOps, ์์ธก AI๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํฉ๋๋ค.
๊ต์ก ๊ณผ์ ๋ด์ฉ ์์ฝ
- ์ด ๊ต์ก ๊ณผ์ ์์๋ ์์ด๋์ด ๊ตฌ์์์ ๋ด๋ถ ๋ฃจํ ์คํ, ํ๋ก๋์ ์ ์ด๋ฅด๊ธฐ๊น์ง ์์ธก ์ง๋ฅํ ์ ํ๋ฆฌ์ผ์ด์ ํ์ฉ ์ฌ๋ก์ ์๋ ํฌ ์๋ ์ฌ์ ์ ํ๋ํ๋ ์ดํด๋ณด๋ ๋์์ ๋ค์ํ ์ ํ์ ์ฌ์ฉ์๊ฐ ๋จ์ผ ํ๋ซํผ์์ ์ํํ๊ฒ ํ์ ํ๋ ๋ฐฉ๋ฒ์ ๋ํด ํ์ตํฉ๋๋ค.
- ์ด ๊ต์ก ๊ณผ์ ์ ๋ชฐ์ ๋๋ฅผ ๋์ด๋ ๊ณ ์ ํ ํ๊ฒฝ์์ ๋ฌธํ์ , ๊ธฐ์ ์ ์ฌ๋ก์ ๋ค์ํ ์ค์ ์ ์ฉ ์ฌ๋ก๋ฅผ ์ ๊ณตํฉ๋๋ค. MLOps ์ฌ๋ก์ ๋ํด ์์๋ณด๊ณ ์ด๋ฌํ ์ฌ๋ก๊ฐ ์๋ก๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๊ตฌ์ถ๋์ด ํ์ ์ผ๊ด์ฑ ๋ฐ ์ ๊ณต ํจ์จ์ฑ์ ๊ฐ์ ํ๋ ๋ฐฉ์์ ์ดํด๋ด ๋๋ค.
- ๋๋ถ๋ถ์ AI ๊ต์ก์ ํน์ ํ๋ ์์ํฌ ๋๋ ๊ธฐ์ ์ ์น์คํ์ง๋ง, ์ด ๊ต์ก ๊ณผ์ ์ ์ต์ ์ ์คํ์์ค ํด์ ๊ฒฐํฉํ๋ ํํธ ํ๋ก๋์ ๋จ๊ณ์์ ์ด๋ฌํ ํด์ ํจ๊ป ์ฌ์ฉํ์ฌ AI ๋ชจ๋ธ์ ์์ ์ ์ด๊ณ ํจ์จ์ ์ผ๋ก ๊ตฌ์ถ, ๋ฐฐํฌ, ์ ์ง ๊ด๋ฆฌํ ์ ์๋ ๋ฐฉ๋ฒ์ ๋ณด์ฌ์ค๋๋ค.
๊ต์ก ๋์
์ด๋ฌํ ๊ฒฝํ์ ํตํด ์กฐ์ง ๋ด์์ ๋ค์ํ ์ญํ ์ ์ํํ๋ ๊ฐ ๊ฐ์ธ์ด ๊ธ์ ์ ์ธ ๊ฒฐ๊ณผ๋ฅผ ์ป๊ณ ํ์ ์๋๋ฅผ ๋์ด๊ธฐ ์ํด ๊ณต๋์ ๋ชฉํ๋ฅผ ๊ณต์ ํ๊ณ ํ์ ํ๋ฉฐ ๋ณด์กฐ๋ฅผ ๋ง์ถ ์ ์๋ ๋ฐฉ๋ฒ์ ๋ณด์ฌ์ค๋๋ค.
์ด ๊ต์ก ๊ณผ์ ์ ํนํ ๋ค์ ์ญํ ์ ๊ถ์ฅ๋ฉ๋๋ค.
- MLOps ํ๋ซํผ ์ฌ์ฉ์: ๋ฐ์ดํฐ ์ฌ์ด์ธํฐ์คํธ, ๋ฐ์ดํฐ ์์ง๋์ด, ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ๋ฐ์
- MLOps ํ๋ซํผ ๊ณต๊ธ์: ๋จธ์ ๋ฌ๋ ์์ง๋์ด, MLOps ์์ง๋์ด, ํ๋ซํผ ์์ง๋์ด
- MLOps ํ๋ซํผ ์ดํด๊ด๊ณ์: ์ํคํ ํธ ๋ฐ IT ๊ด๋ฆฌ์
์ด ์๋๋ฆฌ์ค๋ ๋จธ์ ๋ฌ๋ ์์คํ ์์ ์ ๊ธฐ์ ์ ์ธก๋ฉด์ ํตํฉํ์ฌ ์ด๋ฌํ ์ญํ ๊ฐ์ ์์ ์ด ์ผ๊ด์ฑ์ ์ ์งํ๋๋ก ํ๋ ๋ฐฉ๋ฒ์ ๋ํ ์ค์ฉ์ ์ธ ์ธ์ฌ์ดํธ๋ฅผ ์ ๊ณตํฉ๋๋ค.
์๋ก์ด ๋ชจ๋ธ์ ์ถ์๋ฅผ ๊ฐ์ํํ์ฌ ๊ณ ๊ฐ์๊ฒ ์ง์์ ์ผ๋ก ๊ฐ์น๋ฅผ ์ ๊ณตํ๋ ๋ฐฉ๋ฒ์ ๋ฐฐ์ฐ๊ฒ ๋ฉ๋๋ค. ๊ฐ์ฌ๋ Red Hat ์๋น์ค ์ธ๊ฒ์ด์ง๋จผํธ์์ ๊ณ ๊ฐ๊ณผ ์ง์ ์ํตํ๋ฉด์ ์ป์ ๊ฒฝํ๊ณผ ๋ชจ๋ฒ ์ฌ๋ก๋ฅผ ๊ณต์ ํฉ๋๋ค.
์ ์ ์กฐ๊ฑด
- ๋ฌด๋ฃ ํ๊ฐ๋ฅผ ํตํด ์ด ๊ต์ก ๊ณผ์ ์ด ๊ธฐ์ ์ ํฅ์ํ๋ ๋ฐ ๊ฐ์ฅ ์ ํฉํ ๊ณผ์ ์ธ์ง ํ์ธํ ์ ์์ต๋๋ค.
- Containers, Kubernetes and Red Hat OpenShift Technical Overview(DO080) ๊ต์ก ๊ณผ์ ์ ์๊ฐํ๊ฑฐ๋ OpenShift, ์ฟ ๋ฒ๋คํฐ์ค ๋ฐ ์ปจํ ์ด๋์ ๋ํ ๊ธฐ๋ณธ์ ์ธ ์ง์์ ๊ฐ์ถ๊ณ ์๋ค๋ฉด ๋์์ด ๋ฉ๋๋ค.
- AI ๋๋ Red Hat AI Foundations์ ๋ํ ์ดํด๋๊ฐ ๋์ ๊ฒฝ์ฐ ๋์์ด ๋ ์ ์์ต๋๋ค.
๊ต์ก ๊ณผ์ ๊ฐ์
MLOps๋?
ML ๋ชจ๋ธ ๊ฐ๋ฐ ๋ฐ ๋ฐฐํฌ๋ฅผ ์ํ MLOps ๋ชจ๋ธ์ ๊ตฌ์ฑํ๋ ์์น, ์ฌ๋ก, ๋ฌธํ์ ์์๋ฅผ ๋ธ๋ ์ธ์คํ ๋ฐํ๊ณ ์ดํด๋ด ๋๋ค.
๋ด๋ถ ๋ฃจํ
๋ชจ๋ธ์ ์คํํ๊ณ ๊ตฌ์ถํ๋ ๋ฐ ํ์ํ ํด์ ์์งํฉ๋๋ค. ์ํฌ๋ฒค์น๋ฅผ ๊ฐ๋ฐํ๊ณ , ๋ฐ์ดํฐ์ธํธ๋ฅผ ํ์ํ๊ณ , ์คํ ์ถ์ ์ ์์ํ๊ณ , ๋ชจ๋ธ์ ๋ฐฐํฌํด ๋ด ๋๋ค.
ํ์ต ํ์ดํ๋ผ์ธ
๋ชจ๋ธ ํ์ต์ ํ๋ก๋์ ํํ๊ธฐ ์ํ ์ด์ (transition) ๋จ๊ณ๋ฅผ ์๋ํํ๋ ๊ฒ์ผ๋ก ์ ํํฉ๋๋ค.
์ธ๋ถ ๋ฃจํ
MLOps ์๊ฐ: ๋จธ์ ๋ฌ๋ ์ํฌํ๋ก์ฐ ๋ฐ ๋ฐฐํฌ๋ฅผ ์๋ํํ๊ณ ๊ฐ์ํํ๋ ์ผ๋ จ์ ์ฌ๋ก์ ๋๋ค.
์ฌ๊ธฐ์๋ ์ง์์ ์ธ ํ์ต ํ์ดํ๋ผ์ธ, ์๋ํ๋ ๋ฐฐํฌ, ์ง์ ํด๋ง์ด ์คํ๋ MLOps ํ๊ฒฝ์ ๊ฐ๋ฐํฉ๋๋ค.๋ชจ๋ํฐ๋ง
๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ๋ฐ์ดํฐ ํจํด์ ๋ณํ, ์ฌ์ฉ์ ํ๋์ ๋ณํ, ์ธ๋ถ ์กฐ๊ฑด ๋ณํ ๋ฑ ๋ค์ํ ์์ธ์ ์ํฅ์ ๋ฐ์ ์ ์์ต๋๋ค. ์ง์์ ์ธ ๋ชจ๋ํฐ๋ง์ ๊ตฌํํ์ฌ ์ด๋ฌํ ๋ณ๊ฒฝ์ ์ฌ์ ์ ์๋ณํ๊ณ , ๋ชจ๋ธ ์ ํ๋์ ๋ฏธ์น๋ ์ํฅ์ ํ๊ฐํ๊ณ , ์ต์ ์ ์ฑ๋ฅ์ ์ ์งํ๊ธฐ ์ํด ํ์ํ ์กฐ์ ์ ์ํํฉ๋๋ค.
๋ฐ์ดํฐ ๋ฒ์ ๊ด๋ฆฌ
์๊ฐ์ด ์ง๋จ์ ๋ฐ๋ผ ๋ณ๊ฒฝ๋๋ ๋ฐ์ดํฐ์ธํธ์ ๋ฒ์ ๊ด๋ฆฌ๋ฅผ ๋์ ํ์ฌ ์ถ์ ๋ฅ๋ ฅ์ ๊ฐ์ ํฉ๋๋ค.
๊ณ ๊ธ ๋ฐฐํฌ
๋ฐ์ดํฐ ๋ฐ ์์ธก์ ๋ํ ์ฌ์ ๋ฐ ์ฌํ ์ฒ๋ฆฌ๋ฅผ ์ฌ๋ฐ๋ฅด๊ฒ ์ฒ๋ฆฌํ๊ณ , ๋ถํ ์ฒ๋ฆฌ๋ฅผ ์ํ ์๋ ํ์ฅ์ ๋ํด ์์๋ณด๊ณ , ์นด๋๋ฆฌ์(Canary), ๋ธ๋ฃจ ๊ทธ๋ฆฐ(Blue-Green) ๋ฐฐํฌ์ ๊ฐ์ ๊ณ ๊ธ ๋ฐฐํฌ ํจํด์ ๋์ ํ์ฌ ์์ ํ๊ณ ์ํํ ๋ชจ๋ธ ๋กค์์์ ๋ณด์ฅํฉ๋๋ค.
ํผ์ฒ ์คํ ์ด
๋ฐ์ดํฐ ํผ์ฒ ๋ฐ ๊ด๋ จ ๋ณ๊ฒฝ์ ์ฒ๋ฆฌํ๊ณ ํ์ต๊ณผ ์ ๊ณต ๊ฐ์ ํผ์ฒ๋ฅผ ๋์งํํ๋ ๊ฐ๋ ฅํ ๋ฐฉ๋ฒ์ ๋๋ค.
๋ณด์
์๋ํ๋ ๋ณด์ ๊ฐ๋๋ ์ผ์ ๊ตฌํํ์ฌ ์กฐ์ง์ ๋ณด์ ๊ดํ์ ์ค์ํ๊ณ ๋ชจ๋ธ๋ก ํ์ฅํฉ๋๋ค.
์กฐ์ง์ ๋ฏธ์น๋ ํจ๊ณผ
- ๋ง์ ๊ธฐ์ ๋ค์ด ๋จธ์ ๋ฌ๋์ ๋ํ ํ์ฌ์ ์กฐ์ง ๊ตฌ์กฐ์ ์ ๊ทผ ๋ฐฉ์์ด AI ๊ธฐ๋ฐ ํธ๋์คํฌ๋ฉ์ด์ ๊ฒฐ๊ณผ, ์ฆ ๋ ๋น ๋ฅธ ๋ชจ๋ธ ๋ฐฐํฌ, ํผ๋๋ฐฑ ๋ฃจํ๋ฅผ ํตํ ์ง์์ ์ธ ๊ฐ์ , ์ฌ์ฉ์ ์๊ตฌ ์ฌํญ์ ๋ถํฉํ๋ ์๋ฃจ์ ์ ์ ๊ณตํ๋ ๋ฐ ์ ํฉํ์ง ์๋ค๋ ์ ์ ์ธ์ํ๊ณ ์์ต๋๋ค. ๊ทธ๋ฌํ ๋ชฉํ๋ฅผ ๋ฌ์ฑํ๊ธฐ ์ํด ๊ธฐ์ ์ MLOps ์์น๊ณผ ๋ฐฉ๋ฒ์ ์ฑํํ๊ณ ์คํํ์ฌ ํ์ , ์๋ํ, ๋ผ์ดํ์ฌ์ดํด ๊ด๋ฆฌ๋ฅผ AI ์ํฌํ๋ก์ฐ์ ํตํฉํด์ผ ํฉ๋๋ค.
- ์ด ๊ต์ก ๊ณผ์ ์์๋ ์ค์ MLOps ๋ฌธํ ์์น๊ณผ ํ๋์ ์ธ ์ฌ๋ก๋ฅผ ์์๋ณด๊ณ , Red Hat OpenShift ๋ฐ Red Hat OpenShift AI์ ๊ธฐํ ์ ๊ณ ํ์ค MLOps ์ํํธ์จ์ด, ํด, ๊ธฐ์ ์ ์ฌ์ฉํ์ฌ ์์ธก ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ๊ฐ๋ฐํด ๋ด ๋๋ค. ์ด ๊ต์ก ๊ณผ์ ์ MLOps ์์น์ ์ ์ฉํ๊ณ ์คํ์์ค ์๋ฃจ์ ์ ํ์ฉํ์ฌ ์กฐ์ง ๋ด์์ AI ํธ๋์คํฌ๋ฉ์ด์ ์ด๋์ ํฐ๋ธ๋ฅผ ์ฃผ๋ํ ์ ์๋๋ก ํ๋ ๊ฒ์ ๋ชฉํ๋ก ํฉ๋๋ค.
๊ฐ์ธ์๊ฒ ๋ฏธ์น๋ ํจ๊ณผ
์ด ๊ต์ก ๊ณผ์ ์ ์ด์ํ๋ฉด MLOps ๋ฌธํ๋ฅผ ๊ฒฝํํ๊ณ , MLOps ์ฌ๋ก๋ฅผ ์ดํด๋ณด๊ณ , ํ์ตํ ๋ด์ฉ์ ์ ์ฉํ์ฌ ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ํ๋ก๋์ ์์ ํ์ฉํ ์ ์์ต๋๋ค. ๊ต์ก ๊ณผ์ ์ ๋ง์น๋ฉด ๋ค์์ ์ํํ ์ ์์ต๋๋ค.
- MLOps ์์น์ ์ ์ฉํ์ฌ ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ์ ๊ฐ๋ฐ ๋ฐ ๋ฐฐํฌ๋ฅผ ๊ฐ์ํํฉ๋๋ค.
- ๋ด๋ถ ๋ฃจํ ๊ฐ๋ฐ์์ ์ธ๋ถ ๋ฃจํ ์ด์์ ์ด๋ฅด๋ ์ ์ฒด ๋ผ์ดํ์ฌ์ดํด์ ๋ค๋ฃจ๋ ํ๋์ ์ธ ํด๊ณผ ํ๋ก์ธ์ค์ ๋ํ ํธ์ฆ์จ ๊ฒฝํ์ ์ป์ต๋๋ค.
- ํ์ด ํ๋ก๊ทธ๋๋ฐ ๋ฐ ๋ชน ํ๋ก๊ทธ๋๋ฐ ์คํ์ผ๋ก ํ์ ์ฝ๋ฉ ์คํ์ผ์ ๊ธฐ์ ์ ํฅ์ํฉ๋๋ค.
ํ์ฅ ๊ต์ก ์๋ด
ํ ์ ์ฒด๊ฐ ์๊ฐ์ ์ํ๋ ๊ฒฝ์ฐ ๊ต์ก์ฅ์์ ์ง์ ์๊ฐํ๊ฑฐ๋ ์๊ฒฉ์ผ๋ก ์ฐธ์ฌํ ์ ์์ต๋๋ค.
Red Hat ๊ต์ก ์๋ธ์คํฌ๋ฆฝ์
Red Hat ์ ํ์ ๋ํ ํตํฉ ๊ต์ก ๋ฐ ํ์ต ๊ฒฝ๋ก, ์ ๊ณ์์ ์ธ์ฆ๋ ์๊ฒฉ์ฆ, ์ ์ฐํ๊ณ ๋ค์ด๋๋ฏนํ IT ํ์ต ๊ฒฝํ.
๋ค๋ฅธ ์๊ฐ์๋ค์ด Red Hat Learning Community์ ๊ต์ก ๊ณผ์ ์ ๋ํด ์ด๋ป๊ฒ ํ๊ฐํ๋์ง ์ฝ์ด๋ณด์ธ์.