준비된 Red Hat OpenShift AI 모델의 가능성을 누가 먼저 활용할까요?

2025년 10월 8일Shane Heroux2분 읽기

Red Hat OpenShift AI에서 모델을 학습시키고 패키징하면 즉시 사용할 수 있습니다. 다음 단계는 사람과 애플리케이션이 모델을 사용할 수 있도록 API를 통해 노출하는 것입니다. 모델은 더 이상 내부 실험이 아닌 외부 연결 서비스가 됩니다. 모든 출입구와 마찬가지로 누군가가 노크할 것입니다. 때로는 적합한 사용자일 수도 있고, 그렇지 않을 수도 있습니다.

모델은 더 이상 랩의 프로젝트가 아니라 프로덕션 엔드포인트입니다. 다른 엔드포인트와 마찬가지로 공격 대상이 됩니다. 적합한 애플리케이션과 사용자만 모델과 상호 작용하도록 하려면 어떻게 해야 할까요? 학습에 사용될 수 있는 민감한 데이터 또는 포함된 독점 로직을 어떻게 보호해야 할까요?

새로운 출입구는 API

모든 API 엔드포인트가 공격 대상입니다. AI 모델의 경우 공격 표면이 단순한 애플리케이션 서비스보다 더 넓습니다. 단순 서비스 거부(DoS) 트래픽 외에도 모델이 프롬프트 주입을 통해 데이터를 유출하도록 속이거나, 민감한 학습 데이터가 노출될 때까지 모델을 탐색할 수 있습니다. 데이터 유출이 없더라도 공격자는 컴퓨팅 주기를 탈취하거나 응답을 대량으로 수집하려 시도할 수 있습니다.

배포 환경이 클라우드, 데이터 센터, 엣지 사이트로 확장됨에 따라 이러한 위험은 더욱 커집니다. 보안 정책을 적용하기가 더 어려워지고, 버전 관리가 불안정해지며, 규정 준수 점검이 더욱 복잡해집니다. 일관된 가시성이 확보되지 않으면 비정상적인 트래픽 패턴을 너무 늦기 전에 놓치기 쉽습니다.

Red Hat과 F5의 협력 방식

OpenShift AI는 여러 환경에서 모델을 구축, 학습 및 제공할 수 있도록 일관된 컨테이너 플랫폼을 제공합니다. 워크로드 패키징, 라이프사이클 관리, 인프라 확장을 표준화합니다.

F5는 광범위한 하이브리드 및 멀티 클라우드 환경에서 애플리케이션 배포를 지원하는 업계 최고의 ADSP(Application Delivery and Security Platform)를 제공합니다. F5 Distributed Cloud Services는 확장 가능한 SaaS(Software-as-a-Service) 기반 ADSP 계층으로, 다음과 같은 기능을 통해 다양한 공격으로부터 API 엔드포인트를 보호하도록 배포할 수 있습니다.

API 검색 및 스키마 유효성 검사: 모든 모델 엔드포인트(숨겨진 엔드포인트 포함)를 검색하고, 계약을 적용하며, 잘못되었거나 악성 호출을 차단합니다.
위협 탐지 및 트래픽 관리: 실시간으로 주입, 스크래핑 또는 악용을 감지하는 동시에 트래픽 균형을 유지하여 지연 시간을 줄입니다.
중앙 집중식 가시성: 단일 대시보드에서 하이브리드 또는 멀티 클라우드 배포 전반의 사용량을 확인하고 정책을 적용하며 규정 준수를 유지 관리합니다.
자동화 및 정책 일관성: 보안 규칙은 모델이 실행되는 위치에 관계없이 모델을 따르므로 수동 오버헤드를 줄이고 팀이 새 버전을 더 빠르게 출시할 수 있습니다.

Red Hat과 F5는 협력을 통해 신속한 대응과 보안 강화 사이의 균형을 개선합니다.

더 빠르게 구축하고 안전하게 보호

데이터 과학 및 애플리케이션 팀은 최종 단계에서 보안이 강화되는 것을 원하지 않습니다. 데이터 과학 및 애플리케이션 팀은 자신 있게 업데이트를 릴리스할 수 있도록 파이프라인에 보안을 통합해야 합니다. OpenShift AI는 MLOps의 토대를 제공합니다. F5는 이러한 모델이 사용하는 API가 취약점이 되지 않도록 지원합니다.

즉, 모델이 통신을 시작할 때 적합한 대상과만 통신하고 있는지 확인할 수 있습니다.

저자 소개

Shane Heroux

Principal Engineering Partner Manager

For Shane Heroux, technology has always been about connections: connecting systems, people, and ideas. His open source journey kicked off in a college dorm room in the mid-90s, tinkering with Slackware just for fun. It wasn't long before he found his way to Red Hat, and he's been an active part of the Linux and open-source communities ever since.

He officially joined the team in 2018, first diving deep into the world of containers as an OpenShift Consultant. He then moved into the partner space as a Technical Account Manager, where he discovered a passion for building success with partners, not just for them.

Today, that focus is his pride and joy. Shane thrives on collaborating with the incredible Red Hat partner ecosystem to design and develop creative solutions that solve real-world problems. For him, it's all about using the power of open, collaborative technology to build a better, more efficient, and more connected world for everyone.

Read full bio