BC카드, 레드햇 오픈시프트 AI로 금융 AI 운영 체계 고도화

BC카드는 Red Hat OpenShift AI를 기반으로 온프레미스 GPU 환경에서 AI 모델을 배포·운영할 수 있는 플랫폼을 구축했습니다. vLLM, FP8 동적 양자화, SLM 스웜 구조를 활용해 GPU 추론 비용을 최대 70% 절감하고, 추론 속도를 2~3배 높였으며, 가맹점 심사와 RPA·고객센터 자동화로 연간 10만2,000시간의 업무 효율을 확보했습니다.