Discover가 이틀간의 게임 데이를 통해 연간 AWS 예산 140만 달러를 절감한 방법

이 포스트를 읽는 몇몇 분들은 공유 휴대폰 요금제를 기억하실 것 같습니다. 세기가 바뀌던 무렵에는 온 가족이 동일한 휴대폰 통화 시간을 공유했습니다. 몇 시간 동안 한가롭게 전화 통화를 하는 것만으로도 모두의 남은 통화 시간을 모두 소진할 수 있었습니다. 이와 유사한 현상이 현재 클라우드에서도 일어나고 있습니다. 

퍼블릭 클라우드를 사용해 본 사람이라면 누구나 실수로 초과 요금을 지불한 경험이 있을 것입니다. 이 문제와 더불어, 한 번에 수백 개의 인스턴스를 처리할 때 단일 인스턴스를 간과하기가 생각보다 쉽다는 점은 더 큰 문제입니다. 최근 Capital One에 인수된 금융 서비스 기업 Discover의 개발자들은 초과 요금 문제를 해결하고 상당한 비용 절감을 실현할 방법을 찾았습니다. 신용카드를 제공하는 회사가 클라우드에서 비용 최적화의 가치를 이해하는 것은 놀라운 일이 아닙니다. 하지만 놀라운 점은 그 이틀 만에 클라우드 비용을 매년 140만 달러 절감했다는 것입니다.

2일 만에 140만 달러 절감

Discover는 2022년에 Red Hat OpenShift로 이전했습니다. 그 전에는 Pivotal, VMware, Broadcom이 주로 추진하는 서비스형 플랫폼(Platform-as-a-Service)인 CloudFoundry를 기반으로 시스템을 공고히 구축하려고 노력했습니다.

Discover의 OpenShift 책임자인 Craig Katz는 Discover가 이제 OpenShift를 사용하여 Amazon Web Services에서 컨테이너 인프라를 관리하고 있다고 말합니다. 기존 1,200개의 워크로드를 OpenShift 및 Amazon Web Services로 마이그레이션하기 위해 초기에 전환의 속도와 품질에 집중하고 비용 문제는 나중에 고려하기로 결정했습니다.

Katz는 이렇게 강조합니다. "우리는 여기에서 빠른 속도, 저렴한 비용, 우수한 품질, 세 가지 중 두 가지만 선택할 수 있었으며, 그 결과 빠른 속도와 좋은 품질을 선택했습니다."

마이그레이션이 완료된 후, Discover 팀은 추가로 300개의 그린 필드 애플리케이션을 플랫폼에 구축하고 배포했습니다. Katz는 이때가 비용 최적화를 고려할 시점이라고 말했습니다. AWS에서 약 1,500개의 애플리케이션을 운영하면서, Katz는 전체적인 비용 절감 노력을 충분히 기울일 수 있었다고 말합니다. 비결은 조직의 애플리케이션 포트폴리오 전반에서 이러한 최적화 작업을 수행하는 것이었습니다.

슈퍼볼을 일주일 앞둔 1월, Katz와 시카고에 본사를 둔 그의 팀은 "게임 데이"를 개최했습니다.

“이 행사는 이틀 동안 진행됐으며, 참가자들에게 분석하고 수정하고 배포하는 과제를 맡겼습니다. 이틀간의 행사가 끝났을 때, 참가자들이 실제로 수정한 내용을 프로덕션 개발 환경과 AWS 프로덕션까지 반영한 결과를 기준으로 평가했습니다.”라고 Katz는 말했습니다.

시카고에 기반을 둔 개발 팀은 루 말내티(Lou Malnati)의 유명한 딥디쉬 피자를 많이 먹었고, Katz는 "그 이틀간의 노력으로 연간 약 140만 달러의 AWS 비용을 절감할 수 있었습니다."라고 설명합니다.

워크로드 태그 지정

우선, 이러한 노력을 위해 Katz가 제공하는 주요 조언은 워크로드 태그 지정을 위한 정책과 자동화 시스템을 도입해야 한다는 것입니다. Katz는 팀이 처음에 이를 구현하지 않아 워크로드를 비용 센터에 연결하는 스프레드시트를 작성하는 데 많은 시간을 할애했다고 말합니다. 이제 OpenShift에서 워크로드를 가동하면 기본적으로 Katz가 소유자로 지정되며, 그의 부서가 비용 센터로 설정됩니다. 개발자가 워크로드를 가동하면 해당 개발자의 이름으로 태그가 지정되고, 그 비용은 해당 개발자의 비용 센터로 롤업됩니다.

이는 Discover 내에서 비용을 최적화하고 IT 지출을 예산 항목에 직접 연결하려는 중요한 핀테크 노력이 진행 중이기 때문에 중요합니다. 또한, 인수합병으로 인해 Capital One의 IT 인프라와 통합해야 할 필요성이 커지고 있으며, 워크로드 태그 지정은 이러한 노력에도 도움이 됩니다.

기술 및 개발자 문화

Katz는 이틀간의 Game Day 이벤트를 시작하기 전에 이미 개발자들에게 컨테이너에 대한 Requests 메타데이터를 모범 사례로 설정하도록 요청하고 있었습니다. 그러나 이 팁을 조직 전체에 전파하려는 노력은 그다지 성공적이지 못했습니다. 

Katz는 문서를 선호하는 사람도 있지만, 웨비나 또는 강의를 통해 질문하기를 원하는 사람도 있다고 설명합니다. 그는 이러한 옵션을 제공하려고 노력했지만, 비용 최적화는 제대로 이루어지지 않았습니다.

하지만 모든 사람을 한자리에 모으고 발표자를 초빙하여 애플리케이션 라이프사이클의 각 부분을 최적화하는 방법을 설명하도록 했을 때, 비로소 놀라운 결과가 나타났습니다. 각 발표자가 연설하고 슬라이드를 보여주면, 청중석에 있는 팀들은 배운 내용을 자신들의 애플리케이션에 즉시 적용했습니다. 이어 다음 발표자가 시작되었습니다. 마치 이틀 연속으로 실제 최적화 작업을 수행하는 것 같았습니다. 

물론, Game Day 이벤트 전에 Katz는 IT 팀에게 관리 기반의 AWS 비용 최적화 과정을 안내했습니다. "우리는 IBM의 Turbonomic을 사용하고 있습니다. 그 덕분에 우리가 운영하는 서비스의 효율성이 높아졌습니다. 노드 친화성을 유지해야 하는 위치에 맞게 데이터를 빽빽하게 패킹하고 이동시키면서 공간을 낭비하지 않도록 해줍니다"라고 Katz는 말합니다.

"이 작업 전체를 하는 데 꼭 이틀이 필요했느냐고요? 아니요. 핵심은 사람들을 한자리에 모으고, 우리가 왜 이것을 하는지, 어떤 문화 속에서 움직이는지를 함께 체감하도록 하는 데 있었습니다. 우리는 수개월 동안 Discover 행사에서 ‘이 두 값을 업데이트하세요! 이 대시보드를 확인하고 숫자를 갱신하세요!’라고 계속 안내해 왔지만, 생각만큼 반응이 크지 않았습니다. 그래서 이번에는 기술만 강조하는 것이 아니라, 그 위에 문화를 함께 더하려고 했던 겁니다. 기술은 물론 매우 중요하지만, 문화가 뒷받침되지 않으면 기술은 종종 정체되어 활용되지 않게 되니까요.”라고 Katz는 강조합니다.

Red Hat OpenShift Service on AWS에 대해 자세히 알아보기