레드햇, 오픈소스 커뮤니티 ‘아사고’ 출범… 정책 수립부터 운영까지 AI 안전과 거버넌스 자동화

글로벌 오픈소스 솔루션 선도기업 레드햇(Red Hat)이 아사고(asago, AI Safety And Governance Orchestration) 출범을 발표했다. 아사고는 AI 거버넌스 정책을 실제 운영 가능한 안전한 AI 시스템으로 자동 전환하는 것을 목표로 하는 오픈소스 커뮤니티 프로젝트다. 엔지니어링팀과 컴플라이언스팀에 분산돼 있던 절차와 도구, 요구사항을 하나로 연결해, 자동화, 감사 및 추적이 가능한 워크플로우를 만든다. 이를 통해 더 안전하고 프로덕션에 바로 투입할 수 있는 AI 시스템을 몇 개월, 몇 년이 아닌 며칠 만에 구현하도록 지원하는 것이 목표다.

아사고란? 

아사고는 표준화된 오픈소스 플랫폼과 자동화된 워크플로우를 활용해 복잡한 기업 및 규제 AI 거버넌스 정책을 실제 운영 통제 체계로 전환할 계획이다. 이는 레드햇과 엔비디아가 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance), 회원으로서 추진해 온 협력의 연장선에 있으며, 개발자의 유연성과 운영 조직의 거버넌스 요구를 다음 네 단계에 걸쳐 연결한다.

1. 리스크 매핑: 프레임워크가 업로드된 AI 거버넌스 정책을 자동으로 분석하고 해석한다. 조직의 요구사항을 NIST AI RMF, OWASP LLM Top 10, IBM AI 리스크 아틀라스(IBM AI Risk Atlas)를 통한 EU AI 법(EU AI Act)등 검증된 AI 리스크 프레임워크와 온톨로지, 표준에 직접 매핑한 후, 실제 실행 가능한 리스크 프로파일로 변환한다.
2. 리스크 평가: 식별된 위험 요소를 기반으로 사용 사례별 AI 안전성 테스트 시나리오를 자동 생성하고 실행한다. 단순한 범용 벤치마크에 의존하지 않고, 실제로 유해한 동작이 발생할 수 있는지를 중심으로 AI 시스템을 평가한다.
3. 리스크 완화: 테스트 결과를 토대로 안전 가드레일을 포함한 위험 완화 방안을 제안하고, 검토가 가능하도록 명확한 근거와 감사 추적 기록을 함께 생성한다.
4. 프로덕션 배포: 아사고는 권장 통제 방안을 하이브리드 클라우드와 쿠버네티스를 포함한 여러 플랫폼에 배포 가능한 구성으로 조율해, 인프라에 대한 수동 코딩 작업을 없앤다.

각 단계는 정책 조항과 테스트 결과, 운영 중인 통제 체계를 지속적으로 연결하는 감사 추적 기록을 생성한다. 이를 통해 검토자는 각 통제 조치가 어떤 리스크를 해결하기 위한 것인지 명확하게 확인할 수 있으며, AI 안전성을 보다 예측 가능하고 체계적으로 관리할 수 있는 기업용 유틸리티로 전환한다.

아사고가 중요한 이유 

추상적인 정책 지침을 실제 소프트웨어 구성으로 전환하는 과정은 AI 혁신 속도를 늦추고, 사람 간 소통 오류와 오해로 인한 추가 리스크를 초래할 수 있다. 컴플라이언스 담당자는 엄격한 리스크 평가와 검증 가능한 증거를 요구하는 반면, 플랫폼 엔지니어는 표준 데브옵스(DevOps) 및 깃옵스(GitOps) 워크플로우 내에서 유지 관리할 수 있는 구조화된 구성이 필요하다. EU AI법과 같은 광범위한 규제가 시행됨에 따라, 기업은 수 개월에 걸친 수작업 검토로 혁신이 지연되거나, 적절한 안전장치 없이 관리되지 않는 섀도우 AI(Shadow AI)가 운영되는 상황을 감수할 수 없는 환경에 놓였다.

아사고는 컴플라이언스팀과 데이터 과학자, 인프라 관리자가 모두 활용할 수 있는 단일 개방형 표준을 제공함으로써 이러한 문제를 해결하고자 한다. 모든 이해관계자를 동등한 사용자로 고려해 설계된 플랫폼으로, 수작업 변환 과정에서 발생하는 불일치 없이 자율 AI 에이전트와 기업용 대규모 언어모델(LLM)을 위한 안전 통제 체계를 구축할 것이다.

레드햇 인용문

스티븐 훌스(Steven Huels) 레드햇 AI 엔지니어링 부문 부사장은 "기업이 실험 단계의AI 파일럿에서 장기간 운영되는 자율 에이전트로 전환함에 따라, 명확한 운영 가드레일을 마련하는 것이 핵심 인프라 요건이 되고 있다"며, "레드햇은 라이트웰(Lightwell)과 같은 이니셔티브를 통해 AI로 인한 취약점으로부터 오픈소스 공급망을 보호하기 위해 노력하고 있다"며 "아사고는 이러한 노력의 연장선에서 기업의 정책 정의와 실제 운영 중인 에이전트를 자동으로 연결하는 기업용 AI의 다음 단계를 제시한다. 이를 통해 기업은 하이브리드 클라우드 전반에서 신뢰할 수 있는 AI를 안심하고 확장할 수 있는 엔드투엔드 운영 신뢰성을 확보할 수 있다"고 설명했다.

스튜어트 배터스비(Stuart Battersby) 레드햇 AI 안전 및 모델 평가 아키텍트는 "아사고 프로젝트는 기술 산업과 학계, 정부 등 다양한 이해관계자가 함께하는 진정한 오픈소스 협업 프로젝트”라며 "특히 전 세계 다양한 국가의 더 많은 협력 기관이 참여해 AI 안전에 대한 폭넓은 관점을 반영할 수 있기를 기대한다"고 말했다.

핵심 기능

• 정책 복잡성을 해소하는 자동화: 수작업 해석과 커스텀 스크립트를 통합 오케스트레이션 워크플로우로 대체해, 배포 기간을 수개월에서 수일로 단축한다.
• 단일화된 감사 추적: 정책 담당자와 CIO, AI 개발자, 플랫폼 엔지니어, 외부 감사인이 하나의 통합된 추적 인터페이스 안에서 협업할 수 있도록 지원한다.
• 오픈소스와 커뮤니티 거버넌스: 아파치 라이선스 2.0(Apache License 2.0)으로 공개돼, 더 넓은 AI 안전 생태계 전반의 개방형 협업을 촉진한다.
• 인프라에 종속되지 않는 배포: 쿠버네티스, 테라폼(Terraform), 앤서블(Ansible)용 선언형(declarative)구성을 출력해, 여러 클라우드와 온프레미스 환경 전반에서 일관된 안전 태세를 유지할 수 있도록 한다.

세부 기능

아사고 프로젝트에는 레드햇, 브레이브 소프트웨어 (Brave Software), EvalEval 연합, IBM 리서치(IBM Research), 오스트리아 인터디시플리너리 트랜스포메이션 대학교 (Interdisciplinary Transformation University Austria), 마이크로소프트(Microsoft), MIT 링컨 연구소 (MIT Lincoln Laboratory), 노스캐롤라이나 주립대학교 (North Carolina State University), 엔비디아(NVIDIA), 앨런 튜링 연구소 (The Alan Turing Institute) 등 업계 기업과 학술기관이 참여한다. 참여 기관들은 AI 안전 연구와 엔터프라이즈 소프트웨어 엔지니어링, 적대적 머신러닝(Adversarial Machine Learning), 규제 및 컴플라이언스 분야의 전문성을 결집해 하나의 공동 프로젝트를 추진한다.

이 프로젝트는 업계 최고 수준의 오픈소스 도구와 연동되며, 각각의 도구 사이에 존재하는 운영 공백을 해소하는 데 중점을 둔다. 감사인이 컴플라이언스를 검증하는 데 필요한 근거 자료를 기록하도록 완전하고 분산된 추적 기능을 제공하는 것이 목표다. 이를 통해 실제 운영 환경에서 적용되는 모든 통제(Control)가 어떤 정책을 근거로 적용됐는지 명확하게 추적할 수 있으며, 기업의 AI 포트폴리오 전반에 걸쳐 지속적인 검증 체계를 구축할 수 있도록 지원한다.

파트너 인용문

세바스티안 카오(Sebastián Cao) 알키미아 AI(Alquimia AI) CEO는 "알키미아는 AI 추론이 단순한 규제 준수 차원이 아니라, 설계 단계부터 통제 가능하고 설명 가능하며 주권을 보장해야 한다는 신념을 바탕으로 에이전트 플랫폼을 개발해 왔다"며 "아사고는 이러한 철학을 개방형 표준으로 구현해 모든 조직이 정책부터 실제 운영 가능한 거버넌스 체계까지 감사 가능한 형태로 구축할 수 있도록 지원한다. 이는 AI 산업에 반드시 필요한 핵심 인프라"라고 말했다. 이어 "알키미아는 가우시아.ai(gaussia.ai)를 통해 실제 환경에서 AI 시스템의 동작을 과학적으로 측정할 수 있는 개방형 평가 지표 개발에도 기여하고 있다"며 "아사고와 같은 개방형 거버넌스 프레임워크는 특정 기업이 아닌 커뮤니티 전체가 신뢰할 수 있는 AI의 기준을 함께 만들어갈 수 있도록 해준다"고 덧붙였다.

브렌던 아이크(Brendan Eich) 브레이브 소프트웨어 공동창업자 겸 CEO는 "더 안전한 웹 환경은 모두에게 이로운 만큼 브레이브는 AI 안전성 향상을 위한 아사고 커뮤니티에 참여하게 되어 매우 뜻깊다"며 "브레이브는 설립 초기부터 오픈소스를 지향해 왔으며, 개인정보 보호와 보안을 AI 도구의 핵심 기반으로 삼기 위해 아사고와 협력해 나갈 예정이다. 현재 전 세계 1억 2천만 명 이상의 사용자가 브레이브 브라우저와 검색 서비스를 이용하고 있으며, 사용자 중심 접근 방식이 더욱 강력한 AI 안전장치 구축에 기여하기를 기대한다"고 말했다.

프리야 나그푸르카르(Priya Nagpurkar) IBM 리서치 AI 플랫폼 부문 부사장은 "실제 환경에서 신뢰받기 위해서는 AI에 측정 가능한 테스트와 운영 통제가 필요하다"고 말했다. 이어 "아사고 커뮤니티를 통해 IBM은 거버넌스 프레임워크와 배포된 AI 시스템 사이의 간극을 좁히는 데 우리의 전문성을 기여하고 있다"며 "이는 오픈소스 취약점 확보를 위해 고객을 지원하는 프로젝트 라이트웰(Project Lightwell)의 더 넓은 작업을 보완한다. 업계와 학계, 오픈소스 커뮤니티를 하나로 모음으로써, 아사고는 기업용 AI 도입을 위한 더 투명하고 책임 있는 기반을 마련하는 데 기여할 수 있다"고 강조했다.

벤 와그너(Ben Wagner) 박사, IT:U 인권 및 기술학 교수는 "신뢰할 수 있는 AI를 개발하는 데는 선의만으로는 부족하다. 실행 가능하고 검증 가능하며 지속적으로 유지될 수 있는 거버넌스가 필요하다"며 "아사고는 상위 수준의 정책을 실질적인 엔지니어링 워크플로우로 전환할 수 있도록 설계됐다. IT:U는 AI의 기술적, 조직적 거버넌스 분야에서 축적한 전문성을 바탕으로 프로젝트에 기여하게 되어 기쁘며, 기업들이 책임 있는 AI 개발을 현실적으로 구현하면서도 혁신을 이어갈 수 있도록 지원하기를 기대한다"고 말했다.

사라 버드(Sarah Bird) 마이크로소프트 책임 있는 AI 부문 최고제품책임자는 "AI 안전과 보안 분야에는 아직 해결되지 않은 과제가 많으며, 어느 한 기업이나 기관만으로는 이를 해결할 수 없다"며 "널리 채택되는 개방형 표준은 AI 생태계 전반에 보다 일관된 거버넌스를 구축하는 데 도움이 되고, 커뮤니티의 집단 지성은 가장 중요한 문제 해결 속도를 높일 수 있다. 마이크로소프트는 아사고 커뮤니티에 참여해 안전하고 신뢰할 수 AI 구축을 위해 다양한 기관들과 협력하게 되어 기쁘다"고 말했다.

다이앤 스타헬리(Diane Staheli) MIT 링컨 연구소 AI 및 사이버보안 수석과학자는 "오픈소스 협업은 AI 생태계 전반의 안전성과 보안을 발전시키는 핵심 요소다. 아사고는 거버넌스 요구사항과 실제 운영 현실 간의 간극을 해소하기 위해 다양한 분야의 연구 성과를 통합할 것이다. AI 안전과 보안 도구를 보다 폭넓게 활용할 수 있도록 하는 이번 프로젝트에 함께하게 되어 기대가 크다"고 말했다.

비나 미스라(Veena Misra) 노스캐롤라이나 주립대학교 공과대학 임시 학장은 "AI 시스템의 안전성과 보안은 정책뿐 아니라 엔지니어링의 문제이기도 하며, 어느 한 기업이나 연구기관, 대학만으로 해결할 수 있는 과제가 아니다"라며 "노스캐롤라이나 주립대학교 공과대학은 AI 보안 분야에서 깊이 있는 연구 역량을 아사고 커뮤니티에 제공하며, 졸업과 동시에 안전하고 상용화 수준의 AI 시스템을 개발할 수 있는 엔지니어를 양성하고 있다. 이번 협력은 대학의 인재와 연구를 산업계의 실제 수요와 직접 연결하는 좋은 사례가 될 것"이라고 말했다.

대니얼 로러(Daniel Rohrer) 엔비디아 소프트웨어 보안 부문 부사장은 "오픈 시큐어 AI 얼라이언스는 개방형 모델과 개방형 평가 체계, 개방형 도구가 AI 방어의 가장 강력한 기반이라는 원칙 아래 설립됐으며, 아사고는 바로 이 원칙을 실현한다. AI 거버넌스 정책을 프로덕션 수준의 통제와 감사 추적 기록으로 자동 전환함으로써, 아사고 프로젝트는 레드햇과 엔비디아, 그리고 생태계 파트너가 오픈소스 도구로 에이전트 보안을 어떻게 강화하고 있는지를 보여준다"고 말했다.

제이슨 맥이완(Jason McEwen) 앨런 튜링 연구소 수석과학자 겸 UCL 교수는 "어느 한 조직도 AI를 대규모로 안전하고 통제 가능하게 만들 수 없으며, 이를 위해서는 개방형 도구와 다양한 전문성, 중립적인 거버넌스가 필요하다”며 “바로 이러한 점이 커뮤니티 중심으로 운영되는 아사고의 가장 큰 강점이며, 이는 앨런 튜링 연구소 기초연구 부문의 신뢰할 수 있고 검증된 AI 연구와도 맞닿아 있다. 창립 파트너로 프로젝트에 참여해 더 넓은 커뮤니티와 함께 프로젝트의 방향을 만들어가게 되어 기쁘다"고 말했다.

가용성

아사고 프로젝트는 현재 프로젝트 출범 단계에 있다. 개발자와 학계 연구자, 기업 얼리어답터는 깃허브에서 리포지토리를 확인하고 프로젝트 거버넌스에 참여할 수 있다. 자세한 내용은 asago.ai를 방문하거나 커뮤니티 그룹 신청서를 제출하면 확인할 수 있다.