서비스형 모델(Model-as-a-Service)을 통한 AI 가치 가속화

인공지능(AI)은 조직이 보유한 데이터를 더욱 효율적으로 활용하여 유용한 인사이트를 확보하도록 도와 혁신을 촉진합니다. 기업들은 AI 애플리케이션을 빠르게 도입하고 있지만 AI 워크로드를 규모에 맞게 개발하고 학습시키며 관리하는 작업은 여전히 쉽지 않습니다. 서비스형 모델(Model-as-a-Service, MaaS)은 기업이 AI 모델을 확장 가능한 서비스로 운영화할 수 있도록 지원함으로써 이러한 어려움을 해결해 줍니다.

서비스형 모델(MaaS)이란?

서비스형 모델(MaaS)은 조직이 가치 창출까지의 시간을 줄이고 성과를 더 빠르게 달성하도록 돕습니다. MaaS는 하이브리드 클라우드 AI 플랫폼에서 API 게이트웨이를 통해 사전 학습된 AI 모델을 제공합니다.

MaaS는 조직 내부의 전문 팀이 개발하고 배포하여 다른 팀에 제공할 수 있습니다. 이렇게 하면 다른 팀이 API를 통해 사전 학습된 모델에 액세스하여 더 빠르고 효율적으로 작업하고 전략적으로 더 중요한 작업에 집중할 수 있습니다. 또는 조직이 신뢰할 수 있는 공급업체로부터 MaaS를 제공받을 수도 있으므로 전담 Maas 팀을 구축할 필요가 없습니다. 효율성 향상과 비용 절감 외에도 MaaS는 조직에 개인정보 보호, 데이터 및 데이터 사용에 대한 향상된 제어 능력을 제공합니다.  

서비스형 모델 101

MaaS는 언제 필요한가?

GPU와 기본 AI 인프라를 관리하려면 AI 모델을 개발, 학습, 관리할 수 있는 숙련된 인력이 필요합니다.  조직은 단순히 AI 서비스형 인프라(Infrastructure-as-a-Service, IaaS)를 제공하는 대신, 조직에서 누구라도 사용 가능한 AI 모델을 개발, 학습, 배포할 수 있는 소수의 숙련된 전문가를 투입하면 됩니다.

모델 추론 호출에 대한 수요가 증가함에 따라 기본 서빙 프레임워크와 GPU가 그러한 수요를 충족할 수 있도록 더 쉽게 확장할 수 있습니다. 또한 MaaS 공급업체는 업데이트, 성능, 보안을 포함해 모든 인프라 유지 관리 및 모니터링 태스크를 처리할 수 있습니다.

또 다른 중요한 측면은 GPU는 비용이 많이 들고 GPU를 비효율적으로 사용하면 비용이 급증할 수 있다는 점입니다. MaaS는 인프라에 대한 과도한 투자의 필요성을 줄여 기업이 초기 비용을 절약하는 데 도움이 됩니다.

가치 창출 시간도 중요합니다. MaaS는 조직의 ROI(투자수익률)를 가속화시켜 줍니다. 모델 개발과 학습에는 많은 시간이 소요되며, MaaS를 도입하면 팀이 원하는 경우 모델이 손쉽게 제공되므로 가치 창출 시간이 개선될 수 있습니다.  

MaaS 이해 

MaaS와 그 핵심 구성 요소를 고유한 개략적 설계를 통해 이해해 보겠습니다. MaaS의 주요 구성 요소로는 모델, 확장 가능한 AI 플랫폼, AI 오케스트레이션 시스템, 강력한 API 관리가 있습니다.

MaaS의 경우 비즈니스 활용 사례를 실제로 다루는 AI 모델을 선택하는 것은 퍼즐의 한 조각에 불과합니다. 데이터 수집, 검증, 리소스 관리, 그리고 모델을 배포하고 모니터링하는 데 필요한 인프라 등 모델을 둘러싼 요소는 훨씬 더 많습니다.

AI 애플리케이션의 환경에서 그러한 활동은 머신 러닝 운영(MLOps)에 따라 자동화됩니다. MLOps는 여러 부서의 직원으로 구성된 팀 내 DevOps와 유사한 책임을 비롯하여 완전한 AI 프로젝트 라이프사이클을 포함합니다. MaaS 라이프사이클의 경우 MaaS 공급업체에는 MaaS 오퍼링을 제공하고 관리하기 위해 함께 일하는 데이터 사이언티스트, ML 엔지니어, IT 운영팀 등 여러 부서의 직원으로 구성된 유사한 분야별 전문가 팀이 있습니다.  

모델 

MaaS 공급업체는 오픈소스, 타사 또는 자체 모델을 통합하여 모델 카탈로그를 개발할 책임이 있습니다. 조직의 요구 사항에 따라 MaaS 공급업체는 미세 조정(fine tuning)과 같은 튜닝 기술을 사용하여 모델을 커스터마이징하거나 검색 증강 생성(RAG) 또는 검색 증강 미세 조정(RAFT) 을 통해 더 나은 사용자 환경을 제공할 수 있습니다. 튜닝된 모델은 데이터 저장소에 저장되고 해당 메타 세부 정보는 모델 레지스트리에 저장되므로 서빙에 용이합니다. 또한 MaaS 공급업체는 사용 가능한 모든 모델의 모델 카탈로그를 만들고 개발자를 위한 개발자 포털에 이 카탈로그와 노출된 API를 문서화할 수 있습니다. 

Red Hat OpenShift AI

MaaS의 기반은 모델을 튜닝, 서빙, 모니터링하는 데 사용되는 AI 플랫폼입니다. MaaS 공급업체는 모니터링을 위한 적절한 관측성 툴을 사용하여 이 시스템을 설정해야 합니다.

MaaS 공급업체는 여러 테넌트를 다루고 보안 위협을 모니터링 및 완화하며 다양한 데이터 소스를 통합하여 모델을 효율적으로 서빙해야 합니다. 

Red Hat 고유의 설계에서는 데이터 서비스와의 통합과 모델 서빙을 위한 강력한 보안 상태인 멀티 테넌시 지원과 같은 기능을 제공하여 MaaS의 요구 사항을 해결하는 Red Hat OpenShift AI를 AI 플랫폼으로 사용하고 있습니다. OpenShift AI는 데이터 수집, 모델 학습, 모델 서빙 및 관측성의 워크플로우를 간소화하고 팀 간 원활한 협업을 지원합니다.

Red Hat OpenShift AI의 이점

OpenShift AI는 MaaS 시스템 설치를 원하는 누구에게나 다음과 같은 다양한 이점을 제공합니다.

• 대규모 AI 워크로드의 요구 사항을 처리하기 위해 효율적으로 확장할 수 있는 기능
• 엣지 환경과 분리된 환경을 비롯한 하이브리드 클라우드 전반에서 AI 워크로드를 실행할 수 있는 기능
• 내장된 인증 및 역할 기반 액세스 제어(RBAC)
• 보안 및 컴플라이언스 과제를 해결해주는 다양한 제어

또한 OpenShift AI는 모듈식으로 구축되어 MaaS 팀이 필요에 따라 파트너나 다른 오픈소스 기술을 연결할 수 있는 커스터마이징된 AI/ML 스택을 구축할 수 있습니다. 

AI 오케스트레이션

또한 Red Hat OpenShift AI는 MaaS 공급업체가 동일한 모델의 여러 버전이나 특정 활용 사례를 위한 다양한 모델까지도 실험하고 더 효율적으로 제어할 수 있는 AI 오케스트레이션 기능을 제공합니다. AI 오케스트레이션의 주요 목적 중 하나는 API 요청을 적절한 모델 인스턴스로 라우팅하는 것입니다. 이 계층에는 다양한 모델 튜닝 기술을 관리하기 위한 추가 구성 요소가 포함될 수도 있습니다.

API 관리

API 관리는 MaaS 설계에서 가장 중요한 구성 요소 중 하나입니다. MaaS 공급업체는 고객이 애플리케이션을 관리 및 관찰하고 ROI(투자 수익률)를 효과적으로 측정할 수 있도록 액세스를 관리하고 애플리케이션을 온보딩하며 분석을 제공하고 비용을 청구할 수 있는 역량이 필요합니다. 또한 API 관리 구성 요소는 폭넓은 온보딩 및 사용 정책을 허용하며, 게시된 API의 사용, 과용, 미달, 잠재적 남용에 관한 정교한 분석을 제공합니다.

API 관리 구성 요소는 고가용성(HA), 트래픽 제어, API 인증, 타사 IdP(Identity Provider)와의 통합, 분석, 액세스 제어, 수익화, 개발자 워크플로우 등에 대한 지원을 제공합니다.

지능형 애플리케이션

챗봇, 모바일 애플리케이션, 포털 등과 같은 소비자 애플리케이션은 이 아키텍처의 마지막 구성 요소입니다. 여기서 주요 이해관계자는 MaaS 공급업체가 게시한 API를 통해 사용 가능한 AI 모델을 지능형 애플리케이션에 통합하고자 하는 개발자입니다. 개발자는 전용 개발자 포털을 통해 애플리케이션을 온보딩하고 API 관리 기능을 활용할 수 있어야 합니다.

개발자는 이제 API를 통해 모델과 원활하게 통합하는 지능형 애플리케이션을 최종 사용자에게 제공할 수 있습니다. 따라서 MaaS 공급업체가 모델, MLOps, 기본 인프라를 관리하는 동안 개발자는 즉시 사용 가능한 모델 API를 사용하여 비즈니스 문제를 해결하는 데 집중할 수 있습니다.

결론

인프라 및 데이터 사이언스 복잡성을 추상화함으로써 조직은 MaaS를 활용하여 AI 솔루션을 더 빠르고 효율적으로 제공하는 동시에 비용과 MLOps의 복잡성에 대한 제어 능력을 유지할 수 있습니다.

AI 도입이 갈수록 증가하는 가운데 MaaS는 AI 개발 가속화와 시장 출시 시간 단축을 위한 훌륭한 접근 방식이 될 수 있습니다. Red Hat OpenShift AI의 기능을 살펴보고 Red Hat이 MaaS 오퍼링 구축과 AI 투자의 잠재적 가치 극대화에 어떻게 도움이 되는지 확인하세요.