오픈소스와 AI의 미래: 민주화, 지속 가능성, 신뢰의 중요성

오늘날의 IT 과제를 해결하기 위해 Red Hat Summit과 AnsibleFest에서 AI를 위한 오픈소스 파운데이션 모델 플랫폼 제공부터 새로운 IT 코드형 정책(Policy as Code)에 이르기까지 다양한 기술 요구 사항에 대한 Red Hat의 대응을 살펴봤습니다. 시간은 쏜살같이 흐르고 미래는 눈 깜박할 사이에 다가와 있습니다. 그렇다면 아직 구체적으로 알지 못하는 기술 관련 문제를 지금 어떻게 해결할 수 있을까요? 다행히도 Red Hat에는 미래를 계획하고 만들어가는 데 도움이 되는 것으로 오랜 시간에 걸쳐 검증된 방법이 있습니다. 그것은 바로 오픈소스 커뮤니티와 프로젝트입니다.

오늘날 많은 사람들이 AI/ML을 미래의 기술이라고 생각합니다. 아직도 많은 조직이 배포와 프로덕션 중심이 아니라 전략과 계획, 큰 그림이 중심인 초기 단계에 머물러 있습니다. 하지만 오픈소스 환경에서는 그렇지 않습니다. Red Hat은 미래를 내다보면서 AI로 인해 맞닥뜨릴 미래의 문제를 해결할 방법을 모색하고 있습니다.

컨퍼런스 기조 연설을 AI의 미래에 관한 이야기로 채울 수도 있지만, 저는 오픈소스 프로젝트가 다루는 세 가지 영역에 초점을 맞추고자 합니다.

• 민주화
• 지속 가능성
• 신뢰

이러한 문제를 해결하거나 적어도 해결하기 시작하는 경우 나머지 AI 전략의 복잡성을 줄이고 실현 가능성을 높이게 될 수 있습니다.

민주화

AI 용어를 사용할 때는 직설적으로 표현해야 합니다. 오픈 모델의 '오픈'이라는 단어에 따옴표나 별표 표시가 달려 있으면 오픈(개방형)이 맞는지 의심하게 되죠. 오해하지 마세요. 이러한 모델은 AI 분야에서 매우 중요하지만 오픈소스라는 측면에서 따지면 개방적이지 않습니다. 모든 사용자가 이용할 수는 있지만 다양한 제한 사항이나 규칙이 적용되는 경우가 많습니다. 또한 기여에 대해 개방적이지 않고, 오픈 학습 데이터 세트나 가중치도 제공하지 않을 수 있습니다.

이는 현재 Red Hat이 다루고 있는 과제이며, 앞으로도 IBM Research와의 협업을 통해 지속적으로 해결해 나갈 것입니다. IBM Research는 InstructLab과 함께 현재 오픈소스 Apache 라이센스를 Granite 언어 및 코드 모델에 적용하고 있습니다. 이것이 놀라운 이유는 유일하게 오픈소스 라이센스로 제어되는 모델을 사용하기 때문이 아닙니다. 이제 누구나 InstructLab을 통해 이러한 모델에 기여하여 모델을 개선할 수 있게 했기 때문입니다.

그뿐만 아니라 AI 모델을 나에게 딱 맞는 AI 모델로 만들 수도 있습니다. 수산업 중심의 챗봇을 빌드하고 싶으신가요? 곧바로 시작하고 기여해서 ChatGoFish를 만들 수 있습니다. 특정한 틈새 기술 영역에 집중한 트러블슈팅 봇을 빌드하고 싶으신가요? InstructLab에서 할 수 있습니다. Red Hat과 함께 진정한 오픈소스 원칙을 AI 모델에 적용하여 가능성을 무한대로 확장하세요.

지속 가능성

바로 본론을 이야기하죠. 모델 학습과 AI 추론엔 많은 전력이 소모됩니다. 국제 에너지 기구(International Energy Agency)는 2026년까지 AI 산업의 전력 수요가 10배 증가할 것으로 예상합니다. 코인 채굴과 맞먹는 수준이겠죠.

이 문제를 해결하기 위해 소프트웨어, 특히 오픈소스 소프트웨어를 사용해야 합니다. AI를 시작하려면 거의 항상 많은 전력이 필요하지만 현명하게 대처할 수 있습니다. Red Hat은 이미 클라우드 네이티브 애플리케이션과 인프라의 탄소 배출량과 에너지 효율성에 대한 인사이트를 얻을 수 있는 Kepler 프로젝트를 통해 엔터프라이즈 IT 현대화를 위한 조치를 취했습니다. 현재 Red Hat OpenShift 4.15에서 기술 프리뷰로 확인할 수 있습니다.

그러나 오픈 혁신의 힘을 통해 Kepler를 CPU뿐만 아니라 GPU의 전력 소비도 감시할 수 있는 툴로 전환할 수 있다면 어떨까요?

Red Hat은 바로 이렇게 Kepler를 통해 ML 모델의 학습 및 추론에 사용되는 전력을 측정합니다. 이를 바탕으로 오픈소스를 통해 제공되는 기존 IT 및 AI 풋프린트의 전력 소비를 전체적으로 파악할 수 있습니다.

신뢰성

모든 흥미로운 신기술과 마찬가지로 AI 워크로드, 모델, 플랫폼의 보안 풋프린트를 효과적으로 보호하고 적용할 수 있어야 합니다. 보안이 취약한 혁신은 기업과 오픈소스 커뮤니티 모두가 최소화하고자 하는 '리스크'에 불과합니다.

소프트웨어의 경우 더 안전한 경험을 제공하려면 공급망과 출처가 핵심입니다. 즉, 코드가 프로덕션 기능에 배포되기 전에 해당 코드의 출처, 코드를 작성한 사람, 액세스한 사람을 명확하게 파악해야 합니다. Red Hat이 주도하는 sigstore 프로젝트는 애플리케이션 개발의 모든 단계에서 사용 중인 오픈소스 코드의 진실성을 입증하는 것을 돕습니다.

이제 우리는 이와 동일한 수준의 사전 계획, 원칙, 엄격함을 AI 모델에 적용해야 합니다. Red Hat과 오픈소스 커뮤니티는 협업을 통해 AI BOM(Bill of Material)을 작성하여 그러한 일을 하고 있으며, 이는 Red Hat의 안전한 공급망 툴을 사용하여 모델 빌드에 관해 더 강력한 보증을 제공합니다.

신뢰와 보안은 실과 바늘 같은 관계입니다. 미래의 기반이 되는 AI 모델과 워크로드를 신뢰할 수 있는지 없는지 어떻게 알아내야 할까요? TrustyAI는 이 문제에 대한 해결책을 제공합니다. 기술 팀은 TrustyAI를 사용하여 AI 모델의 정당성을 이해하고 잠재적으로 문제가 될 수 있는 동작에 플래그를 지정할 수 있습니다.

이러한 예시를 통해 오픈소스로 미래에 대비하여 AI의 접근성, 지속 가능성, 보안 및 신뢰를 강화하는 방법을 이해할 수 있기를 바랍니다. Red Hat은 이러한 모든 기술을 주도하는 데 자랑스럽게 앞장섭니다. 새로운 사고방식을 촉진하는 오픈소스 커뮤니티와 협업하기 때문에 이런 혁신이 가능합니다.