- 인텔과 협력한 VMware 프라이빗 AI, 뛰어난 개인 정보 보호, 보안, 성능, 확장성 및 TCO 절감 등 혁신적인 AI 성능 제공
[보도자료 제공일 2023-11-08] 엔터프라이즈 소프트웨어 부문의 글로벌 리더인 VMware가 데이터 센터, 퍼블릭 클라우드 및 엣지 환경 전반에서 고객의 AI 도입을 가속화하고 어디서든 프라이빗 AI(Private AI)를 구현할 수 있도록 지원하기 위해 인텔과 20년 이상 혁신을 이어온 협업을 확장한다고 발표했다.
VMware와 인텔은 공동 검증된 AI 스택을 제공하는 데 협력하고 있다. 해당 AI 스택을 통해 고객은 기존의 범용 VMware 및 인텔 인프라와 오픈 소스 소프트웨어를 사용해 더 간편하게 AI 모델을 구축하고 배포할 수 있다. VMware 클라우드 파운데이션(Cloud Foundation)과 인텔의 AI 소프트웨어 제품군, AI 가속기가 내장된 인텔 제온 프로세서 그리고 인텔 맥스 시리즈 GPU의 결합은 데이터 준비, 모델 학습, 미세 조정 및 추론을 위한 검증되고 벤치마크된 AI 스택을 제공하며, 과학적 발견을 가속화하고 비즈니스 및 소비자 서비스를 강화한다.
VMware 클라우드(VMware Cloud)는 전 세계 30만 개 이상의 기업 고객을 보유하고 있으며, VMware 가상화 소프트웨어는 데이터가 생성, 처리 및 소비되는 기업 환경 전반에 배포돼 있다. 따라서 VMware 클라우드를 활용하면 비즈니스 전반에서 AI 가속화 컴퓨팅과 모델을 빠르게 도입할 수 있다. 인텔 역시 수십만 고객에게 확장 가능하고 신뢰할 수 있는 개방형 솔루션을 제공하고 있다. 기업 내 VMware와 인텔 제품의 보편화는 데이터 과학에 대한 접근성을 개선하고, 전 세계 조직이 AI를 통한 비즈니스적 이점을 누리는 동시에 개인 정보 보호 및 규정 준수 요구 사항을 충족하는 아키텍처 접근 방식인 프라이빗 AI를 도입할 수 있도록 지원한다.
VMware AI 랩스 부사장인 크리스 울프(Chris Wolf)는 “프라이빗 AI는 AI에 대한 선택권, 개인 정보 보호, 제어 등 세 가지 요소를 모두 제공하기 때문에 고객은 AI 도입을 가속화하며 미래형 AI 인프라를 구축할 수 있다”며 “VMware 프라이빗 AI는 인텔과의 협력을 바탕으로 양사 고객이 직원 생산성을 획기적으로 개선하고, 주요 비즈니스 기능 전반에서 혁신을 일으키며, 경제적 효과를 창출하는 데 기여할 것”이라고 말했다.
인텔 데이터센터 및 AI 그룹 총괄 산드라 리베라(Sandra Rivera) 수석부사장은 “지난 수십 년간 인텔과 VMware는 고객이 더 빠르게 움직이고 혁신을 거듭하며 효율적인 운영을 할 수 있도록 차세대 데이터 센터-투-클라우드(data center-to-cloud) 기능을 제공해 왔다”며 “AI는 새롭고 강력한 가능성을 열어주며 전 세계 모든 이들의 삶을 개선할 수 있는 잠재력을 가지고 있다. 인텔과 VMware는 실리콘과 소프트웨어 기반의 새로운 AI 시대로 기업을 이끌 준비가 돼 있다”고 전했다.
낮은 TCO를 갖춘 안전한 AI 인프라로 AI 성능 향상
VMware 프라이빗 AI는 기존 AI/ML 워크로드 및 생성형 AI에 대한 지원을 바탕으로 퍼블릭 클라우드, 엔터프라이즈 데이터 센터, 엣지 등 엔터프라이즈 데이터가 생성, 처리 및 소비되는 모든 환경에 컴퓨팅 용량과 AI 모델을 제공한다. VMware와 인텔은 고객의 프라이빗 기업 데이터를 사용해 수 분에서 수 시간 내에 작업 특화 모델을 미세 조정하고, 대규모 언어 모델을 사람보다 빠르게 추론할 수 있다.
이번 협력 확장으로 양사는 공유 가상 시스템에서 업데이트 및 유지관리가 용이한 한층 작고 경제적인 최신 모델을 미세 조정할 수 있게 됐으며, 배치(batch) AI 작업 후 IT 리소스 풀에 다시 제공할 수 있다. 또한 AI 지원 코드 생성, 경험 기반 고객 서비스 센터 추천 시스템, 전통적인 머신 통계 분석 등 사용 사례를 애플리케이션을 실행하는 동일 범용 서버에서 구동하는 것도 가능하다.
VMware와 인텔은 VMware 클라우드 파운데이션에 인텔의 AI 소프트웨어 제품군과 인텔 제온 프로세서, 데이터 센터 GPU(Data Center GPU)를 결합해 고객이 이미 보유하고 있는 인프라에 프라이빗 AI 모델을 구축 및 배포할 수 있게 함으로써 TCO(총소유비용)를 줄이고 환경 지속 가능성 문제도 해결하는 레퍼런스 아키텍처를 설계하고 있다.
인텔 AI가 적용되는 VMware 프라이빗 AI 레퍼런스 아키텍처는 다음을 포함한다.
- 인텔 어드밴스드 매트릭스 익스텐션(Intel AMX)이 내장된 4세대 인텔 제온 프로세서는 표준 산업 프레임워크 및 라이브러리, 엔드투엔드 데이터 과학 생산성 툴, 최적화된 AI 모델을 사용해 최대 10배 향상된 기본 성능을 제공한다.
- 최대 128개의 Xe 코어를 제공하는 인텔 데이터센터 GPU 맥스는 가장 까다로운 AI 워크로드를 다루는 인텔의 기본 GPU 컴퓨팅 빌딩 블록이다. 인텔 맥스 시리즈 GPU는 다양한 고객의 요구 사항을 충족하는 다양한 형태의 폼팩터로 제공될 예정이다.
- 인텔의 AI 소프트웨어 제품군은 엔드투엔드 오픈 소스 소프트웨어와 선택적 라이선스 구성 요소로 패키징됐다. 이를 통해 개발자가 데이터 준비부터 미세 조정, 추론에 이르는 전체 AI 파이프라인 워크플로우를 실행하고, 멀티 노드 확장과 엔터프라이즈 IT 인프라 상의 AI 배포를 가속화할 수 있다. 인텔의 개방형 원API 프레임워크는 프로세서 및 하드웨어 가속기에 구애받지 않는 소프트웨어 개발을 지원해, 개발자는 여러 코드 기반이나 전문 언어가 없어도 한번 작성한 코드로 다양한 아키텍처에서 코드를 실행할 수 있다. 인텔의 트랜스포머 익스텐션(Transformer Extensions)과 파이토치 익스텐션(PyTorch Extension)은 개발자들이 선호하는 오픈 소스인 허깅 페이스(Hugging Face) 라이브러리와 긴밀하게 통합돼, 효율적인 추론을 위한 최적의 모델 미세 조정 및 압축 방법을 제공한다.
VMware 클라우드 파운데이션은 일관성 있는 엔터프라이즈급 인프라와 운영 간소화, 향상된 보안을 제공하는 다음과 같은 기능을 통해 프라이빗 AI를 지원한다.
- VMware 브이샌 익스프레스 스토리지 아키텍처(vSAN Express Storage Architecture)는 I/O 사용량이 많은 AI/ML 튜닝과 추론 워크로드를 위한 암호화 등 주요 기능에 대한 성능을 최대 30% 개선(*VMware 내부 분석 결과 기준)하고 오버헤드를 최소화한다.
- VMware 브이스피어 분산 리소스 스케줄러(vSphere Distributed Resources Scheduler)는 AI 모델 학습 및 추론에 타 AI 애플리케이션과 동일한 클러스터를 사용해 잔여 컴퓨팅 용량을 효율적으로 활용하도록 지원함으로써 용량을 극대화하고 TCO를 절감한다.
- VMware NSX는 마이크로 세분화를 구현하고 고급 위협 보호 기능을 제공한다.
- 보안 부팅과 가상 TPM(Trusted Platform Module)은 모델과 데이터 기밀성을 지원한다.
VMware 프라이빗 AI는 인텔 AMX 및 인텔 맥스 시리즈 GPU가 탑재된 4세대 제온 CPU를 실행하는 델 테크놀로지스(Dell Technologies), 휴렛패커드 엔터프라이즈(Hewlett Packard Enterprise) 및 레노버(Lenovo) 서버에서 이용 가능하다.