경영진3 분 분량

프라이빗 AI의 시작

Photo for Raghu RaghuramRaghu Raghuram

실험 단계에서 주류 기업 채택 단계로 이동하면서, 생성형 AI는 업계의 판도를 바꾸는 진정한 혁신의 물결을 주도하고 있습니다. 대규모 언어 모델(LLM)은 이미 암 진단부터 제품 디자인, 언어 번역에 이르기까지 모든 분야에서 막대한 가치를 제공하고 있으며, 맥킨지(McKinsey)1에 따르면 연간 경제적 가치가 약 4조 4천억 달러에 달한다고 합니다. 역사상 처음으로 우리는 강력한 AI 도구와 대화 방식으로 상호 작용할 수 있게 되었으며, 생성형 AI는 이러한 자연어적 상호 작용과 텍스트, 코드, 비디오, 오디오 등을 포함한 새로운 콘텐츠를 신속하게 생산할 수 있는 "인간과 같은" 창의성을 결합했습니다. 우리는 현재 소프트웨어 개발, 고객 지원, 영업 및 마케팅과 같은 주요 비즈니스 기능을 변화시킬, 엄청난 생산성 도약의 초기 단계에 있다고 해도 과언이 아닙니다.

하지만 이 모든 가능성과 흥분 속에서 떠오르는 중요한 과제가 있습니다. 다음 10년 동안 AI의 잠재력을 최대한 포착하기 위해서는 프라이버시에 대한 본질적인 문제를 공동으로 해결해야 합니다. 물론 프라이버시는 오랫동안 모두의 관심사였습니다. 하지만 제가 대화를 나누고 있는 CEO들과 CIO들은 생성형 AI가 프라이버시 문제를 더욱 크고 복잡하게 만들고 있다고 생각합니다. 데이터는 AI 혁신을 촉진하는 필수 불가결한 "연료"이며, 사유 데이터를 사적 소유로 유지하고 보호하는 작업은 더욱 강화되었습니다. 간단히 말해서, 우리는 AI의 엄청난 비즈니스 가치와 신뢰할 수 있는 프라이버시 보호 장치 사이의 균형을 맞추는 새로운 접근 방식을 설계해야 합니다.

기업들은 이제 특히 세 가지 주요 프라이버시 문제를 해결할 것을 요구 받고 있습니다: 첫째, 직원들이 AI 모델과 상호작용할 때 지적 재산권 "유출"의 위험을 어떻게 최소화할 것인가? 둘째, 민감한 기업 데이터가 외부로 공유되지 않도록 어떻게 보장할 것인가? 셋째, AI 모델에 대한 접근에 대한 완전한 통제를 어떻게 유지할 것인가? 제가 대화하고 있는 많은 CEO들은 생성형 AI의 복잡한 뉘앙스를 다룰 새로운 일련의 프라이버시 표준을 정의하기 위해 법률 팀이 IT 팀과 협력하도록 적극적으로 요청하고 있습니다. 그것은 말할 것도 없이 복잡한 일입니다.

VMware AI 랩스 설립

바로 이것이 동기가 되어 우리는 1년여 전에 VMware 내부에 AI 랩스를 설립하고 이러한 과제들을 해결하기 위해 노력해 왔습니다. 우리는 이 엔지니어 팀에 아주 간단한 헌장을 주었습니다. 바로 오픈 소스 혁신을 포함한 다양한 AI 모델과 도구를 선택할 수 있는 자유를 유지하면서도 강력한 프라이버시 가드레일에 대한 요구를 충족하는 엔터프라이즈급 AI 아키텍처를 구축하는 것입니다. 모든 과정에서 VMware AI 랩스는 당사의 법률 자문위원인 에이미 플리겔맨 올리(Amy Fliegelman Oli) 및 법무 팀과 긴밀히 협력했습니다. 이 엔지니어와 변호사들은 함께 AI 모델을 선택하는 방법, 도메인별 데이터를 사용해 훈련하는 방법, 직원들이 모델과 상호 작용하는 추론 단계를 관리하는 방법 등의 복잡한 문제를 해결했습니다.

VMware AI 랩스 팀은 시장에서 사용 가능한 제품을 심층적으로 평가한 후, 상업용으로 사용할 수 있는 제품이 없다는 사실을 깨달았습니다. 그래서 그들은 모든 기업에 필수적인 5가지 요구 사항(개인 정보 보호, 선택권, 비용, 성능 및 규정 준수)을 해결하는 AI 아키텍처를 구축하기 시작했습니다.

프라이빗 AI: AI 혁신을 위한 엔터프라이즈급 아키텍처

우리 내부 팀의 이 모든 집중적인 작업의 결과는 프라이빗 AI라고 하는 접근 방식입니다. 간단히 말해서, 프라이빗 AI는 AI의 비즈니스 이점과 조직의 개인 정보 보호 및 규정 준수 요구 사이의 균형을 맞추는 엔터프라이즈급 아키텍처입니다. 우리는 이 아키텍처를 기업이 AI의 잠재력을 최대한 포착할 수 있도록 지원하는 획기적인 방법으로 보고 있으며, 전 세계의 모든 고객이 이 아키텍처를 이용할 수 있도록 선보이게 되어 기쁩니다.

기업이 다양한 위험에 노출될 수 있는 퍼블릭 AI 모델과 달리, 프라이빗 AI는 기업이 AI 모델을 선택하고 훈련하고 관리하는 방법에 대한 통제력을 높이기 위해 기초부터 구축된 아키텍처입니다. 이러한 수준의 통제와 투명성은 현재 모든 법률 팀이 요구하고 있는 것입니다.

멀티 클라우드 세계에서의 AI 혁신

우리가 구축한 프라이빗 AI 아키텍처는 근본적으로 멀티 클라우드 접근 방식을 반영하며, 이를 통해 고객은 여러 클라우드에 분산되어 있는 소중한 데이터를 활용할 수 있습니다. 현재 기업의 87%가 2개 이상의 퍼블릭 클라우드를 사용하고 있으며2, AI 이니셔티브를 가속화함에 따라 데이터 생성 및 처리가 진행되는 퍼블릭 클라우드, 프라이빗 데이터 센터, 엣지에 있는 데이터를 보다 효율적으로 관리해야 한다는 압박을 받고 있습니다.

프라이빗 AI 아키텍처를 통해 기업은 데이터와 근처에서 AI 모델을 독점 및 오픈 소스 모두에서 유연하게 실행할 수 있습니다. 이를 통해 직원들이 모델에 문의하고 상호 작용할 때 성능이 향상되고 응답 시간이 단축됩니다. 또한 이 접근 방식은 IT 팀에게 가시성과 제어력을 높여 AI 애플리케이션의 전원을 공급하는 민감한 데이터를 보호하는 스마트하고 자동화된 보안 정책을 수립할 수 있도록 해주기 때문에 사이버 보안 보호 기능도 향상됩니다.

마찬가지로 중요한 것은 프라이빗 AI 아키텍처를 통해 기업은 공통 관리 및 운영 모델을 사용하여 AI 워크로드와 비AI 워크로드를 함께 운영할 수 있으며, 이를 통해 총 소유 비용을 절감하고, 갓 출시된 새로운 AI 모델과 서비스를 쉽게 채택할 수 있다는 점입니다. 제가 대화하는 리더들은 AI 혁신이 빠른 속도로 진행되고 있다는 것을 깊이 인식하고 있으며, 모든 비즈니스 요구사항에 대해 단일 버티컬 AI 스택에 베팅하고 싶어하지 않습니다. 일반적으로 많은 고객이 매일 비즈니스를 운영하는 데 의존하는 멀티 클라우드 환경과 AI 전략이 깊이 얽혀 있다는 것을 발견하고 있습니다.

우리는 최근 자체 프라이빗 AI 아키텍처를 구축하려는 조직을 위해 프라이빗 AI에 대한 레퍼런스 아키텍처와 함께 AI 혁신 분야에서 인정받는 글로벌 리더인 엔비디아(NVIDIA)와의 공동 제품을 발표했습니다.

인공지능 혁신 시대의 프라이버시

기업 데이터와 지적 재산의 프라이버시를 보호하는 것은 항상 전략적으로 중요했습니다. 그러나 생성형 AI가 주류 비즈니스에 뿌리를 내리면서 프라이버시 문제는 더욱 시급하고 중요해졌습니다. 프라이빗 AI 접근 방식을 통해 조직은 AI 이니셔티브를 가속화하는 동시에 대규모 언어 모델을 선택, 훈련 및 활용하는 방법에 대한 통제력을 강화할 수 있도록 준비하고 있습니다. 궁극적으로 프라이빗 AI는 AI 애플리케이션의 막대한 비즈니스 가치를 방출하는 동시에 AI 혁신의 다음 물결에 내재된 위험을 완화해야 합니다.

[1] McKinsey, The economic potential of generative AI: The next productivity frontier. June 2023

[2] VMware FY23 H1 Benchmark, May 2022; N=1080 Enterprise (5000+ employee) Technology Decision Makers