불과 몇 달 전에 우리 업계는 전 세계에 혜성같이 등장한 챗GPT-3.5 베타 출시를 접했다. 그 이후로 우리는 인공지능, 특히 생성형 AI에 대한 관심과 혁신, 투자를 둘러싼 역사적인 열풍에 휩싸여 있다.
나는 과거 AI 과대광고 시기를 기억할 만큼 나이를 먹었지만, 이번에 달라진 점은 생성형 AI를 통해 강력한 AI 도구와 대화 형식으로 상호작용할 수 있고, 이러한 자연어 상호작용은 텍스트, 코드, 비디오, 오디오 등을 포함한 새로운 콘텐츠가 마치 사람인 듯 창의력과 결합해 생성된다는 것이다.
오늘날 대규모 언어 모델(LLM, large-language models)을 사용하면 영어나 중국어와 같은 모국어가 실제 프로그래밍 언어가 된다. 이러한 모델에 제공하는 언어 프롬프트는 본질적으로 답을 계산하는 데 사용되는 코드다. 이는 프로그래밍의 진정한 대중화에 가장 근접한 순간이다.
이 모든 것을 종합해 보면 우리는 소프트웨어 개발, 고객 지원, 영업 및 마케팅과 같은 주요 비즈니스 기능을 혁신할 수 있는 세대의 한 번뿐인 기회를 경험하고 있는 것이다. 이러한 차세대 AI 혁신의 물결이 가속화됨에 따라 이는 전 세계 경제 전반에 걸쳐 큰 영향을 미칠 것이다. 우리는 생성형 AI를 통해 학습의 가변성을 해결하여 교육을 재창조하고1, 의사의 임상 진단을 지원하며2, 고객의 투자 결정을 돕는 등3 다양한 분야에서 혁신을 이룰 수 있는 기회를 갖게 되었다. 이는 몇 가지 예시에 불과하지만, 최근 맥킨지(McKinsey)가 발간한 보고서에 따르면 생성형 AI가 전 세계적으로 연간 7조 9천억 달러의 경제적 가치를 창출할 수 있다는 전망이 가능하다.4
앞으로 해결해야 할 세 가지 주요 과제
이러한 대규모 혁신의 초기 단계에서 종종 그렇듯, 우리는 광범위한 채택을 가로막는 몇 가지 중요한 장벽에 직면하고 있다. 기업에서 생성형 AI의 가치와 잠재력을 최대한 활용하기 위해 공동으로 해결해야 할 세 가지 핵심 과제가 있다.
고비용에서 합리적 비용으로
오늘날 생성형 AI 모델을 학습하고 관리하는 일은 복잡하고 높은 비용을 요구한다. 엄청난 양의 특수 컴퓨팅 성능과 많은 메모리를 갖춘 고속 네트워킹이 필요하다. 현재 AI 모델 성능과 컴퓨팅 인프라는 사실상 1대 1 관계이며, 이러한 역학 관계는 확장 가능하지 않고 지속 가능하지도 않다. 안드레센 호로위츠(Andreessen Horowitz)는 최근 챗GPT와 같은 모델을 훈련하는 작업을 “인류가 지금까지 수행한 작업 중 가장 계산 집약적인 작업 중 하나”5로 설명했다. 현재 단일 훈련 실행에 드는 비용이 약 50만 달러에서 460만 달러에 달하며6, 모델이 업데이트됨에 따라 훈련 비용도 지속적으로 발생할 것이다.
이 엄청난 비용으로 볼 때, 많은 사람들은 우리 세계에 챗GPT와 같은 극소수의 ‘메가 LLM’이 등장하는 데 그칠 것이라는 결론에 도달했다.
하지만 다른 방법도 있다. 나는 일반 기업이 합리적인 가격으로 자체 맞춤형 AI 모델을 구축하고 실행할 수 있는 미래 또한 존재한다고 믿는다. 이는 유연성과 선택의 문제로 귀결된다. 대부분의 CIO는 다양한 사용 사례에 메가 LLM을 사용할 계획이지만, 특정 작업에 최적화할 수 있는 수많은 소규모 AI 모델도 구축하고자 한다. 이러한 모델은 오픈 소스 소프트웨어를 기반으로 하는 경우가 많다. 실제로 현재 오픈 소스 AI 모델의 혁신은 놀라울 정도로 방대하다. 많은 기업이 오늘날 지배적인 대규모 독점 LLM에 대한 의존도를 낮추고 다양한 사용 사례에 이러한 개방형 모델을 채택할 것이라고 예측하는 것은 무리가 아니다.
이처럼 목적에 맞게 구축된 개방형 모델은 조직의 고유한 지적 재산인 도메인별 데이터를 활용한다. 이처럼 집약적인 AI 시스템은 AI 워크로드에 필요한 성능과 처리량을 제공하도록 수정된 저비용 CPU나 저렴한 GPU를 비롯한 전용 인프라에서 비용 효율적으로 실행 가능하다. 우리는 비용을 절감하고 유연성과 선택권을 제공하는 솔루션을 구축함으로써 AI 혁신에 대한 접근성을 높여 주류 기업이 AI에 보다 쉽게 접근할 수 있도록 지원할 수 있다.
전문화된 ‘AI 마법사’에서 대중화된 AI 전문성으로
오늘날 AI 모델을 구축, 미세 조정 및 실행하는 데 필요한 인재는 고도로 전문화되어 있으며 공급이 부족하다. 이 문제는 거의 모든 CEO 및 CIO와의 대화에서 빠지지 않고 등장하는 주제이며, 이들은 이 문제를 가장 큰 도전 과제 중 하나로 꼽는다. 이들은 AI 오픈소스 소프트웨어 분야가 빠르게 변화하고 있다는 사실을 잘 알고 있다. 이들은 단일 플랫폼이나 공급업체에 종속되지 않고 새로운 혁신이 등장할 때 쉽고 빠르게 전환할 수 있는 능력을 원한다. 이러한 수준의 적응력은 오늘날의 AI 모델 뒤에 숨어 있는 ‘마법’을 완전히 이해하는 기술 전문가가 상대적으로 극소수에 불과한 상황에서는 달성하기 어렵다.
이러한 기술 격차를 해소하기 위해서는 AI 모델을 구축하고 학습하는 데 사용하는 프로세스와 도구를 획기적으로 단순화해야 한다. 이러한 상황에서 레퍼런스 아키텍처는 사내 전문 지식이 부족한 대다수 조직이 AI 솔루션을 처음부터 구축할 수 있도록 청사진과 실행 가능한 경로를 제공한다.
위험에서 신뢰로
마지막으로 가장 중요한 것은 위험에서 신뢰로 전환해야 한다는 것이다. 현재의 AI 모델은 개인정보 보호 문제, 법과 규제 위협, 지적 재산 유출 등 상당한 위험을 초래한다. 이러한 위험은 기업의 평판을 손상시키고 고객과 직원에게 해를 끼치며 영업 이익에 부정적인 영향을 미칠 수 있다. 많은 조직은 직원이 실수로 챗GPT와 같은 도구에 민감한 내부 데이터를 유출한 이후 직원의 생성형 AI 도구 사용을 제한하는 정책을 수립했다. 동시에 오늘날의 생성형 AI 시스템은 무의미하거나 관련성 부족, 또는 부정확한 새로운 콘텐츠를 생성하는 ‘환각’을 자주 일으키기 때문에 근본적인 신뢰 부족으로 어려움을 겪고 있다.
업계는 공정성, 개인정보 보호, 책임성, 타인의 지적 재산, 학습 데이터의 투명성을 보장하고 강화하기 위해 강력한 윤리 원칙을 개발해야 한다. AI 설명 가능성7, 데이터 무결성8, 데이터 프라이버시9의 핵심 문제 해결을 위한 대규모의 조직 생태계가 성장하고 있으며, 오픈 소스 커뮤니티는 이러한 움직임의 중심에서 혁신을 주도하며 기업이 안전하고 통제된 방식으로 AI 모델을 훈련하고 배포할 수 있도록 지원하고 있다.
기술 혁신의 다음 물결
지난 15년 동안 모바일 앱 혁명이 비즈니스와 기술의 관계를 변화시켰듯이, 새로운 AI 기반 앱의 물결은 전 세계적으로 직원 생산성을 획기적으로 높이고 경제 발전을 가속화할 준비가 되어 있다. 우리는 새로운 혁신 슈퍼사이클의 초기 단계에 있다. 우리의 공동 과제는 초기 단계에 있는 이 강력한 기술을 더 저렴하고, 접근하기 쉬우며, 신뢰할 수 있도록 만드는 것이다.
전 세계의 AI 의사결정권자들은 대체로 전략적으로 균형을 잡아야 한다는 데 동의한다. 특히 기밀성, 프라이버시, 독점 정보의 오용 등 미지의 영역에서는 신중하게 움직여야 한다. 동시에 기업이 새로운 AI 모델을 빠르게 수용해 책임감 있고 윤리적인 방식으로 차세대 혁신의 물결에 참여할 수 있도록 지원하는 것이 중요하다.
VMware 팀은 이러한 과제를 해결하기 위해 열심히 노력하고 있으며, 다음달 라스베이거스에서 열리는 VMware 익스플로어(Explore) 2023에서 다양한 혁신에 대해 논의할 예정이다. 그 자리에서 여러분 모두와 이 대화를 이어 나가기를 기대한다.
[1] Department of Education. “Artificial Intelligence and the Future of Teaching and Learning,” May 2023
[2] World Economic Forum. “How will generative AI impact healthcare?” May 2023
[3] CNBC. “JPMorgan is developing a ChatGPT-like A.I. service that gives investment advice,” May 2023
[4] McKinsey. “The economic potential of generative AI: The next productivity frontier,” June 2023
[5] Andreessen Horowitz. “Navigating the High Cost of AI Compute,” April 2023
[6] Andreessen Horowitz. “Navigating the High Cost of AI Compute,” April 2023
[7] Massachusetts Institute of Technology. “Why companies need artificial intelligence explainability,” September 2022
[8] TechRepublic. “An overview of data integrity and its importance,” January 2023
[9] Harvard Business Review. “The New Rules of Data Privacy,” February 2022