娇色导航

데이터의 중요성은 CIO에게 새로운 개념이 아니다. 디지털 리더는 수년간 기업 정보를 수집하고 정리해 왔다. 이렇게 수집된 데이터는 언젠가 활용될 날을 기대하며 사내 데이터센터와 클라우드 인프라에 저장되어 왔다. 이제 AI가 부상하면서 그 시기가 도래했다.

2025년 娇色导航현황 조사(State of the 娇色导航Survey 2025)에 따르면, 데이터 기반 AI 제품과 프로젝트를 조사하고 도입하는 일이 CEO의 IT 부문 최우선 과제로 꼽혔다. CEO는 CIO가 단순한 실험 단계를 넘어서 생산성 향상이나 효율성 증대 등 실질적인 가치를 창출하길 기대하고 있으며, 이를 위해 비즈니스 리더와 협업하길 바라고 있다.

캐러더스 앤 잭슨(Carruthers and Jackson)이 발표한 연례 ‘데이터 성숙도 지수(Data Maturity Index)’도 비슷한 흐름을 보여주고 있다. 보고서에 따르면, 전체 조직의 50% 이상이 지난해보다 AI 활용을 늘렸으며, 11%는 그 증가 폭이 매우 컸다고 답했다. 이 컨설팅 기업의 최고경영자 캐롤라인 캐러더스는 AI에 대한 관심이 데이터에 대한 인식 변화로 이어지고 있다고 분석했다.

캐러더스는 “데이터가 중요하다는 사실을 새삼 인식하는 두 번째 계기를 맞이하고 있다”라며, “이전에는 2018년 GDPR이 시행되면서 데이터의 중요성이 처음으로 부각됐다면, 이번에는 인공지능이 그런 효과를 일으키고 있다”라고 설명했다.

많은 조직이 AI와 관련된 기회를 탐색하고 있지만, 이를 제대로 활용하려면 신뢰할 수 있고 확장 가능한 데이터 기반이 반드시 필요하다. 이를 위해 CIO가 지난 10년 간 구축해 온 클라우드 기반 인프라는 새로운 비즈니스 요구에 따라 IT 자원을 확장하는 데 핵심적인 역할을 한다.

하지만 AI는 변화의 속도를 가속화한다. 끊임없이 변화하는 시대에서 퍼블릭 또는 프라이빗 클라우드만으로는 충분하지 않다. 기가옴(GigaOm)의 COO 겸 CTO 하워드 홀턴은 효과적인 AI 기반을 구축하려면 많은 비즈니스 리더가 갖추지 못한 인프라에 대한 세밀한 이해가 필요하다고 조언했다.

많은 조직이 기존의 사내 저장소를 클라우드 기반 서비스로 일괄 전환했지만, 이런 단순한 접근법은 변화무쌍한 신기술 수요를 충족하는 데 한계가 있다. 홀턴은 AI 시대에 적합한 데이터 기반은 ‘변화’를 중심에 두고 설계돼야 한다고 강조했다. 특히, 매년 방향이 급변할 수 있다는 점을 전제로 해야 한다고 말했다.

홀턴은 “이 분야는 워낙 변화가 심하고, 시장 속도가 너무 빨라서 확정적인 결정을 내리기 어렵다”라며, “디지털 리더는 자신의 설계가 틀릴 수 있다는 것을 전제로 아키텍처를 구축해야 한다. 보안 아키텍처를 설계하듯이 실패를 염두에 두고, 필요 시 구성 요소를 유연하게 교체할 수 있도록 설계하는 것이 올바른 접근법이다”라고 조언했다.

데이터를 모든 것의 플랫폼으로 만들기

HPE 글로벌 娇色导航롬 코슬라는 유연한 데이터 기반의 중요성을 깊이 인식하고 있는 디지털 리더 중 한 명이다. HPE는 마이크로소프트 코파일럿, SAP, 세일즈포스 등 AI 기능이 내장된 서드파티 애플리케이션을 활용하고 있다. 또 지난 18개월간 사내 프로세스를 위한 생성형 AI 허브 ‘챗HPE(ChatHPE)’를 개발했는데, 이 솔루션은 애저와 오픈AI 기술을 기반으로 한다.

코슬라는 챗HPE의 신규 비즈니스 제안은 모두 평가 절차를 거쳐, 법률 계약 검토, 고객 서비스 개선, 마케팅 자산 재활용, 재무 분석 향상 등과 같은 사용례 파이프라인으로 구축된다고 설명했다. 이 파이프라인은 ‘HPE 프라이빗 클라우드 AI’라는 IT 인프라 상에서 운영되며, 이는 기업용 AI 과제를 위한 풀스택 솔루션이다. 코슬라는 이 플랫폼 덕분에 AI 프로젝트에 필요한 데이터 자원을 효과적이고 안전하게 확장할 수 있다고 강조했다.

코슬라는 “IT 부서는 프라이빗 클라우드 AI 서버를 가장 먼저 받아 공동 배치된 데이터센터에 설치했다”라며, “현재 우리는 특정 내부 AI 사용례가 외부 모델에 의해 학습되거나 추론되지 않기를 원할 경우, 해당 데이터를 데이터센터 내에 안전하게 유지할 수 있는 라우팅 체계를 갖추고 있다”라고 설명했다.

메르세데스-AMG 페트로나스 F1팀의 IT 운영 및 서비스 관리 책임자 스티브 라일리에게도 데이터의 활용 목적을 이해하는 일은 중요하다. 라일리의 팀은 트랙 위 성능 향상을 위해 막대한 양의 정보를 소비하는데, IT 부서에 적합한 데이터 플랫폼은 확장 가능성과 함께 무엇보다 뛰어난 안정성이 필수 요건이다.

라일리는 “우리는 유체 연학 연산을 대규모로 수행하기 때문에, 그 기반이 되는 고성능 스토리지 계층이 매우 중요하다”라며, “성공이란 단지 빠르고 비싸고 최신 기술을 도입하는 것만으로 이뤄지지 않는다. 올바른 장소에 적절한 기술을 배치하는 것이 핵심이다. 투자 위치를 전략적으로 판단하는 것이 우리가 택한 접근 방식이다”라고 설명했다.

라일리는 메르세데스 F1팀의 주요 기술 파트너로 HPE를 통한 데이터 인프라, 팀뷰어를 통한 신기술 활용을 꼽았다. 여기에는 경주 시뮬레이터용 텐서 플랫폼도 포함돼 있다. 이 팀 역시 AI 활용을 시도 중이다. 라일리는 “올바른 플랫폼을 갖추면 조직이 적절한 시점에 데이터 기반의 조치를 취할 수 있다”라고 강조했다.

이어 “우리는 업계 전문 지식을 적용해야 한다. 그래서 자금을 어디에 쓸지 오랫동안 고민할 수밖에 없다”라며, “필요한 곳에 성능을 집중하되, 가장 중요한 건 신뢰성이다. 그래야 팀이 반복 작업에 시간을 낭비하지 않고, 다음 과제를 바라볼 여유를 확보할 수 있다”라고 설명했다.

항공사 버진 애틀랜틱의 데이터 및 AI 부문 부사장 리처드 마스터스 역시 고질적인 문제에 대한 혁신적 해결책을 모색하는 디지털 리더다. 마스터스의 접근 방식에서 핵심은 조직이 활용 중인 데이터브릭스(Databricks) 데이터 플랫폼이다. 이 플랫폼을 활용해 기업 데이터를 통합하고, 새롭게 등장하는 기술과 모델에 어떻게 대응할지를 고민하고 있다.

정보 접근성의 향상이 큰 영향을 미쳤다, 마스터스는 “예전에는 어떤 질문이 생기면 SQL 서버, 포스트그레SQL, 오라클 등 여러 데이터베이스를 번갈아가며 확인하거나, 시스템 관리자에게 연락해 데이터를 다시 모델링해야 했다”라고 밝혔다.

버진 애틀랜틱은 데이터브릭스 플랫폼을 도입해 기업 데이터를 하나의 위치에 저장하고 있다. 마스터스는 “데이터 팀이 이제는 탐색, 이해, 검증에 더 많은 시간을 할애할 수 있게 됐다”라며, 덕분에 다른 부서에서 질문이 들어오면 훨씬 더 빠르게 인사이트를 도출할 수 있다고 강조했다.

마스터스는 “이는 엄청난 성과다. 데이터는 모든 것의 기반이기 때문이다. 이런 역량이 있으면 AI 에이전트 같은 신기술도 더 잘 활용할 수 있다. 무엇보다 데이터에 대한 신뢰를 바탕으로, 불필요한 혼선을 줄일 수 있다”라고 덧붙였다.

혁신 아이디어에 열려 있는 자세

이제 디지털 리더는 체계적으로 정돈된 데이터가 혁신을 실현하는 데 핵심이라는 점을 인식해야 한다. 스노우플레이크 공동 설립자 겸 사장인 브누아 다쥬빌은 “CIO는 기업 데이터를 데이터 기반의 ‘0 계층’으로 간주해야 한다”고 조언했다. 지금 이 기초 작업에 집중하는 CIO가 향후 신기술을 가장 잘 활용할 수 있게 된다고 강조했다.

기가옴의 클라우드 및 데이터 인프라 담당 현장 CTO인 휘트 월터스는 “AI는 우리가 경험한 것 중 가장 빠르게 혁신을 이끄는 기술”이라며, “기존 도구는 클라우드 확산을 유도하던 몇 년 전 시장 환경을 기반으로 설계됐다. 지금은 모두가 따라가기에 급급한 상황이다. 이런 시기에는 모듈형 아키텍처가 필요하다. AI 시대에는 솔루션 업체의 기술 발전이 비대칭적으로 일어나므로, 데이터 플랫폼의 구성 요소가 상호 교체 가능해야 한다”라고 설명했다.

이 같은 접근은 의류 제조업체 해피 삭스(Happy Socks)의 娇色导航비벡 바라드와즈의 전략과도 맞닿아 있다. 해피 삭스는 스노우플레이크 도입 전까지 엑셀에 의존해 보고서를 작성해 왔다. 이 팀은 스노우플레이크를 활용해 새로운 데이터 기반을 구축했으며, 이를 통해 조직 전체가 더 빠르게 인사이트 기반의 의사결정을 내릴 수 있도록 돕고 있다. 현재도 플랫폼 확장을 위해 다양한 신기술을 지속적으로 도입 중이다.

바라드와즈는 “초기에는 스노우플레이크 단독으로 운영했다. 이후 회사가 성장하면서 DBT, 에어바이트, 시그마 등이 포함된 파트너 생태계로 옮겨갔다”고 설명했다. 이어 “프로세스가 성숙해지면서 스트림릿 프레임워크와 코텍스 AI 같은 앱도 도입해 비즈니스 가치를 창출하고 있다”라고 밝혔다.

해피 삭스는 이 데이터 생태계를 통해 새로운 사용례도 탐색하고 있다. 바라드와즈는 잠재 투자 영역으로 예측 분석, 재고 관리, 전자상거래 고객 개인화를 제시했다. 또한 스노우플레이크 코텍스 LLM을 활용해 제품 설명을 생성하고, 직원들이 더 가치 있는 업무에 집중할 수 있도록 하는 방안도 검토 중이다.

바라드와즈는 “궁극적인 목표는 데이터와 AI를 활용해 비즈니스 문제를 대규모로 해결하는 것이다. 내가 강하게 주장하는 방향이자 현재 실질적인 진전을 보이고 있는 영역은 데이터를 비선형적으로 성장시키고자 한다면, 처음부터 셀프서비스가 가능해야 한다는 것이다. 비즈니스 사용자는 IT 부서에 모든 걸 의존하지 않고 스스로 문제를 해결할 수 있어야 한다”라고 설명했다.

다른 CIO에게 전하는 조언은 명확하다. 바라드와즈는 “무엇보다 기초부터 시작하라. 허술한 데이터 인프라 위에 AI를 구축하지 말라. 초기에는 성과를 거둘 수 있을지 몰라도, 결코 지속 가능한 접근법은 아니다”라고 강조했다.
dl-ciokorea@foundryco.com