CIO? ?? ???? ???? ????? ??? ?? ??? AI? ???? ?????? ???? ????? ??? ??? BI(GenBI)? ??? ? ???. ? ??? ????. 생성형 AI는 2022년 등장한 이후 여러 비즈니스 분야에서 혁신을 불러일으키고 있다. 맥킨지는 생성형 AI가 다양한 운영 기능에 걸쳐 최대 2조 6,000억 달러의 비용 절감 기회를 가져올 수 있다고 내다봤다. 그러나 많은 비즈니스 리더가 보안에 대한 우려로 인해 도입을 주저하고 있다. IBM 조사에 따르면 경영진의 96%가 생성형 AI를 도입하면 향후 3년 이내에 조직에서 보안 침해가 발생할 가능성이 높아질 것으로 보고 있다. 데이터가 일종의 새로운 ‘석유’라면, 이는 정제된 후에만 유용하다. 생성형 AI는 데이터를 더 빠르고 높은 수준으로 정제할 수 있다. 그러나 데이터는 보호돼야 하는 귀중한 자원이기도 하며, 대규모 언어 모델(LLM)은 이런 안전성을 저해할 가능성이 있는 것으로 알려졌다. 비즈니스 리더는 서로 상충되는 2가지 고려 사항의 균형을 어떻게 맞출 수 있을까? 차세대 비즈니스 인텔리전스, 생성형 BI생성형 BI는 생성형 AI와 비즈니스 인텔리전스(BI)를 결합해 이런 딜레마를 해결하는 것을 목표로 한다. 생성형 BI는 과거 셀프서비스 BI(SSBI) 도구가 실현하지 못했던 과제를 이행해 비전문가인 사용자도 BI에 진정으로 접근할 수 있도록 돕는다. 약 10년 전 혁신적이라고 소개됐던 SSBI 솔루션은 데이터 인사이트를 데이터 과학자의 전유물이 아닌 모든 이해관계자가 활용할 수 있는 것으로 만들기 위해 고안됐다. 하지만 사람들은 일반적으로 어떤 그래프와 차트 및 시각화를 요청해야 하는지, 대시보드에 사용할 데이터를 준비하기 위해 초기 데이터를 어떻게 발견해야 하는지 알지 못했다. SSBI 도구가 있어도 데이터 과학자는 여전히 대부분의 바쁜 업무를 처리하고, 데이터 인사이트가 필요한 사용자는 여전히 데이터 과학자가 도착할 때까지 줄을 서서 기다렸다. 이와는 대조적으로, 생성형 BI는 사용자가 자연어로 질문하고 데이터를 보다 자연스럽게 탐색할 수 있게 해준다. 이런 솔루션은 사용자의 요구 사항을 이해하고 데이터에 가장 적합한 공식을 자동으로 선택한다. 또한 많은 SSBI 플랫폼은 정적인 이미지와 단순한 차트만 생성하지만, 생성형 BI는 사용자가 조작하거나 확대/축소하거나, 특정 데이터 하위 집합을 계속 조사할 수 있는 복잡하고 동적인 시각화를 생성할 수 있다. 생성형 BI의 보안 문제구조가 서로 유사한 만큼, 대부분 생성형 BI 솔루션에는 생성형 AI의 보안 문제도 존재한다. 생성형 AI 도구를 구동하는 LLM은 쿼리 또는 학습에 사용되는 데이터를 저장하고 LLM 개선과 같은 자체적인 목적으로 사용되는 경우가 많다. 이로 인해 LLM은 민감한 비즈니스 정보를 노출할 수 있는 위험성이 있다. 시스코 2024 데이터 프라이버시 벤치마크 연구에 따르면 48%의 사람들이 생성형 AI 도구에 회사의 비공개 정보를 입력한 적이 있다고 인정했으며, 실제 비율은 훨씬 더 높을 수 있다. 4분의 1 이상 조직이 프라이버시 및 보안 문제로 인해 생성형 AI 사용을 일시적으로 금지하고 있다. 비즈니스 사용자는 생성형 BI 솔루션이 데이터 보안을 위해 취하는 예방 조치를 걱정할 수 있다. 자사 인프라에서 호스팅되지 않는다면 보안 상태를 확신할 수 없으며, 소비자들은 생성형 AI 도구의 프라이버시와 보안 문제에 대해 불안해하기 때문에 이를 배포했을 때 고객 신뢰가 손상될 수 있다. 이는 편견, 환각, 신뢰할 수 없는 결과에 대한 우려를 불러일으키는 투명성 결여와 함께 발생한다. 개발자들은 이런 문제를 해결하기 위해 어떻게 하고 있을까? 보안 문제를 해결하기 위한 기능을 제공하는 3가지 생성형 BI 솔루션과 그 접근 방식을 살펴본다. 아마존Q 인 퀵사이트(Amazon Q in QuickSight)AWSsms 사용자가 데이터 인사이트를 생성하고 관리하는 데 도움을 주는 생성형 AI 어시스턴트로 아마존Q 인 퀵사이트를 제공하고 있다. 이 솔루션은 자연어 텍스트 프롬프트에 응답해 대시보드와 자동화된 상황별 요약을 구축하고, 이를 통해 데이터를 탐색하는 데 도움을 준다. 아마존Q 인 퀵사이트를 사용하면 모든 사용자가 BI 전문가나 데이터 과학자가 데이터를 업데이트하고 새로운 대시보드를 생성할 때까지 기다릴 필요 없이 대화형 데이터 스토리를 만들 수 있다. 앞서 언급한 보안 문제를 해결하기 위해 아마존Q는 사용자가 설정한 역할, 권한 및 거버넌스 ID를 이해하고 존중할 것을 보장한다고 밝혔다. 플랫폼은 기본 모델을 개선하기 위해 데이터를 사용하지 않을 것을 약속하며, 사용자의 권한 자격 증명을 벗어난 데이터에 액세스하기 위해 아마존Q를 적용하는 것을 허용하지 않고 있다. 피라미드 애널리틱스(Pyramid Analytics)피라미드 애널리틱스는 비즈니스 사용자가 독립적으로 데이터에 액세스하고 탐색할 수 있도록 설계된 생성형 BI 솔루션이다. 사용자는 음성 또는 텍스트 프롬프트와 같은 자연어를 사용해 데이터에 대해 질문할 수 있다. 이 솔루션은 모호한 단어로 된 질문도 로직으로 변환해 쿼리에 적합한 시각화, 차트 및 대시보드를 생성할 수 있다. 모든 응답이 완전히 동적이기 때문에 사용자는 자연어 질문을 사용해 정보의 특정 측면이나 하위 집합을 조사하기 위해 응답을 추가로 조정할 수 있다. 피라미드 애널리틱스는 사용자가 선택한 LLM과 데이터 사이에 보호 계층을 제공해 데이터 프라이버시와 비즈니스 보안을 보호한다. 이 솔루션은 데이터 소스를 스캔해 맥락 정보에 기반한 메타데이터를 생성하고, 이를 쿼리와 함께 LLM으로 전송한다. 그런 다음 보안 플랫폼 내에서 권장되는 만큼만 데이터를 다루므로 LLM은 데이터에 절대 액세스할 수 없다. 피라미드는 애초에 데이터에 액세스할 권한이 없기 때문에 LLM이 데이터를 저장, 유출 혹은 비승인 목적의 사용을 하지 않도록 보장할 수 있다. 태블로용 아인슈타인 코파일럿(Tableau Einstein Copilot)아인슈타인 코파일럿은 태블로 BI 사용자가 자연어 프롬프트를 통해 데이터를 탐색할 수 있도록 지원하는 생성형 AI 어시스턴트다. 코파일럿은 이해관계자와 협력해 데이터를 보다 효과적으로 다룰 수 있도록 돕는다. 사용자는 데이터를 시각화하거나 결과를 해석하는 데 유용한 방법을 조언하도록 요청할 수 있으며, 필요한 인사이트를 얻는 데 도움이 되는 대시보드와 형식을 제공받을 수 있다. 아인슈타인과 태블로의 개발사인 세일즈포스는 LLM이 사용자의 데이터, 사용자의 프롬프트 및 생성된 응답을 기록하거나 저장하지 않을 것을 약속하고 있다. 데이터 원본을 스캔해 맥락 요약을 작성하고 LLM으로 전송하며, 데이터 마스킹을 적용해 민감한 PII를 숨긴다. 피라미드가 구축한 것과 유사한 해결 방법을 사용하면 LLM이 자체 비즈니스 데이터에 액세스할 수 없게 된다. 리스크 없이 생성형 AI 기능 제공하는 생성형 BI비즈니스 데이터에 생성형 AI 도구를 적용하기 전에 신중해야 할 이유는 많다. 강력한 데이터 보안을 유지하고, 모든 직원이 데이터 프라이버시 조치를 준수하도록 하며, 데이터에 액세스할 수 있는 모든 솔루션을 신중히 검토하는 것이 중요하다. 그러나 위의 3가지 생성형 BI 솔루션은 보안 침해의 리스크 없이 생성형 AI의 이점을 누릴 수 있다는 것을 보여준다. 비즈니스 리더는 보안 사고에 대한 두려움 때문에 데이터의 잠재력을 최대한 활용하는 데 주저할 필요가 없다. 올바른 생성형 BI 솔루션은 필요한 모든 사람에게 진정한 셀프서비스 BI 인사이트를 제공해 더 나은 의사 결정과 향상된 비즈니스 전략 수립을 유도할 수 있다. * Yash Mehta는 IoT, M2M 커뮤니케이션, 빅데이터 영역에서 국제적으로 인정받는 전문가이자 저술가다. dl-ciokorea@foundryco.com ???? ???? ??? ??? IT ??? ???? ??? ????! ??? ??? ??? ?????. ????