娇色导航

캘리포니아 샌디에고 대학의 빈스 켈런 CIO는 챗GPT, DALL-E와 같은 생성 AI 기술의 한계를 잘 알고 있다. 답변이 허위일 수 있고 생성된 이미지가 불완전할 수 있으며, 출력이 편향될 수 있음을 이해한다. 그러나 그는 이를 수용하려는 입장이다. 소속 대학의 직원들이 이미 챗GPT를 사용하고 있다고 그는 전했다.

켈런은 챗GPT로 코드를 생성하는 작업에 대해 “깃허브를 검색하는 검색하는 것과 다르지 않다”라며, “또한 콘텐츠를 생성하는 데에도 이용한다. 편집 작업을 통해 오류와 구성을 찾을 수 있다”라고 말했다. 그에 따르면 이 초기 단계의 기술은 일부 업무 용도에 분명히 도움이 된다. 단 주의해서 진행할 이유도 분명하다. 

적절한 활용처에는 준비 완료
생성형 AI는 코딩, 관리 워크플로우, 데이터 정제, 양식 사전 작성 등의 단순한 사용 사례에 사용할 준비가 되어 있다고 DB AG의 전액 출자 자회사이자 그룹 기업들 전체의 디지털 파트너사인 DB 시스텔(DB SYSTEL GmbH)의 娇色导航겸 제품 책임자 올리버 위트마이어가 평가했다. 

그는 이어 “운송 산업에서도 AI는 수송 조종, 수송 관리에 직간접적 영향을 미칠 수 있다”라고 말했다.

미트라(Mitre Corp.)의 혁신 및 실험 책임자 마이클 센클은 콘텐츠 생성에 관심을 갖고 있다. 그는 “대화를 통한 문맥 요약 및 개선 기능을 이런 대형 언어 모델이 제공한다”라고 말했다. 

현재 그의 팀은 2가지 사용 사례를 고려하고 있다. “첫번째는 고객사 중 한 곳에 우리가 수행한 업무를 요약하는 이메일을 보내고자 한다. 기존 의사소통의 맥락에서 작성하려는 경우에는 놀랍도록 유용하다”라고 그는 말했다.

두번째는 프로젝트 인력 채용이다. 일반적으로 센클은 이력서를 검토하고 스킬 태그를 기준으로 검색하여 프로젝트에 적합한 사람을 찾는다. 생성형 AI가 이를 용이하게 할 수 있다고 그는 기대한다. 

“예를 들어, ‘(후보자인) 마이클이 이 프로젝트에 할 수 있는 일은 무엇인가?’라고 묻는다면 이력서를 살펴볼 필요없이 그가 할 수 있는 일에 대한 요약을 받아볼 수 있다”라고 센클은 전했다.

중고차 소매기업 카맥스(CarMax)은 이미 지난 1년 동안 생성형 AI를 활용해왔다. 오픈AI(OpenAI)의 API를 활용하여 고객 리뷰 텍스트를 관리가 용이하고 가독성이 뛰어난 요약본으로 통합했다. 

娇色导航샤밈 모하메드는 해당 기술을 다른 영역에서도 확대하여 사용했다고 말했다. 고객 경험을 개선하기 위해 차량 이미징(Imaging)에 주목했던 것이다. 회사 인벤토리에 존재하는 5만~6만 대의 차량의 이미지를 최적화함으로써 진실성을 유지한 채로 상품 가치를 높였다. 

“우리 데이터 사이언티스트들은 바닥이 더러운 차량의 내부 사진을 깨끗한 내부를 보여주는 이미지로 대체하는 ‘디지털 스위퍼(Sweeper)’ 모델을 개발했다. 같은 차량이지만 보기에 더 좋으며 고객에게 더 나은 경험을 제공한다”라고 말했다.

마찬가지로 나이키(Nike)는 생성형 AI를 활용하여 제품 프로토타입 이미지를 생성했다고 포레스터의 분석가 로완 큐란이 말했다. 그는 “텍스트-3D 모델러를 사용하고 3D 공간에서 테스트하며 실제로 어떤 모습일지에 대해 훨씬 생생한 느낌을 받을 수 있다. 이 모든 것들이 큰 노력 없이 가능하다”라고 말했다.

잠재력이 큰 DYDEH
코드 개발과 고객 경험 개선은 기업들이 현재 생성형 AI를 활용할 수 있는 주된 영역이며, 효율성 이득 측면에서 잠재력이 크다고 전문가들은 입을 모은다.

TSFCU(TruStone Financial Credit Union)의 EVP 겸 娇色导航개리 제터는 회사의 개발자들이 깃허브(GitHub)의 오픈AI의 코덱스(Codex)를 도입했으며, 코딩을 위해 생성형 AI를 사용하는 것이 효과가 있었다고 말했다. 

센클 또한 프로그래밍 언어가 더욱 구조화되어 있기 때문에 생성형 AI 모델이 인간 언어보다 코딩에 더욱 적합하다고 덧붙였다. 

카맥스에서도 깃허브의 코파일럿(Copilot)을 활용하고 있다며, 경우에 따라 코드의 최대 40%를 생성한다. 모하메드는 “빠르게 진화하고 있다. 하지만 소프트웨어 개발에 사용하는 경우 저작권 위반, 가짜 콘텐츠, 내장된 맬웨어 등이 없어야 한다. 감독 없이 해당 코드를 적용해서는 안 된다”라고 말했다.

기업 분야에 준비된 다른 영역으로는 마케팅 카피, 이미지, 디자인 생성 및 기존 데이터에 대한 더 나은 요약 생성하기 등이 있다고 큐란이 말했다. 그는 “어떤 사람들은 이런 대형 언어 모델을 비구조화 데이터를 정리하는 수단으로 활용하고 있다”라고 말했다. 실제로 내년에는 생성형 AI 기능이 업무지원센터 소프트웨어부터 마이크로소프트 오피스 애플리케이션와 같은 일부 기업용 소프트웨어에서 나타날 것으로 기대되고 있다.

신뢰하지 말고 검증하라
하지만 해당 기술을 배치하는 CIO는 생성된 결과물에 대한 잠재적인 지적재산 문제를 인지해야 한다고 카맥스의 모하메드가 경고했다. 인터넷에서 얻은 데이터로 훈련하는 DALL-E 등의 생성형 모델은 저작권이 있는 콘텐츠를 위반할 수 있는 콘텐츠를 생성한 바 있다. 게티 이미지스(Getty Images)가 최근 AI 기반 예술작품 생성 도구 스테이블 디퓨전(Stable Diffusion) 때문에 스태빌리티 AI(Stability AI)를 고소한 상태다.

즉 인간의 감독이 필요하다. 센클은 “챗GPT 등의 시스템은 자신이 무엇을 쓰고 있는지 모르며, 정확하지 않은 내용이 그럴 듯하게 말하는데 뛰어나다”라고 말했다. 어떻게 답변하게 되었는지를 알려주는 출처 또는 참조 정보인 AI 신뢰성 및 작성된 방식에 대해 설명하는 AI 설명가능성은 없다. 

그는 “기준이 무엇인지 또는 훈련 세트의 어떤 부분이 모델에 영향을 미치는지 모른다. 기존의 데이터 세트에 기초한 순수한 분석을 얻게 되기 때문에 편향뿐 아니라 사실에 기초한 오류가 발생할 수 있다”라고 말했다.

위트마이어는 이 기술에 대해 낙관적이지만 아직은 초기 단계인 기술을 고객 대응용으로 사용하기에는 무리가 있다는 입장이다. 사무 환경, 고객센터 챗봇, 업무지원센터 기능, 문서화 등에 단기적인 잠재력이 있다고 말했지만 운송 비즈니스의 안전 관련 영역에서는 적용할 수 없다고 지적했다. 그는 “이런 민감한 영역에 생성형 AI를 포함시킬 수 있으려면 배우고 개선할 것이 여전히 많다”라고 말했다.

제터의 우려사항도 유사하다. 그의 팀이 챗GPT를 사용하여 30분 안에 코드 픽스를 확인하고 웹 사이트에 배치했다. ‘챗GPT가 없었다면 훨씬 오래 걸렸을 것’이고 계약서의 조건의 초안을 작성하는 데 유용했다. 그러나 완벽하지는 않았다. 그는 “우리는 외부 구성원들에게 생성형 AI를 노출시키지 않을 것이다. 다른 기업보다 앞장서 도입하려고 하지도 않을 것”이라고 말했다.

또 회사의 구성원들의 이 기술을 적극적으로 사용하기 시작한다면 구성원들과 브랜드를 보호하기 위해 인간과 자동화된 검토를 통해 대화를 모니터링할 것이라고 그는 덧붙였다.

현재, 성공적인 배치의 핵심은 생성된 콘텐츠의 정확도와 준법감시를 인간이 검토하는 것이라고 UCSD의 켈런이 말했다. 그는 “기계가 올바른 결정을 내리도록 하는 것이 중요해졌다. 조직들이 의료 진단 등 위험이 높은 곳에 [이것을 사용할] 때까지는 어느 정도 시간이 필요할 것이다”라고 말했다.

켈런은 이어 “하지만 생성형 AI는 인간의 감독 하에서 리뷰 요약 등을 생성하는 데 문제가 없다. 속도가 조금 느려지지만 이것이 옳은 방법이다. 품질을 확보하기 위한 자동화된 방법을 찾을 것이다. 하지만 현재로서는 생성된 콘텐츠가 정확한지 확인하는 검토 프로세스가 있어야 한다”라고 말했다.

정확도 외에 잘 문서화된 또 다른 위험은 훈련에 사용된 데이터로부터 유입된 모델의 편향 가능성이다. 챗GPT처럼 생성형 AI가 인터넷에서 얻은 콘텐츠를 사용할 때 특히 문제가 된다. 단 잠재적인 편향을 검토할 수 있는 자체적인 기업 데이터로 모델을 훈련시키는 경우 문제가 되지 않을 수 있다고 켈런이 말했다. 

직무 책임과 역할의 변화
한편 모하메드는 다른 기술과 달리 생성형 AI가 가지는 특징이 있다고 진단했다. 그는 “우리가 하기 싫은 일을 담당하고 우리에게 더 많은 지식을 제공할 것이기 때문에 흥미진진하다. 인간이 강화될 것이다”라고 말했다.

하지만 큐란은 생성형 AI가 단기적으로 어떤 역할을 완전히 대체하지는 않을 것으로 봤다. 그는 “콘텐츠 개발, 제품 정보 관리, 소프트웨어 개발 등의 역할을 수행하기 위해 필요한 사람의 수가 감소할 수 있다. 하지만 여전히 인간의 개입이 필요할 것이다”라고 말했다. 

시작 단계
이제 생성형 AI 기술 도입 속도를 높이고 실험을 시작할 때라고 켈런이 말했다. 그는 “이 기술을 제품에 통합하고 있는 벤더들로 인해 혼란스러운 상황이 발생할 수 있다. CIO는 미리 이 퍼즐을 풀기 시작해야 한다. 내년에도 미룬다면 뒤처지게 될 것이다”라고 말했다.

이 기술이 단순히 하나의 애플리케이션이 아니라는 사실을 이해하기 위해서는 교육을 받고 챗GPT에 대한 공공 토론보다 더욱 심층적인 수준으로 들어가야 한다고 큐란이 말했다. 그리고 생성형 AI가 기존 프로세스의 효율성 또는 품질을 높일 수 있는 사용 사례를 고려하기 시작하라는 주문이다. 마지막으로 어떤 유형의 역량이 필요하며 이를 제공업체로부터 획득하거나 스스로 구축해야 하는지 여부를 자문하라고 그는 권했다.

여기에서는 기술을 테스트하고 잠재적인 사용 사례를 고려하는 것이 중요하다. 센클은 “구조화 또는 비구조화 데이터를 사용하는 많은 시스템에 자연어 및 대화형 인터페이스 구성요소가 어느 정도는 포함되어 있을 것이다. 보유하고 있는 데이터와 이 기술로 어떤 부분을 강화할 수 있는지 생각해보라”라고 말했다. 실제로 제터는 이를 활용할 수 있는 방법을 입증하기 위해 조건 템플릿을 생성하여 준법감시 부서로 보냈다고 말했다.

생성형 AI 모델은 크고, 초기 훈련시키는 데 비용이 많이 발생하기 때문에 처음에는 클라우드 서비스를 이용하는 것이 가장 좋은 방법이라고 큐란이 말했다. 예를 들어, 카맥스는 마이크로소프트의 애저 오픈AI 서비스와 GPT 3.5를 사용하고 있다. 

모하메드는 “우리가 활용하는 데이터는 자체적인 것이다. 엄청난 양의 데이터를 클라우드에서 신속하게 처리할 수 있다. 시도해볼 이유가 충분하다”라고 말했다. dl-ciokorea@foundryco.com