娇色导航

전자상거래, 클라우드 컴퓨팅, 온라인 광고, 디지털 스트리밍, AI 분야의 거대 기업인 아마존은 이번 인수를 통해 가장 중요한 AI 분야에서 마이크로소프트, 구글, 메타와 같은 기업과의 경쟁에서 앞서고자 한다. 사실 어뎁트는 아마존에 인수되기 전 마이크로소프트 및 메타와의 인수 협상도 진행한 바 있다. 

어뎁트는 일각에서 AI 기술의 차세대 도약이라고 주장하는 AI ‘에이전틱 AI(agentic AI)’를 개발하는 업체다. 그렇다면 에이전틱 AI란 무엇일까? LLM 기반 챗봇과 비교하면 쉽게 이해할 수 있다. 

에이전틱 AI와 LLM 챗봇의 차이점

챗GPT와 같은 LLM 기반 챗봇은 이제 익숙하다. 특정 프롬프트에 응답해 요청된 내용을 문자 그대로 전달한다. 에이전틱 AI 시스템은 동일한 종류의 LLM을 기반으로 하지만, 자율적인 목표 설정, 추론, 동적 계획을 통합해 한 단계 더 발전했다. 또한 애플리케이션, 시스템, 플랫폼과 통합되도록 설계됐다. 
LLM 챗봇은 방대한 양의 데이터를 참조한다. 이를 실시간 웹 검색과 결합하는 퍼플렉시티 AI(Perplexity AI) 같은 하이브리드 시스템도 있다. 반면 에이전트 시스템은 목적 달성을 위해 변화하는 상황과 맥락을 더욱 밀접하게 통합해 작업의 우선순위를 재조정하고, 목적 달성을 위해 방법을 변경한다. 

LLM 챗봇은 실제 의사 결정을 내릴 수 없지만, 에이전트 시스템은 고급 상황 추론과 의사 결정이 특징이다. 에이전트 시스템은 의도를 계획하고 ‘이해’할 수 있으며, 훨씬 더 다양한 서드파티 시스템 및 플랫폼에 통합할 수 있다. 

응용 분야 1 : 개인 비서에이전틱 AI의 한 가지 분명한 용도는 개인 비서다. 이런 도구는 자연어 요청에 따라 미팅을 예약하고 캘린더를 관리하며, 다른 사람과 본인의 참석 가능 여부에 따라 시간을 변경하고, 미팅에 대한 알림을 보낼 수 있다. 또한 필요한 데이터를 수집하고, 안건을 만들고, 메모를 작성하고, 실행 항목을 할당하고, 후속 알림을 보내는 등 회의에서도 유용하게 사용할 수 있다. 이론적으로 이런 모든 작업은 모호하지만 평이한 하나의 요청으로 시작할 수 있다. 

에이전틱 AI는 사용자를 대신해 이메일을 읽고, 분류하고, 답장할 이메일과 답장하지 않고 남겨둘 이메일을 결정할 수 있다. 또한 에이전틱 AI 비서에게 문서 양식을 작성하거나 서비스에 가입하고, 요청된 정보를 입력하며 결제까지 처리하도록 지시할 수도 있다. 사용자 대신 웹 서핑을 통해 정보를 수집하고 보고서를 작성하는 것도 가능하다. 이론적으로는 그렇다.

오늘날의 LLM 챗봇과 마찬가지로 에이전틱 AI 비서는 멀티모달 입력을 지원한다. 즉, 안경의 카메라와 마이크를 통해 수집한 오디오뿐 아니라 텍스트, 비디오 입력과 함께 구두로도 지시를 받을 수 있다. 

응용 분야 2 : 고객 서비스또 다른 응용 분야는 고객 서비스다. 오늘날의 IVR(Interactive Voice Response) 시스템은 복잡한 의사 결정 트리 탐색을 고객에게 맡기고 기업이 고객과의 인터페이스를 위해 인력을 고용할 필요가 없다는 점에서 좋은 아이디어처럼 보인다. 하지만 실제로는 다르다. 

에이전틱 AI는 자동화된 고객 서비스의 혁신을 약속한다. 전화로 문의하는 고객의 목소리뿐 아니라 고객의 문제와 목적까지 이해한 후에, 다음 작업을 수행해 해결책을 찾아내는 것처럼 작동할 수 있어야 한다. 이론적으로는 영업 리드를 검증하고, 영업 전화를 위한 초기 아웃리치를 수행하고, 은행에서 사기 탐지 및 대출 신청 처리를 자동화하고, 입사 지원자를 자율적으로 선별하고, 초기 면접 및 기타 작업을 수행하는 등 하위 직원이 할 수 있는 모든 종류의 일을 수행할 수 있다. 

에이전틱 AI는 공급망 및 유통망 최적화, 재고 관리, 배송 경로 최적화, 운영 비용 절감 등 매우 큰 규모의 목표도 달성할 수 있어야 한다. 

에이전틱 AI의 리스크기본부터 시작해 보자. 사이트, 플랫폼, 네트워크 전반에 통합돼 사람이 만든 지시에 따라 사람의 일정 감독하에 ‘창의적’이고 자율적으로 작동할 수 있는 AI라는 개념에는 분명 문제가 있다. 

예를 들어, 영업 담당자가 연락하기 어려운 잠재 고객과 미팅을 잡으라고 에이전틱 AI에 지시한다고 가정해 보자. AI는 목적를 이해할 수 있고 실제 사람이 어떻게 일을 처리하는지에 대한 방대한 정보를 가지고 있지만, 도덕적 나침반도 없고 윤리적으로 행동해야 할 명시적인 지침도 없다. 

악의적이든 악의적이지 않든 현실 세계에서 실제 사람의 행동을 기반으로 에이전틱 AI가 해당 고객에게 도달하는 한 가지 방법을 소개한다. 이메일을 보내 고객이 맬웨어를 클릭하도록 속여 고객의 시스템에서 트로이 목마를 열고, 고객의 모든 데이터를 유출하고, 해당 데이터를 사용해 특정 시간에 고객이 어디 있는지 알아낸다. 그런 다음 해당 위치로 전화를 걸어 긴급 상황이 발생했다고 말한다. 그렇게 고객이 전화를 받으면, AI가 미팅을 잡으려고 시도한다. 

극단적이라고 생각할 수 있지만, 코드화되거나 윤리의식이 없는 에이전틱 AI가 잘못될 수 있는 대표적인 예다. 문제가 발생할 수 있는 방법은 무궁무진하다. 에이전틱 AI는 매우 강력하고 능력이 뛰어나기 때문에 가이드라인, 안전 조치, 잘 훈련된 사람의 지속적인 감독 등을 포함해 AI 거버넌스 프레임워크의 개발과 유지에 많은 노력을 기울이지 않으면 결코 해피 엔딩이 될 수 없다. 

챗GPT를 필두로 한 LLM의 등장으로 AI가 사람의 일자리를 빼앗을 수 있다는 우려가 있었는데, 에이전틱 AI는 실제로 이를 실현할 수 있는 기술이다. 수백만 명의 사람이 해고되고 에이전틱 AI로 대체될 수 있다. 에이전틱 AI에 대한 최상의 시나리오는 사람이 에이전틱 AI 기술을 활용해 작업 효율을 높이고 오류를 줄이는 것이다. 

윤리적 고려 사항을 전적으로 실리콘 밸리의 기술자, 투자자, AI 기술자에게만 맡겨둔다면 에이전틱 AI가 인류에 과연 도움이 될까? 필자는 의문스럽다. AI, 윤리, 법률, 학계, 특정 산업 분야의 전문 지식을 결합해 에이전틱 AI 시대로 조심스럽게 나아가야 한다.

에이전틱 AI의 가능성에 대한 설렘과 부정적인 영향에 대한 두려움을 동시에 느끼는 것은 당연하다. 한 가지 확실한 것은 이 새로운 기술에 주목해야 할 때임은 분명하다. 아마존과 같은 거대 기업이 에이전틱 AI를 선도하기 위해 움직이고 있다. ciokr@idg.co.kr