娇色导航

에이전틱 AI는 아직 초기 단계이지만, 많은 기업이 AI 에이전트를 빠르게 도입하고 있다. 여기에는 두 기술의 차이에 대한 혼란이 발생하고 있다.

많은 사람이 ‘에이전틱 AI’와 ‘AI 에이전트’라는 용어를 같은 의미로 사용해왔지만, 이 둘이 별개의 기술이자 상호 연관된 도구라는 인식이 점차 확산되고 있다. 전문가들은 CIO가 적합한 기술을 올바른 목적에 맞게 사용하기 위해서는 이 둘의 차이를 이해해야 한다고 강조한다.

AI 실무자들은 이 두 기술을 다음과 같이 정의한다.

“AI 에이전트는 기업의 IT 시스템 내에서 특정 기능을 수행하도록 지정된 도구로, 예측 가능한 결과를 목표로 한다. AI 에이전트는 범위가 좁고 일반적으로 새로운 정보를 학습하는 능력이 제한적이다. 반면, 초기 단계에 있는 에이전틱 AI는 여러 에이전트와 AI 도구를 활용해 스스로 목표를 설정하고, 학습하며, 작업 전반에 걸쳐 추론할 수 있는 완전 자율 시스템을 구성하는 상위 개념 기술이다.”

모바일 보안 업체 아이베리파이(iVerify)의 머신러닝 책임자 누마 다마니는 일부 기업이 에이전틱 AI의 초기 프로토타입을 도입하고 있지만, 진정한 자율 시스템은 장기적이고 지속적인 메모리와 아직 구현되지 않은 여러 기능이 필요하다고 지적했다.

다마니는 “에이전틱 AI는 스스로 목표를 설정하거나 우선순위를 재조정할 수 있으며, 다양한 도메인에 걸쳐 동적으로 추론할 수 있는 능력을 갖고 있다”라고 설명햇다. 또 “자기 성찰이나 개선 루프와 같은 작업을 수행할 수 있으며, 어떤 작업을 수행할지, 작업 순서를 어떻게 구성할지 스스로 결정하는 기능도 생겨나고 있다”라고 덧붙였다.

소프트웨어 거버넌스 서비스 업체 모델옵(ModelOp)의 CTO 짐 올슨은 AI 에이전트는 개별 플레이어 또는 직원으로, 에이전틱 AI는 팀 전체로 이해하면 된다고 설명했다. 올슨은 “각 팀원이 특정 능력이나 도구, 전문성을 갖고 하나의 과업을 수행하는 반면, 에이전틱 AI는 이들이 한데 모여 문제를 해결하는 팀 전체를 의미한다”고 말했다.

이메일 마케팅 플랫폼 업체 콘스턴트 컨택트(Constant Contact)의 AI 디렉터 루이스 구티에레즈 역시 같은 비유를 들었다. 구티에레즈는 “에이전틱 AI는 오케스트레이션 계층에 가깝다”라며, “여러 에이전트를 감독하고 조정해 더 넓은 목표를 해결하도록 설계된 시스템이다. AI 에이전트가 개별 선수라면, 에이전틱 시스템은 감독, 팀, 작전 전술이 모두 결합된 구조”라고 설명했다.

솔루션 업체의 혼선 유발

에이전틱 AI와 AI 에이전트의 차이는 단순한 용어 문제처럼 들릴 수 있지만, 아이베리파이의 다마니는 이 구분이 CIO에게 매우 중요하다고 강조했다. 두 기술 모두 현재 과도한 주목을 받고 있기 때문이다. 일부 솔루션 업체는 자사의 기술을 AI 에이전트 또는 에이전틱 AI로 소개하지만, 실제로는 그렇지 않은 경우도 많다.

다마니는 “실제로는 단순한 챗봇에 불과한 것을 에이전트처럼 포장해서 비싸게 파는 경우가 많다”고 경고했다. 특히, 에이전틱 AI를 판매하는 솔루션 업체를 주의해야 하는데, 아직 이 기술은 초기 단계이기 때문이다. 최근 MCP(Model Context Protocol)를 비롯해 에이전트를 연결하는 프로토콜이 공개되면서 완전 자율형 에이전트 시스템 개발은 진전을 보이고 있지만, 공유 메모리나 도구 오케스트레이션 같은 필요 기능을 아직 갖추지 못했다는 것이 다마니의 지적이다.

일부 솔루션 업체는 과한 약속을 하지만 그에 부응하지 않는 결과를 제공하지 못하며, 예측할 수 없는 동작을 하는 시스템을 판매한다. 다마니는 “에이전틱 AI라고 홍보하는 많은 제품이 실제로는 문서를 검색하거나 계산기를 호출하는 단순한 RAG 기반 챗봇에 불과하다”라고 덧붙였다.

콘스턴트 컨택트의 구티에레즈는 AI 공급업체가 기술 작동 방식을 설명하지 못하면, 그 자체로 경고 신호라고 말한다. 쿠티에레즈는 “진짜 에이전틱 시스템인지, 아니면 단순한 워크플로우 에이전트를 기술 용어로 포장한 것인지 명확히 구분할 필요가 있다”라며, “이 분야의 가장 큰 위험은 혼선이다. 일부러 혼란을 주려는 것은 아닐지 모르지만, 실제 기능보다 과장해 판매하는 경우가 많다”라고 지적했다.

다마니는 AI 에이전트와 에이전틱 AI가 어떻게 작동하는지 충분히 이해하지 못하면, CIO와 IT 리더가 관련 리스크나 필요한 관리 수준을 간과할 수 있다고 경고했다. 또, “이제 AI가 도구를 호출하거나 작업을 실행하기 시작하면 폭발 반경이 커진다. 문제가 될만한 것은 문제를 일으킬 것이다”라며, “감시하고, 감사를 수행해야 한다”라고 강조했다.

위험도 동반하는 자율 AI

모델옵(ModelOp)의 짐 올슨은 에이전틱 AI가 부상함에 따라 CIO가 가장 먼저 해야 할 질문은 과연 조직 내 IT 시스템에서 자율적으로 작동하는 AI를 정말로 원하는지 여부라고 말했다.

올슨은 “진정한 에이전틱 AI는 과업을 수행하는 가장 효율적인 방식을 스스로 판단할 수 있도록 일정 수준의 자율성을 부여해야 한다”라고 설명했다. 하지만, 한편으로는 “최종 검토는 반드시 필요하다. 상황이 엉뚱하게 흘러갈 수 있기 때문이다. 완전한 자율성이 비즈니스에 큰 위험이 될 수 있는 상황에서 과연 그 정도까지 자율화가 필요한가?”라고 반문했다.

MCP나 다른 프로토콜을 이용해 에이전트끼리 연결하면 데이터 유출 위험도 커진다. 올슨은 “에이전트 간 통신을 진정으로 구현하고 싶다면, 그 경로를 통해 어떤 데이터가 유출될 수 있을지를 반드시 고려해야 한다”라고 강조했다. “어떤 도구는 고객 데이터베이스에만 접근할 수 있도록 설정되어 있고, 그 안에 개인식별정보가 포함돼 있는데, 이 에이전트가 그 데이터를 슬랙에 접근 가능한 다른 에이전트에 전달해서 공용 슬랙 채널에 그 번호를 게시할 수도 있다”는 것이 올슨의 설명이다.

두 기술은 빠르게 진화하고 있으며, 더 똑똑하고 신뢰할 수 있는 도구로 발전할 것으로 보인다. 올슨은 “앞으로는 특정 작업에 특화된 SLM으로 학습된 진정한 전문가형 에이전트가 등장할 것이다. 예를 들어 소프트웨어 개발자, 애자일 전문가, 제품 매니저처럼 각자의 전문성을 갖춘 사람을 팀으로 구성하듯, 특화된 에이전트를 구축하게 될 것”이라고 말했다. 이어 “이런 방식으로 특정 작업을 매우 잘 수행하는 전문 에이전트로 구성된 팀을 만들 수 있을 것”이라고 덧붙였다.

아이베리파이의 누마 다마니는 미래가 유망하다고 하더라도, CIO와 IT 리더는 AI 에이전트나 에이전틱 AI를 도입하기 전에 반드시 철저한 준비가 필요하다고 조언했다. AI가 어떻게 감독받을 것인지 이해하고, AI 에이전트나 에이전틱 AI가 사용할 수 있도록 데이터가 충분히 정제되었는지 확인해야 한다는 설명이다.

다마니는 “처음에는 매우 제한적이고 위험도가 낮은 사용례로 시작하라. 에이전트를 읽기 전용 또는 제안 모드로 한정하고, 모든 성능 기준을 충족했을 때 점진적으로 자율성을 확대하는 것이 바람직하다”라고 말했다.
dl-ciokorea@foundryco.com