AI 에이전트 시스템은 SOA 다!

지금까지의 AI는 사람의 명령을 받아 분석, 예측, 컨텐츠 생성 등 수동적인 단위 과업을 수행했다면, AI 에이전트는 주어진 목적 달성을 위해 계획을 세우고, 문제의 해답을 찾고, 문제 해결을 위해 자율적으로 과업 수행까지 한다. AI에이전트는 대형언어모델(LLM)의 추론 능력과 과업 수행 능력을 결합하여, 다단계의 복잡한 과업을 사람 개입 없이 스스로 수행한다.

AI 에이전트 시스템이 기업 현업에서 장기적으로 품질, 신뢰성과 투자수익성을 보장하도록 개발하려면 서비스 지향 아키텍처(SOA)로 개발해야 한다. OpenAI Agents, Anthropic Compute Framework, AWS Agents, Salesforce Agentforce, LangGraph 등 AI 에이전트 플랫폼들은 AI 에이전트 시스템을 SOA로 개발하도록 지원한다.

SOA는 애플리케이션 아키텍처 스타일의 하나로, 애플리케이션을 느슨하게 결합된 서비스의 조합으로 구성하고, 서비스 간에는 API나 이벤트 기반 메세징 형식의 표준 인터페이스를 통해서만 통신한다. AI 에이전트 시스템의 외부 아키텍처(Outer Architecture)와 내부 아키텍처(Inner Architecture)가 모두 SOA이다.

먼저 외부 아키텍처를 보면, 외부와의 I/O를 위해 UI와 API를 제공하고, 각종 툴(예컨대 ERP, 데이터베이스, 음성/비전 모델 등)의 사용과 과업 수행을 위해 외부 API를 호출하고, 상위의 애플리케이션 또는 비즈니스 프로세스에서 지휘(Orchestration)할 수 있도록 API를 제공한다. 이렇듯, AI 에이전트는 외부와의 상호작용에 있어 서비스 제공자(Service Provider)와 서비스 소비자(Service Consumer) 역할을 둘 다 가지고 있다.

서비스 제공자로서 기업 내 서비스 인벤토리 내의 어느 여타 SOA 서비스나 마찬가지로 거버넌스, 모니터링, 버전관리 등을 해줘야 한다. 한편 AI 에이전트가 소비하는 외부 툴들, 시스템들 및 인프라(예컨대 API 게이트웨이, 서비스 레지스트리, IAM, 모니터링 컴포넌트 등) 및 클라우드 상의 AIaaS(AI as a Service)도 SOA의 원칙을 지켜야 하며, 기업 전체의 SOA 아키텍처 틀 안에서 관리되어야 한다.

다음 내부 아키텍처를 보면, 아래 그림과 같이, 프롬프트 템플릿, 추론 및 계획 엔진인 대형언어모델(LLM), 메모리, 툴 들로 구성된다. AI 에이전트 내에서도 Planner와 Plan을 집행하는 Controller가 지휘자(Orchestrator) 역할을 하며, 추론을 위한 LLM, 과업(Action) 수행을 위한 툴, 쿼리 처리를 위한 내부 데이터 스토어를 접근할 때 API를 통해 호출한다.

에이전트가 기업 내부 데이터를 활용하기 위해 구축하는 Retrieval-Augmented Generation(RAG) 메모리 시스템도 보통 REST API를 노출하는 SOA로 구현한다. 에이전트가 툴을 호출할 때 사용하는 표준 프로토콜인 Model Context Protocol(MCP)는 JSON-RPC라는 API 프로토콜을 쓴다. 에이전트 상호 간의 연결에 사용하는 표준 프로토콜인 Agent2Agent(A2A)는 JSON-RPC, REST, gRPC 등의 API 프로토콜과 Kafka, RabbitMQ 등 Pub/Sub Event Bus를 이용한다. 따라서 AI 에이전트 시스템의 내부를 구성하는 모든 컴포넌트들도 SOA임을 알 수 있다.

그림 1. AI 에이전트의 Inner 아키텍처

맥킨지의 연구 결과에 따르면(McKinsey, Seizing the agentic AI advantage, 6/2025; _____, The agentic organization: Contours of the next paradigm for the AI era, 9/2025; _____, One year of agentic AI: Six lessons from the people doing the work, 9/2025; _____, Agents for growth: Turning AI promise into impact, 11/2025; _____, The state of AI in 2025: Agents, innovation, and transformation, 11/2025), AI 에이전트 시스템이 기업에 실질적인 이익을 창출하려면, AI 에이전트를 내장하는 비즈니스 프로세스(워크플로우)를 새롭게 리엔지니어링(Reengineering: BPR) 해야 한다.

효과적으로 리엔지니어링된 비즈니스 프로세스는 여러 부서가 기업 내부 데이터를 공유하는 End-to-End 프로세스이며, 인간과 AI가 함께 팀을 이루며, AI 에이전트를 직원을 다루듯이 관리한다. 리엔지니어링된 프로세스는 SOA 서비스로 구현된 AI 에이전트들과 기업 내 다른 SOA 서비스들을 통합하여 지휘(Orchestration) 한다.

이러한 에이전트 오케스트레이션(Agentic Orchestration)을 지원하는 오픈 소스 BPMS(Business Process Management Suite)로 Camunda가 있다. (https://camunda.com/solutions/agentic-orchestration/) 프로세스 리엔지니어링을 국제 표준인 BPMN(Business Process Modeling and Notation) 언어로 모델링하고, 이 모델에 AI 에이전트들을 쉽게 연결할 수 있도록 빌트-인 커넥터를 제공한다.

아래 그림에서 보듯이, AI 에이전트들을 Ad Hoc 서브프로세스로 모델링하여, 에이전트의 과업 수행 순서를 미리 정하지 않고 Runtime에 자율적으로 정할 수 있도록 한다. 이 외에 단기 메모리, 장기 메모리, RAG, MCP, A2A, Human-in-the-Loop, 거버넌스, Compliance, Auditability, Monitoring, Versioning 등 AI 에이전트 시스템의 효과적 개발에 필요한 다양한 기능을 제공한다. 이렇듯, Camunda는 SOA 스타일의 프로세스 오케스트레이션을 통해 맥킨지가 강조하는 AI 에이전트 기반의 프로세스 혁신을 지원한다.

그림 2. Camunda의 Agentic Orchestration