Presentation: Architecting AI Systems for the Messy Reality of Enterprises: Why Agentic Compute is the Missing Layer

InfoQ · 2026.08.06

엔터프라이즈 환경에서 에이전트 시스템이 실패하는 이유

대규모 엔터프라이즈 환경에서 AI 에이전트를 도입할 때 가장 먼저 맞닥뜨리는 문제는 기술적 복잡성보다 조직 간 경계(fault line) 다. 각 팀마다 서로 다른 도구를 도입하고, 표준 없이 에이전트를 확장하다 보면 결국 "도구 난립(tool sprawl)" 상태에 빠진다. 도이치텔레콤의 LMOS 플랫폼을 실제로 확장한 경험에서도 이 문제가 반복적으로 나타났다. 단순히 새로운 도구를 계속 추가하는 방식은 장기적으로 기술 부채만 누적시킨다.

이 문제의 본질은 에이전트 시스템이 단일 팀의 프로젝트가 아니라, 여러 조직 경계를 가로지르는 플랫폼이 되어야 한다는 점에 있다. 백엔드 개발자 입장에서 보면, 마이크로서비스 간 API 계약을 관리하는 것과 유사하게 에이전트 간의 인터페이스와 책임 범위를 명확히 정의하는 구조적 접근이 필요하다.

핵심 플랫폼 추상화 계층 설계

도구 난립 문제를 해결하는 핵심 전략은 코어 플랫폼 추상화(core platform abstraction) 로 개별 도구를 대체하는 것이다. 특정 벤더나 프레임워크에 직접 의존하는 대신, 에이전트가 소비하는 인터페이스를 플랫폼 레벨에서 표준화한다. 이 구조를 통해 하위 구현체가 바뀌더라도 에이전트 로직은 영향을 받지 않는다.

에이전트 정의 언어(Agent Definition Language, ADL)는 이 추상화를 언어 수준에서 지원하는 개념이다. 에이전트의 능력(capability), 입출력 스키마, 라우팅 규칙을 선언적으로 표현함으로써 에이전트를 코드가 아닌 명세로 관리할 수 있게 된다. Java 백엔드 개발자에게 친숙한 방식으로 비유하자면, OpenAPI 스펙이 REST API의 계약을 정의하듯 ADL은 에이전트의 계약을 정의한다.

# ADL 개념적 예시
agent: order-status-agent
capabilities:
  - name: getOrderStatus
    input:
      orderId: string
    output:
      status: string
      estimatedDelivery: date
routing:
  fallback: human-escalation-agent

이처럼 에이전트를 선언적으로 정의하면, 플랫폼이 라우팅과 오케스트레이션을 자동으로 처리할 수 있어 개별 서비스 개발팀은 비즈니스 로직에만 집중할 수 있다.

일시적 에이전트(Ephemeral Agent)로 운영 인텔리전스 구현

단순 챗봇 수준을 넘어서려면 일시적 에이전트(ephemeral agent) 개념을 이해할 필요가 있다. 일시적 에이전트는 특정 태스크 수행을 위해 동적으로 생성되고, 완료 후 소멸되는 단기 생명주기 에이전트다. 상태를 장기 보존하지 않기 때문에 확장성이 높고, 실패 시 격리도 용이하다.

// 일시적 에이전트 실행 흐름 개념 예시
AgentContext ctx = AgentContext.create()
    .withCapability("invoice-validation")
    .withTtl(Duration.ofMinutes(5))
    .build();

AgentResult result = agentPlatform.execute(ctx, invoicePayload);
// 실행 완료 후 ctx는 자동 소멸

이 패턴은 운영 인텔리전스 시스템, 즉 단순 응답이 아닌 복잡한 비즈니스 프로세스를 자동화하는 에이전트 워크플로우 를 구성하는 데 적합하다. 대용량 트랜잭션 처리, 이상 탐지, 멀티스텝 승인 프로세스 등 기존 룰 기반 시스템이 감당하기 어려웠던 영역을 커버할 수 있다. 조직 간 기술 부채를 줄이면서도 점진적으로 확장 가능한 구조라는 점에서 실무 적용 가치가 높다.

정리

  • 에이전트 시스템의 핵심 실패 원인은 기술보다 조직 경계를 무시한 도구 난립이며, 플랫폼 추상화 계층으로 해소해야 한다.
  • ADL(에이전트 정의 언어)을 활용한 선언적 에이전트 명세는 팀 간 계약을 명확히 하고 기술 부채를 줄이는 실질적 수단이다.
  • 일시적 에이전트 패턴은 단순 챗봇을 넘어 운영 수준의 비즈니스 자동화를 달성하는 확장 가능한 아키텍처 전략이다.
Source
InfoQ
원문 보기 →
← 목록으로 돌아가기