기업 내부 컨텍스트와 AI 도구의 단절 문제
대부분의 AI 도구는 일반적인 지식에는 강하지만, 정작 우리 회사의 내부 문서, 정책, 데이터에 대해서는 아무것도 모른다. 이 간극은 단순히 불편함의 문제가 아니라, AI 도구의 실질적인 업무 활용도를 크게 제한하는 구조적 문제다. 개발자가 사내 API 명세를 물어봐도, 영업팀이 고객 계약 조건을 확인하려 해도, 도구는 엉뚱한 답변을 내놓거나 "모른다"고 한다.
이 문제의 핵심은 기업 내부 컨텍스트를 AI 도구에 안전하게 연결하는 아키텍처가 없다는 데 있다. 단순히 문서를 AI에 붙여넣는 방식은 보안 사고의 원인이 되고, 그렇다고 분리된 채 두면 도구의 가치는 반감된다.
CloudflareOS가 제시하는 보안 워크스페이스 아키텍처
Cloudflare는 이 문제를 해결하기 위해 CloudflareOS를 오픈소스로 공개했다. 이 플랫폼은 모든 직원에게 보안이 적용된 워크스페이스와 AI 도구를 동시에 제공하는 것을 목표로 한다. 핵심은 기업 내부 컨텍스트를 AI 도구와 연결하되, 접근 제어와 보안 정책을 워크스페이스 레벨에서 일관되게 적용한다는 점이다.
백엔드 관점에서 주목할 부분은 이 아키텍처가 단순한 RAG(Retrieval-Augmented Generation) 파이프라인에 그치지 않는다는 것이다. 워크스페이스 단위로 컨텍스트를 격리하고, 도구 호출 시 권한 범위를 제어하는 구조를 갖춘다. 예를 들어 특정 팀의 AI 에이전트는 해당 팀이 접근 가능한 데이터 소스에만 쿼리할 수 있도록 설계된다.
// 내부 컨텍스트 접근 시 권한 범위를 명시적으로 제한하는 예시
WorkspaceContext ctx = WorkspaceContext.builder()
.tenantId(currentUser.getTenantId())
.allowedScopes(currentUser.getRoles())
.build();
ContextualQuery query = new ContextualQuery(userInput, ctx);
String result = aiToolGateway.execute(query); // 스코프 밖 데이터는 자동 차단
백엔드 개발자에게 주는 설계 시사점
이 구조는 백엔드 시스템 설계에 중요한 시사점을 준다. AI 도구를 단순한 외부 API 호출로 취급하면 권한 관리가 어렵고, 내부 데이터 유출 경로가 생긴다. 반면 워크스페이스 컨텍스트를 게이트웨이 레이어에서 일관되게 주입하는 구조를 갖추면, 도구가 무엇이든 보안 정책이 중앙에서 적용된다.
실무에서는 다음과 같은 설계 원칙을 고려할 수 있다.
- 컨텍스트 격리: 테넌트/팀 단위로 접근 가능한 데이터 소스를 명시적으로 정의
- 도구 게이트웨이 패턴: AI 도구 호출을 직접 노출하지 않고 내부 게이트웨이를 통해 권한 검증 후 실행
- 감사 로그 필수화: 어떤 컨텍스트로 어떤 도구가 호출됐는지 추적 가능한 구조 유지
- 오픈소스 기반 채택: CloudflareOS처럼 검증된 오픈소스 아키텍처를 레퍼런스로 활용해 보안 설계 비용 절감
정리
- 기업 AI 도구의 실질적 가치는 내부 컨텍스트와의 안전한 연결 여부에 달려 있다.
- CloudflareOS는 워크스페이스 레벨의 보안 격리와 컨텍스트 주입을 오픈소스로 구현한 레퍼런스 아키텍처다.
- 백엔드 설계 시 AI 도구를 외부 API가 아닌 권한 인식 게이트웨이를 통한 내부 서비스로 취급하는 패턴이 중요해지고 있다.