문의하기

엔터프라이즈급 Agent 게이트웨이

안전한 배포: VPC, 온프레미스 및 망분리 환경

엔터프라이즈급 Agent 게이트웨이

운영 환경 AI Agent를 위한 통합 제어 계층

엔터프라이즈급 Agent 게이트웨이로 AI Agent에 통합 실행, 관측성, 거버넌스 기능을 제공합니다.
문의하기

보안과 대규모 워크플로우를 위한 엔터프라이즈급 Agent 게이트웨이

Agent 통합 관리

통합되고 거버넌스가 적용된 실행 계층에서 모든 AI Agent를 운영하여 중앙 집중식 정책 관리와 통합 제어를 구현합니다.

Agent 관측성

모든 Agent의 동작, 실행 단계, 의사결정 과정을 전방위로 추적하여 전 구간 추적성을 확보합니다.

정책 및 RBAC 권한 제어

역할 기반 접근 제어(RBAC)와 정책 체계로 누가 Agent를 배포, 실행, 수정할 수 있는지 관리합니다.

Agent 작업 실행

자동 재시도, 타임아웃 제어, 통제된 실행 경로를 지원하여 다단계 Agent 워크플로우를 안정적으로 실행합니다.

높은 확장성과 안정성

Agent 워크로드를 자동으로 확장하고, 높은 동시성 상황에서도 안정적이고 예측 가능한 동작을 유지합니다.

프레임워크 독립

모든 Agent 프레임워크 또는 자체 구현 방식과 호환되며 운영 환경에 맞게 최적화되어 있습니다.

중앙 집중식 Agent 레지스트리

통합 엔터프라이즈 Agent Gateway로 AI Agent를 운영하고 거버넌스를 적용합니다.
  • 모든 Agent 워크플로우가 통합 Agent Gateway를 통해 실행되므로 복잡한 로직을 각 업무 시스템에 분산해 내장할 필요가 없습니다.
  • LangChain, CrewAI 및 완전한 자체 구현 Agent를 포함한 프레임워크 독립적인 Agent 아키텍처를 지원합니다.
  • 통합된 라우팅 규칙, 정책 체계, 실행 규범으로 Agent가 대규모 모델과 도구를 호출하는 방식을 표준화합니다.
  • Gateway 계층에서 Agent의 인증, 서비스 계정, 접근 권한을 중앙에서 관리합니다.

Agent 관측성 및 트레이싱

세밀한 관측 기능으로 Agent의 운영 동작을 전방위로 파악합니다.
  • 모든 워크플로우에서 Agent 지연, 오류율, 재시도 현황, 도구 호출 기록을 실시간으로 모니터링합니다.
  • Agent 단계, 모델 호출, 도구 상호작용 전반의 엔드투엔드 실행 트레이스를 수집합니다.
  • Token 소비량과 운영 비용을 특정 Agent, 워크플로우, 팀 또는 환경에 정확하게 귀속합니다.
  • 상세한 실행 로그를 조회하여 장애 원인과 성능 병목을 빠르게 파악합니다.

Agent 할당량, 예산 및 접근 제어

예산을 지키고 거버넌스를 강화하며 자율 Agent로 인한 위험을 줄입니다.
  • Agent, 워크플로우 또는 실행 환경별로 Token 또는 비용 기반 사용 할당량을 설정합니다.
  • 역할 기반 접근 제어(RBAC)를 활용하여 Agent의 배포, 실행, 수정 권한을 제한합니다.
  • 중앙 신원 관리와 정책 규칙으로 서비스 계정과 자율 실행 Agent를 통제합니다.
  • 개발, 테스트, 운영 환경의 Agent 워크로드를 격리하여 명확한 권한 경계를 수립합니다.

고신뢰 Agent 실행, 자동 재시도 및 장애 조치

Agent 워크플로우가 실제 운영 환경에서 안정적으로 동작하도록 보장합니다.
  • 설정 가능한 재시도 정책으로 실패한 Agent 실행 단계를 자동으로 복구합니다.
  • 모델 호출 또는 도구 실행에 대한 장애 조치 경로를 설정합니다.
  • 타임아웃 제어와 안전 보호 메커니즘을 설정하여 Agent가 무한 루프에 빠지거나 장시간 멈추는 것을 방지합니다.
  • 모델 장애, 도구 이상, 트래픽 급증 상황에서도 일관되고 안정적인 실행 동작을 유지합니다.

 

MCP 기반 Agent 도구 실행

네이티브 MCP(Model Context Protocol) 통합으로 Agent 도구 호출에 대한 통합 거버넌스와 보안 관리를 구현합니다.
  • 모든 Agent 도구 호출은 등록된 MCP Server를 통해 일관되게 실행됩니다.
  • Agent를 Slack, GitHub, 데이터베이스, 기업 내부 시스템 등의 도구에 안전하게 연결합니다.
  • 모든 도구 호출에 OAuth2, RBAC, 메타데이터 기반 정책 제어를 적용합니다.
  • Agent가 시작한 모든 도구 작업을 감사하고 기록하여 보안 및 컴플라이언스 요구사항을 충족합니다.

자율 Agent를 위한 보안 가드레일

Agent 워크플로우에 보안, 컴플라이언스, 행동 제약 기능을 제공합니다.
  • 각 Agent가 접근할 수 있는 도구와 기능 범위를 정밀하게 통제합니다.
  • PII 필터링, 민감 작업 제한 등의 보안 정책을 실행합니다.
  • 조직의 컴플라이언스 요구사항에 따라 맞춤형 보안 가드레일 규칙을 설정합니다.
  • Agent의 의사결정 과정과 실행 동작을 완전하게 기록하여 감사 가능한 추적 체인을 형성합니다.

실제 운영 환경의 대규모 AI 애플리케이션을 위해 설계되었습니다

월간 처리량
100억 건 이상의 요청

운영 환경 AI 애플리케이션에 높은 처리량과 확장성을 갖춘 추론 서비스를 제공합니다.

99.99%
서비스 가용성

중앙 집중식 장애 조치, 지능형 라우팅, 보안 가드레일 덕분에 모델 서비스 제공업체에 장애가 발생해도 AI 애플리케이션은 안정적으로 운영됩니다.

평균 절감률
30% AI 비용

지능형 라우팅, 배치 처리, 예산 제어 메커니즘으로 Token 낭비를 크게 줄이고 추론 비용을 최적화합니다.

엔터프라이즈급 Agent 게이트웨이

데이터와 모델은 항상 기업 클라우드 환경 또는 온프레미스 인프라 안에서 안전하게 운영됩니다.
  • 개인 민감정보(PII) 필터링, 유해 콘텐츠 탐지 등 기업 맞춤형 보안 정책을 매끄럽게 통합하고 실행합니다.
  • 기업의 컴플라이언스 요구사항과 보안 기준에 맞춰 AI 게이트웨이 보안 가드레일 규칙을 유연하게 맞춤 설정합니다.
컴플라이언스 및 보안
SOC 2, HIPAA, GDPR 등 국제 표준을 준수하며 완벽한 데이터 보호와 개인정보 보안을 보장합니다.
 
거버넌스 및 접근 제어
싱글 사인온(SSO), 역할 기반 접근 제어(RBAC), 감사 로그를 지원하여 통합 인증과 권한 거버넌스를 구현합니다.
 
엔터프라이즈급 지원 및 안정성
연중무휴 24시간 기술 지원과 SLA 서비스 보장을 제공하여 핵심 업무의 안정적인 운영을 보장합니다.
 

어떤 환경에서든 배포

VPC, 온프레미스 데이터센터, 망분리 환경, 멀티 클라우드 아키텍처 배포를 지원합니다.
데이터는 항상 사용자의 통제 범위 안에 보관되며 기업 경계를 벗어나지 않습니다. 어떤 환경에 배포하더라도 완전한 데이터 주권, 환경 격리 기능, 엔터프라이즈급 컴플라이언스 보장을 누릴 수 있습니다.

자주 묻는 질문

Agent 게이트웨이(Agent Gateway)는 현대적인 Agentic AI(에이전트 AI)를 위한 전용 컨트롤 플레인입니다. 상태 없는 API 요청만 관리하는 기존 게이트웨이와 달리, Agent Gateway는 AI Agent의 실행 컨텍스트와 작업 흐름을 이해합니다. 대규모 언어 모델(LLM), 데이터 소스, 외부 도구를 연결하는 핵심 소프트웨어 계층으로서 Agent의 상호작용 동작과 데이터 흐름을 통제합니다.
Agent 게이트웨이는 엔터프라이즈 Agent 워크플로우를 뒷받침하는 핵심 인프라로, 개별적인 Prompt 호출을 관리·통제·확장 가능한 Agent 자동화 프로세스로 전환합니다.
Agent 게이트웨이는 본질적으로 Agent 시스템을 위해 설계된 지능형 리버스 프록시 계층입니다. Agent가 작업을 시작하거나 도구를 호출하면 게이트웨이가 먼저 요청을 가로채 사전에 정의된 정책에 따라 검증하고 인가합니다. 이후 시스템이 요청을 해당 MCP Server, REST API 또는 기타 백엔드 서비스로 라우팅합니다. MCP(Model Context Protocol) 프로토콜을 통해 Agent 게이트웨이는 Agent와 도구 간의 통신 방식을 통일하여 완전한 Agent Mesh(Agent 서비스 네트워크)를 형성합니다.
이 과정에서 게이트웨이는 다음을 담당합니다.
 
  • 인증
  • 권한 제어
  • 트래픽 관리
  • 요청 라우팅
  • 로그 기록
  • 보안 거버넌스
모든 Agent 호출이 통제 및 감사 가능한 상태에 있도록 보장합니다.
AI 게이트웨이는 주로 대규모 언어 모델(LLM)을 대상으로 Prompt, Token, 모델 추론 요청을 관리합니다. 반면 Agent 게이트웨이는 Agentic AI의 실행 데이터 플레인(Data Plane)입니다.
모델 호출 관리뿐 아니라 다음도 담당합니다.
 
  • Agent와 도구 간의 상호작용
  • 장기 실행 작업 관리
  • 다단계 워크플로우 오케스트레이션
  • 상태 관리
  • 데이터 흐름 제어
AI 게이트웨이가 모델 계층의 통합 진입점이라면, Agent 게이트웨이는 Agent 시스템을 위해 특별히 설계된 Service Mesh(서비스 메시)에 더 가깝습니다. AI 게이트웨이는 상태 없는 추론 요청을 처리하고, Agent 게이트웨이는 복잡하고 지속적으로 실행되는 Agent 워크플로우에 보안, 거버넌스, 오케스트레이션 기능을 제공합니다.
네. Agent 게이트웨이 프로젝트는 Linux Foundation(리눅스 재단) 생태계 프로젝트로, 개방형 거버넌스 모델을 채택하고 있습니다.
주요 오픈소스 Agent 프레임워크와 호환되며, 다음을 포함합니다.
 
  • LangChain
  • CrewAI
  • AutoGen
  • 자체 개발 Agent 프레임워크
따라서 기업은 특정 공급업체나 기술 스택에 종속될 필요가 없습니다. Agent가 어떤 프레임워크로 구현되었든 Agent 게이트웨이를 통해 통합 거버넌스와 오케스트레이션을 적용할 수 있습니다.
Agent 게이트웨이는 전체 Agent Mesh에 심층 관측 기능을 제공합니다. 기존 API 게이트웨이가 인터페이스 트래픽만 모니터링하는 것과 달리, Agent 게이트웨이는 Agent의 의도 실행 과정까지 깊이 추적합니다. 플랫폼은 다음을 제공할 수 있습니다.
 
  • MCP 사용 현황 분석
  • Token 소비 통계
  • 모델 호출 비용 분석
  • 도구 호출 비용 귀속
  • Agent 워크플로우 성능 지표
모든 비용과 리소스 소비는 다음에 귀속할 수 있습니다.
 
  • Agent
  • 워크플로우
  • 팀
  • 사용자
  • 환경
지능형 추적 및 분석 메커니즘으로 기업은 운영 환경에서 흔히 발생하는 “블랙박스 Agent” 문제를 해결하고, 진정으로 관측 및 감사가 가능한 Agent 운영 체계를 구현할 수 있습니다.
물론입니다. Agent 게이트웨이는 Agent 수준에서 다음을 일관되게 실행합니다.
 
  • RBAC 권한 제어
  • 할당량 관리
  • 예산 관리
  • 보안 가드레일
모든 Agent 동작은 다음을 포함해 기록되고 감사됩니다.
 
  • 모델 호출
  • 도구 호출
  • Agent 의사결정 과정
  • 워크플로우 실행 기록
이를 통해 완전한 추적성을 확보하고 기업의 보안 및 컴플라이언스 요구사항을 충족합니다.
네. Agent 게이트웨이는 엔터프라이즈 및 규제가 엄격한 환경을 위해 설계되었습니다. 다음 환경에 배포할 수 있습니다.
 
  • 프라이빗 VPC
  • 온프레미스 데이터센터
  • 하이브리드 클라우드 환경
  • 망분리 환경
또한 기업의 기존 보안 체계 및 컴플라이언스 프로세스와 매끄럽게 통합됩니다. 금융, 의료, 보험, 제조업, 정부기관 등의 산업에 엔터프라이즈급 Agent 플랫폼 구축에 필요한 통합 거버넌스 기능을 제공합니다.
복잡한 아키텍처 요구사항이나 엔터프라이즈급 거버넌스 요건이 있는 팀은 제품 데모를 신청하여 자사 업무 시나리오에 맞는 배포 방안과 거버넌스 정책을 자세히 알아보실 수 있습니다.
해홍 Agent 게이트웨이를 통해 기업은 통합적이고 안전하며 관측 가능한 방식으로 AI Agent를 실험 환경에서 운영 환경으로 빠르게 전환하여 진정한 대규모 Agent 도입을 실현할 수 있습니다.

엔터프라이즈급 AI 게이트웨이 및 지능형 에이전트 배포 플랫폼

문의하기

궁금한 점이 있으신가요?

문의 보내기