[Hinews 하이뉴스] 클라우드네트웍스가 글로벌 API·AI 연결성 기업 Kong과 파트너십을 체결하고 Kong AI Gateway의 국내 공급을 시작한다고 밝혔다.
Kong AI Gateway는 기업의 AI 트래픽을 단일 관문에서 통합 관리하는 AI 게이트웨이다. 이번 파트너십은 생성형 AI와 LLM 활용이 실제 업무로 확산되면서 AI 호출에 대한 통제와 거버넌스 수요가 커지는 가운데, 국내 기업의 AI 운영 체계 구축을 지원하기 위해 추진됐다.
기업의 AI 도입이 실험 단계에서 서비스 운영 단계로 접어들면서, AI 호출을 어떻게 통제하고 관측할 것인지가 새로운 운영 과제로 떠오르고 있다. LLM 호출도 API 형태로 이뤄지기 때문에 인증, 보안, 모니터링이 가능한 중앙 관문의 필요성이 커지고 있다.
클라우드네트웍스, Kong과 파트너십 체결 <사진=클라우드네트웍스 제공>
Kong은 API 및 AI 연결성 기술을 개발하는 글로벌 기업으로, 오픈소스로 널리 사용되는 Kong Gateway를 기반으로 API 관리 플랫폼을 제공해왔다. 최근에는 API 관리 영역에서 LLM, MCP, 에이전트 간(A2A) 트래픽까지 관리 범위를 넓히고 있으며, Kong AI Gateway가 이 가운데 AI 트래픽 관리를 담당한다.
Kong AI Gateway는 기존 API 게이트웨이 개념을 확장해 LLM과 생성형 AI API 호출을 중앙에서 제어, 보안, 관측할 수 있도록 설계됐다. Kong Gateway와 동일한 런타임을 기반으로 하며, 여러 LLM 공급자의 호출을 단일 표준 인터페이스로 관리한다.
Kong AI Gateway는 인증·인가, 사용량 제한, 감사 로그 등 기존 API 보안 정책을 AI 호출에도 동일하게 적용한다. PII 제거, 프롬프트 통제, 의미 기반 캐싱, 트래픽 관측 등 AI 특화 기능도 게이트웨이 계층에서 제공한다.
최근 기업들의 AI 도입이 확산되면서 모델 성능뿐 아니라 호출 경로 통제, 비용 관리, 감사 체계까지 함께 설계해야 하는 상황이 늘고 있다. 클라우드네트웍스는 Kong AI Gateway의 국내 공급과 함께 고객 환경에 맞는 아키텍처 설계, 구축, 연계, 기술 지원을 제공한다.
정흥균 클라우드네트웍스 대표이사는 "생성형 AI가 실제 업무에 적용되면서 기업은 모델 성능뿐 아니라 AI 호출을 어떻게 통제하고 관측할지 함께 고려해야 하는 상황에 놓여 있다"며 "AI 운영 환경 구축 경험을 바탕으로 Kong AI Gateway를 공급하며 국내 기업의 AI 거버넌스 체계를 지원하겠다"고 말했다.
데이비드 칼리스 Kong 아시아태평양·인도·일본 지역 부사장은 "올해는 금융, 제조, 유통 등 국내 주요 기업을 중심으로 Kong AI Gateway 도입이 본격화되는 시점"이라며 "클라우드네트웍스와의 협력을 통해 기업들이 AI 거버넌스 체계를 구축할 수 있도록 지원하겠다"고 말했다.
