|
래블업은 신한DS와 ‘GPU 관리 및 API SW 도입 사업’ 계약을 체결하고 컨티넘 스위트를 공급한다고 23일 밝혔다. 래블업은 이번 사업에서 API SW 부문을 맡는다.
금융권에서는 2024년 8월 금융당국의 망분리 규제 완화 로드맵 발표 이후 생성형 AI 도입이 확대되고 있다. AI 활용 범위가 넓어지면서 하나의 모델이 아닌 용도별 여러 LLM과 외부 API를 함께 사용하는 사례도 늘고 있다. 모델이 많아질수록 API 키 발급과 장애 추적, 사용량 및 비용 관리 등 운영 과정도 복잡해진다.
래블업의 컨티넘 스위트는 ‘컨티넘 라우터’와 ‘컨티넘 허브’로 구성된다. 컨티넘 라우터는 여러 AI 모델과 서비스 사이의 요청을 분배하고 클라우드 API와 온프레미스 자원 사이에서 경로를 선택한다. 특정 경로에 장애가 발생하면 다른 경로로 자동 전환해 서비스 중단을 줄이는 방식이다.
컨티넘 허브는 여러 라우터의 토큰 사용량과 정책, 과금 등을 중앙에서 관리한다. 조직과 팀, 사용자별로 API 키를 발급하고 키별 사용량을 집계할 수 있어 여러 모델을 사용하는 기업에서도 운영 상황을 한곳에서 관리할 수 있다.
금융권의 망분리 환경도 고려했다. 실제 AI 요청은 허브가 아닌 라우터에서 직접 처리돼 허브에 장애가 발생해도 서비스를 계속 운영할 수 있도록 했다. 방화벽 내부의 라우터는 인바운드 포트를 열지 않고 라우터에서 시작한 연결을 통해서만 허브와 통신하도록 설계했다.
래블업은 지난해 3월 ‘엔비디아 GTC 2025’에서 컨티넘을 처음 공개하면서 금융과 헬스케어를 주요 시장으로 제시했다. 이후 자사 콘퍼런스와 GTC 2026 등을 통해 라우터와 허브를 순차적으로 공개했고 이번 계약으로 금융권에서 첫 공급처를 확보했다.
래블업은 신규 AI 인프라를 추가로 구축하는 대신 기업이 이미 보유한 컴퓨팅 자원과 외부 API를 효율적으로 운용하려는 수요도 공략한다는 계획이다. AI 투자 이후 실제 활용도와 비용 효율성을 따지는 기업이 늘어나면서 자원 관리 소프트웨어의 수요도 확대될 수 있다는 판단이다.
신정규 래블업 대표는 “모델이 늘수록 관리 지점도 함께 늘어난다”며 “더 많은 기업이 늘어난 관리 지점을 컨티넘으로 한곳에 모아 이 문제를 해결할 수 있도록 하겠다”고 말했다.
신한DS 관계자는 “생성형 AI가 금융 전 업무로 확산되는 만큼 늘어나는 모델과 API를 얼마나 효율적으로 관리하고 그 통제권을 지키느냐가 금융사의 새로운 핵심 역량이 되고 있다”며 “이번 사업을 통해 그룹 전사의 AI 운영 체계를 직접 설계하고 운영하겠다”고 밝혔다.
한편 래블업은 22일부터 23일까지 일반 투자자를 대상으로 공모주 청약을 진행한다. 대표 주관사는 NH투자증권이며 코스닥 상장 예정일은 11월 3일이다.
