마이크로칩 11월

노타, 금융권 특화 AI 코딩 에이전트용 최적화 LLM·서버 공급

Google 우선 소스기사입력2026.11.16 09:40


두베와 계약 체결·납품 완료, 동일 GPU 환경서 처리량 최대 95% 향상
 
AI 추론 효율화 기업 노타가 금융 IT 기업 두베와 손잡고 금융권 온프레미스 AI 코딩 에이전트 사업에 나선다. 양사는 AI 모델 경량화부터 추론·서빙 환경 최적화, 서버 구성까지 아우르는 통합 공급 계약을 맺었으며, 외부 클라우드 활용이 제한된 금융권 환경에서도 AI 코딩 도구를 운용할 수 있도록 하는 데 초점을 맞췄다.
 
노타(대표 채명수)는 금융 IT 기업 두베(대표 석광진·윤장준)와 금융권 특화 온프레미스 AI 코딩 에이전트 사업을 위한 최적화 LLM 및 서버 공급 계약을 체결하고 납품을 완료했다고 16일 밝혔다.

이번 계약을 통해 노타는 두베의 AI 코딩 에이전트에 맞춰 AI 모델 경량화부터 추론·서빙 환경 최적화, 서버 구성까지 통합 공급한다.
 
동일 GPU 환경서 처리량 최대 95% 향상, 첫 답변 대기시간 절반 이하로 단축
 
노타는 양자화 기술로 LLM의 메모리 요구량을 줄이고, 추론 과정과 서빙 환경을 함께 최적화했다.

한 번의 요청에 수만 토큰의 입력이 포함되는 코딩 에이전트 특성을 고려한 조치다.

최적화 적용 결과, 동일한 GPU 구성에서 분당 처리 요청 수가 약 58~95% 증가했으며, 첫 토큰 생성까지의 대기시간은 절반 이하로 줄었다고 노타 측은 설명했다.
AD
KMAP 영상제작신청

사용자 수가 늘어날 때 추가 GPU 증설 부담을 완화하는 기술적 근거가 될 수 있다는 설명이다.
 
폐쇄망 온프레미스 방식으로 금융권 보안 제약 대응
 
금융권은 소스코드와 내부 업무 정보의 외부 전송을 제한하는 폐쇄망 환경을 사용하는 탓에 클라우드 기반 AI 코딩 도구 도입에 제약이 따른다.

노타와 두베가 함께 제공하는 온프레미스 방식은 고객사 내부 서버에서 LLM을 실행하며, 외부 AI API 호출 없이 AI 기반 개발 업무를 지원한다.

두베의 코딩 에이전트는 개발 요건 분석·정리부터 화면·인터페이스 설계 등 개발 관련 전 업무를 지원하며, 고객사 코딩 규칙과 사내 라이브러리를 반영할 수 있다.
 
채명수 노타 대표는 “제한된 GPU 자원에서 얼마나 많은 요청을 안정적으로 처리할 수 있는지가 실제 도입 비용과 운영 효율을 결정하는 핵심 요소가 되고 있다”며 “금융권처럼 보안과 인프라 운영 제약이 높은 환경에서도 AI 에이전트를 효율적으로 활용할 수 있도록 지원하겠다”고 말했다.

노타는 두베와 함께 금융권을 비롯해 외부 클라우드 활용이 제한된 기업 환경으로 사업 범위를 넓혀갈 계획이다.
본 기사에 대한 정정·반론·추후보도 청구는 보도 청구 안내를, 그간 게재된 보도문은 정정·반론보도 모아보기를 참고해 주세요.
배종인 기자
배종인 기자

댓글