AI 에이전트 운영 비용·속도·메모리 효율 최적화

AI 모델 최적화 기업 노타가 AI 에이전트 운영 인프라 시장에 본격 진출한다. 첫 상용 프로젝트로 AI 컨택센터(AICC) 전문기업 메타엠과 차세대 AI 상담체계 구축에 나선다.

노타는 13일 메타엠과 ‘차세대 AI 상담체계 구축을 위한 공동 개발 계약’을 체결했다고 밝혔다.

이번 프로젝트는 다수의 AI 에이전트를 실제 기업 환경에서 안정적으로 운영하기 위한 AI 운영 인프라 구축 사업이다. 노타는 이를 자사 AI 최적화 기술을 적용한 첫 상용 사례로 설명했다.

양사는 노타의 AI 모델 경량화·최적화 기술과 메타엠의 AI 컨택센터 운영 역량을 결합해 ‘AI 네이티브 멀티 에이전트 상담체계’를 구축할 계획이다.

최근 기업들이 고객 응대와 상담 요약, 품질관리 등 다양한 업무에 AI 에이전트를 도입하면서 운영 비용과 인프라 효율성이 주요 과제로 떠오르고 있다.

노타는 이번 사업에서 공통 AI 엔진과 오케스트레이션, 검색증강생성(RAG) 기반 기술을 개발한다. 또한 자체 AI 모델 경량화 및 최적화 기술을 적용해 연산량과 메모리 사용량을 줄이는 데 집중할 예정이다.

이를 통해 다수의 AI 에이전트가 동시에 작동하는 환경에서도 안정적인 응답 속도와 운영 효율을 확보한다는 계획이다.

구축되는 시스템은 고객 의도 분석과 정보 검색, 응대, 상담 요약, 지식관리, 품질관리 등 상담 업무를 역할별 AI 에이전트가 분담하는 구조다.

메타엠은 20년 이상 컨택센터 운영 경험을 바탕으로 도메인 지식 제공과 AI 에이전트 기능 설계, 구축 및 운영을 담당한다.

노타는 이번 프로젝트를 시작으로 제조, 금융, 공공 부문 등 AI 에이전트 도입이 확대되는 산업으로 적용 범위를 넓힐 계획이라고 밝혔다.

채명수 노타 대표는 “AI 시대에는 모델 성능뿐 아니라 실제 서비스 환경에서 얼마나 안정적이고 비용 효율적으로 운영할 수 있는지가 중요하다”며 “이번 사업은 AI 모델 최적화 기술이 AI 에이전트 운영 인프라 영역으로 확장되는 계기가 될 것”이라고 말했다.