마이크로칩 11월
This page was machine-translated and may differ from the original. View original

Nota Optimizes AI Agent Full Stack…Work Time Reduced by Up to 47%

Preferred source on GooglePublished2026.11.18 08:53


하네스 제어 기술 적용해 동일 인프라에서 출력 토큰 최대 60% 절감
 
AI 모델 경량화와 GPU 최적화에 집중해온 노타(Nota AI)가 AI 에이전트의 작업 흐름 제어까지 최적화 범위를 확대했다. 기존 인프라를 그대로 유지한 상태에서 코딩 에이전트의 작업 시간을 최대 47%, 출력 토큰을 최대 60% 줄였다는 것이 회사 측 설명이다.
 
노타는 18일 모델 추론·GPU 커널 최적화에 AI 에이전트 실행 제어를 결합한 ‘풀스택 최적화’ 기술을 공개했다.

별도의 장비 증설이나 모델 교체 없이 동일한 컴퓨팅 환경에서 AI 서비스 운영 효율을 높일 수 있다고 밝혔다.
 
하네스 최적화와 디코딩 개선
 
이번 기술의 핵심은 AI 에이전트의 작업 흐름을 관리하는 ‘하네스(Harness)’ 최적화다.

에이전트가 모델을 호출하고 도구를 사용하며 결과를 검증하는 과정에서 응답 길이·파일 수정 이력·도구 실행 결과 등을 실시간으로 분석해 상황에 맞는 추론 강도를 선택하는 방식이다.

이미 통과한 검증이나 불필요한 재검토를 줄여 필요한 단계에 연산 자원을 집중하도록 했다.
 
모델 답변 생성 단계에서는 ‘DFlash2 기반 추측 디코딩’에 반복 문맥 재사용 기술을 적용해 본 모델의 예측 수용률을 높였다.
AD
KMAP 영상제작신청

GPU 커널은 하드웨어 특성에 맞춰 조정하고, 여러 GPU가 빠른 실행 설정을 공유하도록 해 중복 튜닝 부담을 줄였다고 노타는 설명했다.
 
Fast·Ultra Fast 두 모드 성능 평가
 
성능 평가는 엔비디아 ‘RTX PRO 6000’ GPU 4장 환경에서 오픈소스 코딩 에이전트 ‘클라인(Cline)’ 기본 구성을 비교 기준으로 삼아 진행됐다.

△Terminal-Bench 2.1 △SWE-bench Multilingual 두 평가 지표를 활용했다.
 
추론 강도를 조절하는 Fast 모드는 문제 해결률을 유지하면서 작업 시간 최대 32%, 출력 토큰 최대 42%를 줄였다.

반복 검증까지 억제하는 Ultra Fast 모드는 작업 시간 최대 47%, 출력 토큰 최대 60%를 절감했다.

다만 소프트웨어 오류 수정 평가에서는 문제 해결률이 기준치 65.7%에서 62.0%로 낮아져 작업 유형과 최적화 수준에 따라 처리 효율과 해결률에 차이가 나타났다.
 
김태호 노타 최고기술책임자(CTO)는 “AI 에이전트가 실제 업무에 도입될수록 단순 추론 속도보다 하나의 작업을 완료하는 데 드는 시간과 연산 비용이 더 중요해진다”며 “에이전트의 추론·검증 과정까지 최적화해 동일 인프라에서 더 많은 AI 업무를 처리할 수 있도록 기술 범위를 넓히고 있다”고 말했다.

노타는 이번 기술을 기업용 AI 에이전트와 생성형 AI 서비스로 확대 적용하고, 최적화 소프트웨어 라이선스 사업으로 연결한다는 계획이다.
To request a correction, reply or follow-up report on this article, see how to file a request. Previously published statements are collected in corrections & replies.
배종인 기자
배종인 Reporter

Comments