세계 최대 인공지능(AI) 칩 개발사 엔비디아가 에이전트 기능에 특화한 개방형(오픈소스) AI 모델을 새로 공개했다.

18일 언론들에 따르면 엔비디아는 매개변수(파라미터) 1,200억개 규모의 개방형 모델 ‘네모트론3 슈퍼’를 출시했다. 이 모델은 사람의 개입 없이 스스로 판단하고 도구를 활용해 복잡한 작업을 수행하는 ‘AI 에이전트’를 저비용 고효율로 구동하는 데 최적화했다.

AI 에이전트는 질문에 응답하기만 하는 일반적인 챗봇과 달리 작업 수행을 위해 여러 단계의 추론과 외부 도구 호출 등을 반복하게 된다.

매 단계 데이터와 맥락 정보를 거듭 읽고 처리해내야 하기 때문에 일반 챗봇 대비 데이터 처리량이 최대 15배 많으며, 그만큼 자원과 비용을 많이 소모하게 된다.

네모트론3 슈퍼는 필요에 따라 전체 매개변수 1,200억개 중 최소 120억개만 활용하는 ‘혼합전문가’(MoE) 구조를 적용해 낮은 비용으로 작업을 수행하도록 했다. 또 한 번에 기억할 수 있는 데이터양을 늘려 이전 작업 결과를 매번 읽어와야 하는 비효율을 막고, 에이전트가 맨 처음 지시한 내용을 잊고 엉뚱한 작업을 하는 오류도 줄였다.