인공지능의 다음 영역으로 지목되는 것은 ‘에이전틱 AI’이다. 정교한 추론과 반복적인 계획을 사용해 복잡한 다단계 문제를 자율적으로 해결할 수 있다. 이는 산업 전반의 생산성과 운영을 향상시킬 것으로 기대된다.

엔비디아가 기업들의 에이전틱 AI(Agentic AI) 구축을 위해 각종 도구와 소프트웨어를 제공하고 있다고 31일 밝혔다.

에이전틱 AI 시스템은 여러 출처로부터 방대한 양의 데이터를 수집해 독립적으로 문제를 분석하고 전략을 개발한다. 또한, 공급망 최적화, 사이버 보안 취약성 분석, 의사들의 시간 소모적인 업무를 돕는 작업 등을 수행한다.

■ 에이전틱 AI 작동 프로세스

에이전틱 AI는 문제 해결을 위해 △인식 △추론 △행동 △학습 4단계 프로세스를 사용한다.

AI 에이전트는 센서, 데이터베이스, 디지털 인터페이스 등 다양한 출처에서 데이터를 수집하고 처리한다. 인식 프로세스는 △특징 추출 △객체 인식 △환경 내 관련 개체 식별 등의 작업이 포함된다.

이후 거대 언어 모델(Large Language Model, LLM)은 작업을 이해하고 솔루션을 생성하며, △콘텐츠 제작 △비전 처리 △추천 시스템 등 특정 기능을 위한 전문 모델을 조율하는 역할을 하는 추론 엔진의 역할을 담당한다. 추론 단계에서는 검색 증강 생성(retrieval-augmented generation, RAG)과 같은 기술을 사용해 독점 데이터 소스에 접근하고 정확하고 관련성 있는 출력을 제공한다.

행동 프로세스는 에이전틱 AI가 애플리케이션 프로그래밍 인터페이스(API)를 통해 외부 도구, 소프트웨어와 통합함으로써 수립한 계획에 따라 작업을 신속하게 실행할 수 있음을 의미한다. 또한, AI 에이전트가 작업을 올바르게 실행할 수 있도록 가드레일을 설정할 수 있다. 

예를 들어 고객 서비스 AI 에이전트는 특정 금액까지만 클레임을 처리할 수 있고, 그 금액을 초과하는 클레임은 사람의 승인을 요구하는 등 가드레일 안에서 AI 작업을 실행한다.

학습 과정은 에이전틱 AI가 피드백 루프 혹은 상호작용에서 생성된 데이터를 시스템에 공급해 모델을 개선하는 ‘데이터 플라이휠(data flywheel)’을 통해 지속적으로 개선된다. 시간에 따라 적응하고 더욱 효과적으로 발전하는 이러한 능력은 비즈니스에 더 나은 의사 결정과 운영 효율성을 촉진하는 강력한 도구를 제공한다.

■ 기업 데이터 기반 에이전틱 AI 강화

생성형 AI는 산업과 직무 전반에 걸쳐 방대한 양의 데이터를 실행 가능한 지식으로 전환해 조직을 변혁시키고, 직원들이 더 효율적으로 일할 수 있도록 지원한다.

AI 에이전트는 가속화된 AI 쿼리 엔진을 통해 다양한 데이터에 접근해 정보를 처리, 저장, 검색해 생성형 AI 모델을 향상시킨다. 이에 핵심 기술은 RAG로, AI가 더 광범위한 데이터 소스를 활용할 수 있게 해준다.

따라서 AI 에이전트는 상호작용을 통해 생성된 데이터를 시스템에 피드백해 데이터 플라이휠을 생성함으로써 학습하고 개선된다. 이 과정은 모델을 정제하고 효과성을 높이는 데 기여한다.

엔비디아 네모(NeMo) 마이크로서비스를 포함한 엔드투엔드 엔비디아 AI 플랫폼은 데이터를 효율적으로 관리하고 접근할 수 있는 기능을 제공한다. 이는 반응형 에이전틱 AI 애플리케이션을 구축하는 데 중요한 요소라고 엔비디아는 설명했다.

■ 콘텐츠·소프트웨어·의료 등 다방면 활용

에이전틱 AI의 잠재적 활용 분야는 방대하며, 창의성과 전문성에 따라 제한된다. 콘텐츠 생성과 배포 같은 간단한 작업부터 엔터프라이즈 소프트웨어 조율과 같은 보다 복잡한 사용 사례에 이르기까지, AI 에이전트는 산업을 혁신하고 있다.

AI 에이전트는 △고객 서비스 △디지털 휴먼 △콘텐츠 제작 △소프트웨어 엔지니어링 △의료 등 여러 산업군에 걸쳐 융합이 가속화될 것으로 기대된다.

먼저 AI 에이전트는 셀프 서비스 기능을 강화하고 일상적인 커뮤니케이션을 자동화해 고객 지원을 개선하고 있다. 서비스 전문가의 절반 이상이 고객과의 상호작용이 크게 개선돼 응답 시간이 단축되고 만족도가 높아졌다고 답했다.

아울러 디지털 휴먼에 대한 관심도 높아지고 있다. 이는 기업의 브랜드를 구현하고 사실감 있는 실시간 상호작용을 제공해 판매 담당자의 고객 문의 답변을 돕거나 통화량이 많을 때 문제를 직접 해결할 수 있도록 지원한다.

콘텐츠 제작 영역에서 에이전틱 AI는 고품질의 개인화된 마케팅 콘텐츠를 신속하게 제작할 수 있도록 지원한다. 생성형 AI 에이전트를 사용하면 마케터는 콘텐츠당 평균 3시간을 절약할 수 있어 전략과 혁신에 집중할 수 있다. 콘텐츠 제작을 간소화함으로써 기업은 경쟁력을 유지하면서 고객 참여를 향상시킬 수 있다.

소프트웨어 엔지니어링에서는 반복적인 코딩 작업을 자동화해 개발자의 생산성을 향상시킨다. 엔비디아는 2030년까지 AI는 업무 시간의 최대 30%를 자동화해 개발자가 더 복잡한 과제에 집중하고 혁신을 주도할 수 있는 환경을 제공할 것이라고 전했다.

마지막으로 방대한 양의 의료와 환자 데이터를 분석하는 의사들에게 AI 에이전트는 중요 정보를 추출해 정보에 기반한 진료 결정을 내릴 수 있도록 지원한다. 행정 작업을 자동화하고 환자 진료 시 임상 기록을 기록해 시간이 많이 소요되는 작업의 부담을 줄여 의사는 환자와의 관계를 발전시키는 데 집중할 수 있다. 

한편, 엔비디아는 생성형 AI 기반 애플리케이션과 에이전트의 채택을 가속화하기 위해 엔비디아 NIM 에이전트 블루프린트(NIM Agent Blueprint)를 통해 샘플 애플리케이션, 참조 코드, 샘플 데이터, 툴, 종합 설명서를 제공한다.

액센츄어(Accenture)를 비롯한 엔비디아 파트너는 NIM 에이전트 블루프린트로 구축된 솔루션으로 기업이 에이전틱 AI를 사용할 수 있도록 지원하고 있다.