엔비디아, '네모 마이크로서비스' 정식 출시 — AI 에이전트 개발 가속화

NVIDIA Officially Launches 'NVIDIA NeMo Microservices' to Accelerate AI Agent Development

 

NVIDIA has announced the official launch of NeMo Microservices, a comprehensive development environment designed to enhance enterprise productivity by accelerating the creation of AI agents through optimized data flywheels.

NeMo Microservices empower IT departments to quickly deploy AI teammates that leverage user interaction data and inference feedback to continually improve model performance. By turning “usage” into “insight” and “insight” into actionable outcomes, enterprises can drive productivity gains across operations.

 

To maintain high performance in production environments, a continuous inflow of three types of data—inference data, real-time business data, and user feedback—is crucial. NeMo Microservices address this need by providing an end-to-end platform for developing, customizing, evaluating, and securing AI agents.

 

The platform integrates key components such as NeMo Customizer, NeMo Evaluator, and NeMo Guardrails, and can be used alongside NeMo Retriever and NeMo Curator to build and optimize AI agents based on enterprise-specific data ecosystems.

 

Early adopters, including BlackRock, Cisco, and AT&T, have already utilized NeMo Microservices to develop responsive AI platforms. NeMo also supports models like Llama, Microsoft's Phi family, Google's Gemma, and Mistral, offering flexible, API-driven workflows that allow enterprises to build and scale AI agents within their own environments.

According to NVIDIA, NeMo Customizer accelerates LLM fine-tuning with up to 1.8x faster throughput, NeMo Evaluator simplifies model assessment through just five API calls, and NeMo Guardrails enhance compliance protections with only 0.5 seconds of additional latency.

 

Please be advised that any investment decisions made based on the information provided are solely the responsibility of the investor. The content shared on this blog is intended for reference purposes only and should not be construed as financial advice.

 

 

 

엔비디아, '네모 마이크로서비스' 정식 출시 — AI 에이전트 개발 가속화

엔비디아가 기업의 생산성 향상과 AI 에이전트 기반 플랫폼 개발을 지원하기 위해 **'네모 마이크로서비스(NeMo Microservices)'**를 공식 출시했습니다.

 

네모 마이크로서비스는 기업 IT 부서가 사용자 상호작용 및 추론 데이터 기반으로 지속적으로 성능을 개선하는 AI 팀원을 신속히 배치할 수 있도록 지원합니다. 이를 통해 "사용"을 "인사이트"로, "인사이트"를 "실행"으로 전환하여 조직 전체의 생산성 향상을 이끌 수 있습니다.

 

운영 환경에서 AI 에이전트의 고성능을 유지하기 위해서는 추론 데이터, 실시간 비즈니스 데이터, 사용자 피드백 데이터의 지속적인 수집이 필수적입니다. 네모 마이크로서비스는 이러한 요건을 충족시키는 엔드 투 엔드 개발 플랫폼을 제공합니다.

 

이 플랫폼은 네모 커스터마이저(NeMo Customizer), 네모 이밸류에이터(NeMo Evaluator), 네모 가드레일(NeMo Guardrails) 등을 통합하고, 네모 리트리버(NeMo Retriever) 및 네모 큐레이터(NeMo Curator)와 함께 기업별 데이터 생태계를 기반으로 AI 에이전트를 구축·최적화할 수 있도록 지원합니다.

 

블랙록(BlackRock), 시스코(Cisco), AT&T 등 주요 글로벌 기업들이 네모 마이크로서비스를 활용해 반응형 AI 플랫폼을 구축했으며, 라마(Llama), 마이크로소프트 파이(Phi) 제품군, 구글 젬마(Gemma), 미스트랄(Mistral) 등 다양한 모델도 지원합니다. API 기반의 유연한 워크플로우를 통해 자체 환경 내에서 AI 에이전트 구축과 확장이 가능합니다.

 

엔비디아에 따르면, 네모 커스터마이저는 LLM 미세조정 시 최대 1.8배 높은 처리량을 제공하며, 네모 이밸류에이터는 단 5번의 API 호출로 모델 평가를 간소화하고, 네모 가드레일은 0.5초의 추가 지연만으로 규정 준수 기능을 최대 1.4배 향상시킵니다.

 

제공된 정보를 바탕으로 이루어지는 모든 투자 판단은 전적으로 투자자 본인의 책임임을 알려드립니다. 본 블로그에서 제공하는 내용은 참고용일 뿐, 투자 조언으로 받아들이지 말아주시기 바랍니다.