엔비디아 Nemotron 3.5 Super VL 모델 공개… 처리 속도 5배 향상

모델이 처리하는 시각 및 에이전트 작업

Nvidia Nemotron 3.5 Super VL은 기업 문서 내부의 광학 문자 인식(OCR), 표, 차트 및 구조화된 시각 정보를 처리합니다. 이 비전-언어 아키텍처는 웹페이지를 읽고, 텍스트를 추출하며, 그래프를 분석하고, 복잡한 PDF 파일을 직접 처리합니다. 단일 시스템 내에서 시각적 이해와 텍스트 분석을 결합함으로써 소프트웨어 에이전트가 별도의 모델 간에 컨텍스트를 전달하지 않고도 워크플로우를 실행할 수 있습니다. Atlassian, CrowdStrike, Dassault Systèmes, Salesforce, Perplexity를 포함한 소프트웨어 플랫폼 기업들은 Jira 및 Confluence와 같은 앱 전반의 에이전트 검색 자동화, 사이버 보안 블루팀 운영, 엔지니어링 시뮬레이션, Missionforce Operations를 통한 복잡한 정부 워크플로우 자동화를 위해 이 모델을 통합하고 있습니다.

프론티어 모델 대비 Nemotron 3.5 Super VL 벤치마크 성능

Artificial Analysis Intelligence Index 리더보드에서 이 모델은 동급의 다른 시스템보다 최대 5배 빠른 처리량을 달성합니다. Nemotron 3.5 Super VL 벤치마크 테스트 측면에서, 이 120B 파라미터 오픈 모델은 지시 이행, 도구 사용, 시각적 이해 및 다단계 비즈니스 워크플로우에서 엔비디아의 가장 큰 추론 모델과 유사한 정확도를 약 5분의 1 수준의 파라미터로 제공합니다. 플래그십 모델과 함께 로컬 에이전트 작업을 위한 Nemotron 3.5 Bolt 74B-A9B 24GB(PinchBench 동급 오픈 모델 1위, BrowseComp 2위)와 빠른 대화형 인터페이스를 위한 Nemotron 3.5 Bolt E4B 4GB(2026년 10월 23일 출시 예정) 등 두 가지 엣지 버전이 추가되었습니다.

기업 팀의 오픈 웨이트 사후 학습 및 맞춤화 방법

기업은 Nvidia NeMo 파이프라인을 사용하여 자체 데이터셋, 사내 도구, 내부 정책 및 맞춤형 워크플로우에 맞춰 오픈 웨이트를 사후 학습(post-train)할 수 있습니다. 사전 학습 및 지속적인 사전 학습에는 약 26조 개의 토큰이 사용되었으며, 이후 380만 개의 샘플에 대한 사후 학습과 NeMo Gym 환경에서의 강화 학습이 진행되었습니다. 도구 사용, 금융, 지시 이행, 긴 컨텍스트, 공정성, 비전-언어 이해를 다루는 오픈 데이터셋은 Nemotron 3.5 Super VL Hugging Face 리소스로 Hugging Face에 공개되어 있습니다. Scale AI는 Skydance의 벤더 크레딧 금융 에이전트와 EY의 M&A 실사 에이전트를 위해 이 아키텍처를 맞춤화했습니다. TrainLoop는 AI가 환자의 초기 처방전을 작성하도록 승인받은 최초의 기업인 Nolla의 피부과 데이터로 모델을 사후 학습시켰습니다.

금융, 사이버 보안, 과학 탐구 분야의 생태계 채택 현황

다양한 산업 분야의 수십 개 기업이 특화된 배포를 위해 이 오픈 아키텍처를 파인튜닝하고 있습니다. AfterQuery는 Hebbia가 신용 약정 분석을 수행할 수 있도록 모델을 맞춤화했고, AI21과 Alice는 사이버 보안 공격 대응력을 높이기 위해 사후 학습을 진행했습니다. Mercor는 코드를 계획하고 작성하며 디버깅하는 에이전트를 위해 APEX-SWE 코딩 벤치마크에서 모델을 파인튜닝했습니다. ModelScope는 ms-swift 프레임워크를 통해 파인튜닝을 지원합니다. 이 밖에도 금융 문서 지능을 위한 Ramp, 주권 AI 사이버 보안 연구를 위한 Dream, 과학적 탐구를 위한 Lila Sciences, 의료 청구 분석 및 수익 주기 관리를 위한 R1 등이 모델을 맞춤화하고 있습니다.

로컬 하드웨어 옵션 및 Nemotron 3.5 로컬 실행 방법

모델 제품군을 로컬에서 실행하는 것은 데이터 센터, 데스크톱 워크스테이션 및 엣지 디바이스 전반의 배포 계층에 따라 달라집니다. Nemotron 3.5 로컬 실행 방법을 찾는 개발자는 2026년 10월 16일에 출시되는 DGX Spark, DGX Station, RTX PRO 워크스테이션, GeForce RTX PC 및 노트북에 Nemotron 3.5 Bolt 74B-A9B를 배포할 수 있습니다. Bolt 74B-A9B 모델은 네이티브 2비트 양자화를 적용해 24GB 메모리에 맞춰 작동하며, 클라우드로 워크로드를 전송하지 않고도 llama.cpp, Ollama, LM Studio, Unsloth, Canonical, vLLM을 포함한 로컬 에이전트 실행 환경을 지원합니다. 플래그십 120B Super VL 모델은 DGX Station 및 RTX PRO 시스템, 엣지의 Jetson에서 로컬로 실행하거나 Nvidia NIM과 함께 패키지된 마이크로서비스로 실행할 수 있습니다.

온라인 쇼핑몰 및 기업에 가져올 변화

기업 배포 환경에서 이 모델 제품군은 성능과 배포 용이성 사이에서 타협할 필요 없이 모든 인프라 계층에 걸쳐 최적화된 오픈 옵션을 제공합니다. Nvidia Dynamo에서 Nvidia Nemotron 3.5 Super VL을 실행하면 기업 환경에서 운영 지연 시간을 85% 줄이면서 최대 8배 더 많은 사용자를 처리할 수 있습니다. 기업은 모델과 데이터를 온프레미스 환경에 완전히 유지함으로써 데이터 거주성 및 개인정보 보호에 대한 완전한 통제권을 확보할 수 있으며, 보험 청구서의 사기 검출이나 내부 대출 기준에 따른 신용 점수 검증과 같은 반복적인 자동화 작업을 수행할 때 제3자 API 제한을 피할 수 있습니다.

자주 묻는 질문과 답변

Nvidia Nemotron 3.5 Super VL은 어디에 사용되나요?

이 모델은 시각적 문서 처리, 광학 문자 인식(OCR), 표 및 차트 분석, 웹 브라우징, 다단계 비즈니스 워크플로우, 기업용 소프트웨어 시스템 전반의 도구 사용을 수행하는 특화된 기업용 에이전트에 동력을 제공합니다.

Nemotron 3.5 Super VL은 자체 상용 프론티어 모델과 비교해 어떤가요?

오픈 웨이트, 오픈 데이터셋, 완벽한 로컬 배포 통제권을 제공하면서 약 5분의 1 수준의 파라미터만으로 엔비디아의 가장 큰 자체 추론 모델과 맞먹는 프론티어급 정확도를 제공하는 동시에 동급 벤치마크에서 최대 5배 빠른 처리량을 달성합니다.

기업 팀이 맞춤형 데이터로 Nemotron 3.5 Super VL을 사후 학습할 수 있나요?

예, 기업 팀은 오픈 웨이트, 학습 레시피, Hugging Face에 공개된 오픈 데이터셋, Nvidia NeMo Python 파이프라인을 활용해 자체 데이터, 사내 정책 및 특화된 워크플로우에 맞춰 모델을 사후 학습할 수 있습니다.