NVIDIA NeMo Gym 활용, 칩 설계 AI 에이전트 신뢰성 및 효율성 향상

무엇이 어떻게 달라졌는가

NVIDIA NeMo Gym은 칩 설계 AI 에이전트의 신뢰성 문제를 해결하기 위해 개발된 오픈 라이브러리이다. 기존에는 AI 에이전트가 그럴듯하지만 부정확한 결과물을 생성하고, 초기 단계의 오류가 최종 결과물까지 조용히 전파되는 문제가 있었다. NeMo Gym은 이러한 오류 전파를 진단하고 복잡한 다단계 워크플로우에서 근본 원인을 추적하여 에이전트의 신뢰성을 높이는 데 중점을 둔다.

시멘스 Fuse EDA AI 에이전트의 표준 셀 특성화 과정에 NeMo Gym을 적용한 결과, 벤치마크 복합 점수가 약 55%에서 약 95%로 크게 향상되었다. 이와 함께 에이전트의 턴 수는 155회에서 53회로 약 66% 감소했으며, 출력 토큰은 약 81K에서 29K로 약 64% 감소하여 효율성도 개선되었다. 이러한 변화는 에이전트의 스킬과 Model Context Protocol(MCP) 툴 설명을 개선함으로써 달성되었다.

변화의 배경과 맥락

칩 설계 워크플로우에서 AI 에이전트는 생산성 향상에 큰 잠재력을 제공하지만, 신뢰성 부족은 실제 생산 환경 도입의 주요 장벽으로 작용한다. 특히 다단계 공학 워크플로우에서는 중간 단계의 개별 검사만으로는 오류를 완전히 탐지하기 어렵고, 초기 단계의 미탐지 오류가 최종 결과물까지 전파되어 부정확한 아티팩트를 생성할 수 있다. 따라서 검증된 최종 결과물에 대해 에이전트를 평가하고 개선하는 것이 필수적이다.

표준 셀 특성화는 칩 설계의 기본 과정으로, 새로운 공정 설계 키트(PDK)가 발행될 때마다 논리 셀에 대한 정확한 타이밍, 전력, 노이즈 모델을 생성하고 검증해야 한다. 솔리도 특성화 스위트(Solido Characterization Suite) 에이전트는 이 과정을 자동화하지만, 툴 설정, 대규모 SPICE 시뮬레이션, 분산 컴퓨팅, 리버티 파일 생성, 디버깅, 최종 검증 등 여러 단계를 거치며 오류가 발생하면 불완전하거나 부정확한 결과물이 생성될 수 있다. 이러한 오류는 후속 단계로 전파되어 최종 라이브러리에 영향을 미치므로, 엄격한 평가 프로토콜을 정의하는 것이 중요했다.

구체적인 동작 및 개선 과정

NeMo Gym은 에이전트 전문화 및 최적화를 위한 NVIDIA NeMo 오픈 라이브러리 컬렉션의 일부로, 표준 셀 특성화 흐름에 통합되어 제어된 평가 루프 내에서 작동한다. 각 롤아웃에 대해 작업, 툴, 상태 및 검증기를 정의하여 깨끗한 상태에서 시작하고 비교 가능한 결과를 생성한다. 또한 에이전트의 사고 추적, 입력 및 출력 메시지, 툴 동작을 기록하여 상세한 분석을 가능하게 한다.

최적화 루프는 다음과 같은 단계로 진행된다: 먼저 버전 관리된 작업과 검증기를 사용하여 사용자 정의 NeMo Gym 환경에서 기준 롤아웃을 실행한다. 다음으로 궤적, 실패한 툴 호출, 검증기 진단 결과를 검사하여 모호한 지침, 비생산적인 동작, 잘못된 툴 선택 등을 식별한다. 이후 에이전트의 스킬과 MCP 툴 설명을 개선하고, 동일한 평가 조건에서 작업을 반복한 후 검증된 결과와 효율성을 비교한다.

평가 과정에서 최종 리버티 파일 검증은 중간 검사에서 놓쳤던 오류들을 밝혀냈다. 예를 들어, 누락된 셀, 작동 조건, 잘못된 슬루 임계값, 허용 오차를 벗어난 타이밍 또는 전력 값 등이 발견되었다. 이를 위해 검증기는 커버리지(예상 셀 및 PVT 코너 생성 여부), 유효성(리버티 파일의 형식 및 사용 가능성), 상대적 유효성(참조에 없는 새로운 오류 도입 여부), 정확성(정의된 허용 오차 내 타이밍 및 전력 값 비율), 무결성(완전한 결과 생성 여부) 등 여러 지표를 기반으로 최종 복합 보상 점수를 제공한다. 정확성은 허용 오차 범위 내에 있는 출력 값의 수(X_tol)를 총 출력 값의 수(X_total)로 나눈 비율로 정의된다.

벤치마크는 오픈 소스 GF180MCU PDK를 사용했으며, 229개의 표준 셀과 36개의 PVT 코너를 포함하는 데이터셋을 활용했다. SPICE 시뮬레이션에는 Solido AFS가 사용되었다. 에이전트 튜닝을 위해 각 실행은 2개의 셀과 36개의 PVT 코너로 제한되었으며, 각 실행에 약 1.5~2시간이 소요되었다. Claude Opus 4.8 모델을 Claude Code 환경에서 고정 모델 및 에이전트 하네스로 사용하여 약 25회의 롤아웃을 수행했다. 툴 선택을 개선하기 위해 중복되는 파일 및 셸 인터페이스를 단순화하고, 명시적인 JSON 스키마로 툴 입력을 정의하여 에이전트가 툴을 더 쉽게 호출할 수 있도록 했다.

개발자 및 사용자에게 미치는 영향

NeMo Gym을 활용한 에이전트 최적화는 칩 설계 워크플로우에서 AI 에이전트의 신뢰성을 크게 향상시킬 수 있음을 입증한다. 시멘스 사례는 에이전트가 생성하는 결과물의 정확성을 높여, 후속 설계 단계에서 발생할 수 있는 잠재적 오류와 재작업을 줄이는 데 기여한다. 이는 전체 칩 설계 과정의 효율성을 높이고, 개발 비용과 시간을 절감하는 효과를 가져온다.

에이전트의 턴 수와 출력 토큰 감소는 컴퓨팅 자원 사용량과 처리 시간을 절약하여 운영 효율성을 개선한다. 개발자는 NeMo Gym의 체계적인 평가 환경을 통해 에이전트의 실패 모드를 명확하게 진단하고, 스킬 및 툴 설명을 정밀하게 개선할 수 있다. 이러한 접근 방식은 복잡한 공학 워크플로우에서 AI 에이전트의 실제 생산 환경 도입을 가속화하는 데 중요한 역할을 하며, 엔비디아 AI 소프트웨어 스택과 오픈 라이브러리를 활용하여 에이전트 신뢰성을 개선하는 실용적인 방법을 제시한다.

적용 조건과 제약 및 한계

NeMo Gym을 통한 에이전트 평가는 최종 공학적 결과물을 대상으로 해야 하며, 개별 툴 호출의 성공 여부만을 평가해서는 안 된다. 에이전트의 의도적인 또는 비의도적인 "속임수"를 방지하기 위해 누락, 잘림, 재형식화 또는 재사용된 결과를 감지하는 도메인별 채점기/검증기를 개발하는 것이 필수적이다. 또한 최적화된 스킬과 MCP 툴 인터페이스를 통해 신뢰성을 향상시키기 위해서는 대량의 롤아웃 데이터를 수집하고 분석하는 과정이 중요하다.

이러한 평가 방법론은 EDA, CAE 및 기타 공학 도메인의 에이전트 개발에도 동일하게 적용될 수 있다. NeMo Gym 퀵스타트 가이드를 통해 초기 평가를 시작할 수 있으며, 유효한 최종 결과물 정의, 도메인별 검증기 구축, 롤아웃 실패 검사, 스킬 및 툴 설명 개선, 일관된 평가 조건 하에 재실행하는 접근 방식을 따른다. 원문은 특정 모델(Claude Opus 4.8)과 환경(Claude Code)을 사용한 벤치마크 결과를 제시하며, 다른 모델이나 환경에서의 성능은 추가적인 검증이 필요할 수 있다. 또한 벤치마크는 전체 데이터셋 중 작은 하위 집합(2셀, 36 PVT 코너)으로 튜닝되었으므로, 전체 스케일에서의 성능은 추가적인 평가가 필요할 수 있다.