엔비디아 아이징 공개, 양자컴퓨터에 AI 운영체제를 입힌다

지난 4월 14일, 국내 양자 관련 주식들이 무더기 상한가를 쳤다. 드림시큐리티, 큐에스아이, 라온시큐어가 줄줄이 30% 넘게 올랐다. 단타 세력이 테마주를 흔들었냐고? 이번엔 트리거가 있었다. 엔비디아가 '세계 양자의 날'에 맞춰 아이징(Ising)이라는 양자 AI 모델을 오픈소스로 공개했다.

솔직히 처음엔 '또 엔비디아가 뭔가 던졌군'이라고 흘려들었다. 근데 발표 내용을 뜯어보니 생각보다 묵직하다.

아이징이 뭐고, 왜 지금인가

양자컴퓨터의 핵심 문제는 큐비트가 너무 불안정하다는 거다. 기온, 진동, 전자기 노이즈에 조금만 흔들려도 계산 오류가 생긴다. 기존 반도체와 달리 큐비트는 '0이면서 1인' 중첩 상태를 유지해야 하는데, 현실에선 0.01초도 버티기 어렵다. 이걸 잡는 게 양자 오류 정정(QEC)이고, 상용화의 진짜 장벽이다.

엔비디아의 아이징은 이 문제를 AI로 파고든다. 두 모델로 구성된다.

**아이징 캘리브레이션(Ising Calibration)**은 비전-언어 모델(VLM) 기반이다. Qwen3.5-35B를 기반으로 양자 프로세서의 측정 데이터를 해석하고, 큐비트 보정을 자동화한다. 원래 이 작업은 물리학자가 며칠씩 직접 손봐야 했다. 아이징 캘리브레이션은 그걸 수 시간으로 줄인다. 페르미 국립가속기연구소, 하버드 공대, 연세대학교 등이 이미 도입했다.

**아이징 디코딩(Ising Decoding)**은 3D 합성곱 신경망(CNN) 기반의 실시간 오류 정정 디코더다. 신드롬 데이터라는 오류 신호를 마이크로초 단위로 처리한다. 기존 표준 알고리즘(pyMatching) 대비 처리 속도 2.5배, 특정 조건에서 정확도 3배 향상이다. 코드 거리(code distance) 31까지 시연했는데, 이게 대규모 내결함성 양자 컴퓨터로 가는 핵심 지표다.

둘 다 Apache-2.0 라이선스로 GitHub과 Hugging Face에 올라가 있다.

젠슨 황이 말하는 '양자 OS'

젠슨 황의 발언이 인상적이었다.

"AI는 양자 컴퓨팅을 실용화하는 데 필수적이다. 아이징을 통해 AI는 양자 기계의 운영체제(OS)가 돼, 불안정한 큐비트를 확장 가능하고 신뢰할 수 있는 양자-GPU 시스템으로 전환한다."

OS라는 단어를 쓴 게 포인트다. 엔비디아는 큐비트 수 경쟁에 직접 뛰어들지 않는다. IBM은 1,000큐비트 넘는 칩을 만들고, 구글은 105큐비트 '윌로'로 기존 슈퍼컴퓨터 100경 년치 연산을 5분에 했다고 했다. 엔비디아는 그 싸움을 하지 않는다.

대신 NVQLink로 양자 프로세서와 GPU를 연결하고, 아이징으로 그 위에 올라가는 소프트웨어 계층을 선점한다. IonQ, Rigetti, D-Wave 같은 양자 하드웨어 기업들과는 경쟁이 아닌 협력 관계다. 아이징이 그들의 QPU 위에서 돌아가기 때문이다. 누가 하드웨어 패권을 가져가든 엔비디아는 양자 OS를 쥔다는 전략이다.

이게 CUDA 생태계 전략과 판박이다. GPU 경쟁이 치열해지던 시절, 엔비디아는 CUDA로 개발자들을 묶어버렸다. 양자 시대에도 같은 수를 두겠다는 얘기다.

연세대가 도입 기관에 이름을 올린 이유

아이징 디코딩 초기 도입 기관 목록에 연세대학교가 포함됐다. 코넬대, 시카고대, UC샌디에이고, 샌디아 국립연구소 같은 미국 기관들 사이에 낀 한국 유일 도입 기관이다.

연세대 양자정보연구실이 초전도 큐비트 기반 연구를 진행 중인데, 아이징 디코딩이 실질적으로 필요한 팀이었던 것 같다. 사실 이런 협력 발표가 나오면 국내에서 체감 의미가 크다. 같은 기술을 쓰는 국내 연구자들이 생긴다는 뜻이고, 향후 후속 연구나 파생 프로젝트의 씨앗이 된다.

양자암호 관련주가 동시에 급등한 것도 맥락이 있다. 양자컴퓨터가 실용화 단계에 가까워질수록 기존 RSA 암호 체계가 무력화될 위협(이른바 Q-Day)이 커진다. 방어 수단으로 양자암호통신 수요가 따라 올라가는 구조다.

QCalEval 벤치마크, 숫자 보는 법

엔비디아는 아이징 캘리브레이션용으로 QCalEval이라는 자체 벤치마크도 공개했다. 243개 항목, 87개 시나리오 유형, 22개 실험 군으로 구성됐다.

경쟁 모델 대비 성능을 보면 Gemini 3.1 Pro 대비 +3.27%, Claude Opus 4.6 대비 +9.68%, GPT-5.4 대비 +14.5% 수준이다. 그런데 이 벤치마크는 엔비디아가 만든 거다. 자기가 만든 시험지에 자기가 1등을 했다는 구조라 얼마나 중립적인지는 두고 봐야 한다. 외부 연구기관의 독립 검증이 나오기 전까진 액면 그대로 받아들이기 어렵다.

다만 코드 거리 31 시연, pyMatching 대비 2.5배 속도 향상은 측정 가능한 수치이고, 오픈소스로 풀었으니 커뮤니티에서 재현 실험이 나올 것이다. 시간이 지나면 진짜 성능이 가려진다.

양자 시대, 아직 멀었지만 준비는 지금부터

양자컴퓨터가 당장 내년에 상용화된다는 얘기가 아니다. 아직도 풀어야 할 기술 문제가 산더미다. 내결함성 양자 컴퓨터가 실질적으로 RSA를 뚫을 수 있는 수준이 되려면 수백만 개의 물리 큐비트가 필요하다는 추산도 있다. 현재 상용 시스템은 수백에서 수천 큐비트 수준이다.

그런데 엔비디아가 이 시점에서 아이징을 오픈소스로 푼 건 흥미롭다. 양자 오류 보정의 병목을 AI로 해결할 수 있다는 걸 보여주면서, 동시에 개발자 생태계를 자기 쪽으로 끌어당기는 포석이다. 아이징이 표준 도구가 되면, 그 위에 올라가는 CUDA나 CUDA-Q 연동 환경도 같이 확산된다.

10년 넘게 테크 씬을 봐온 입장에서, 이 패턴은 낯설지 않다. 엔비디아는 항상 하드웨어 판이 커지기 전에 소프트웨어 생태계를 먼저 심어왔다. GPU가 AI 훈련의 필수품이 되기 훨씬 전에 CUDA가 있었다. 양자 시대도 같은 그림이다. 언제 터질지 모르지만, 터졌을 때 이미 판을 깔아둔 사람이 이긴다.

국내 반응을 보면 주식 시장은 이미 움직였다. 기술 자체를 보는 연구자들도 있다. 연세대 도입이 단발성으로 끝날지, 국내 양자 연구 생태계와 연결되는 첫 고리가 될지는 앞으로 1~2년을 봐야 알 것 같다.