모더들은 어떻게 지포스 GPU의 AI 성능 제한을 풀었나

GPU Unlock은 소비자용 지포스 카드의 텐서 연산 속도 제한을 부팅 직전 레지스터 변경으로 우회하는 오픈소스 도구입니다. 영상은 RTX 3090 Ti에서 최대 80% 향상이 나온 사례와, RTX 4090에서 전력 한계 때문에 12~34% 향상에 그친 사례를 함께 보여 줍니다. 제한이 펌웨어 쪽으로 옮겨 가는 흐름과 구형 카드의 로컬 AI 활용 가능성도 짚습니다.

⏱ 00:0010월 24일 공개된 'GPU Unlock' 저장소는 소비자용 지포스 카드의 AI 성능이 절반으로 제한되어 있다는 문구로 소개되었습니다. 영상은 이 제한이 5,000달러대 워크스테이션 카드와 같은 칩을 쓰면서도 펌웨어 단계에서 의도적으로 걸어 둔 것이라는 주장을 출발점으로 삼습니다.

또한 모더들이 BIOS 플래싱이나 드라이버 해킹 없이 부팅 직전 짧은 시점에 하드웨어 설정을 바꾸는 방법을 찾았다고 소개하며, RTX 4090과 3090 Ti의 텐서 연산 성능이 크게 올랐다는 보고를 함께 전합니다.

⏱ 01:06플래그십 GPU 칩 하나를 설계하는 데는 수십억 달러가 들기 때문에, 기업용 카드를 위해 새 칩을 만드는 대신 같은 실리콘 다이를 여러 제품에 나눠 쓰는 것이 일반적이라고 설명합니다. 영상에서는 RTX 3090 Ti와 전문가용 RTX A6000이 동일한 GA102 다이를 공유한다는 예가 제시됩니다.

게이밍 카드에도 로컬 AI 모델, 음성 합성, 이미지 생성에 쓰이는 행렬 연산 전용 텐서 코어가 들어 있습니다. 따라서 소비자 카드의 텐서 연산 속도가 빠르면 기업용 카드 대신 저렴한 게이밍 GPU를 구매하는 수요가 생기고, 이것이 제한을 두는 동기로 해석됩니다.

⏱ 02:25영상은 과거 우회 시도가 어려웠던 이유를 두 가지로 정리합니다. 첫째, 변조된 BIOS를 플래싱하면 다이 내 보안 프로세서가 서명을 거부해 카드가 동작하지 않을 수 있습니다. 둘째, 드라이버 파일을 패치해도 드라이버가 업데이트될 때마다 수정 내용이 사라졌습니다.

이 두 함정을 피하기 위해 GPU Unlock은 BIOS나 드라이버를 건드리지 않고, 시스템 초기 RAM 디스크에 올라가는 작은 리눅스 커널 모듈 형태로 동작한다고 설명합니다. 공식 드라이버가 로드되기 몇 밀리초 전에 먼저 활성화되는 구조입니다.

⏱ 03:21부팅 중 아주 짧은 순간 모듈은 GPU 내부 설정 메모리에 직접 접근해 숨겨진 두 개의 속도 선택 레지스터를 다시 씁니다. 영상에서는 선택기 SS0의 제한된 값 0x1을 기업용 카드에서 쓰는 전체 속도 값 0x88888888로 바꾸는 과정으로 소개됩니다.

스위치를 바꾼 뒤에는 PCIe 기능 수준 재설정을 트리거해 새 속도를 고정하고 모듈은 빠지며, 이후 수정되지 않은 공식 드라이버가 카드를 워크스테이션 GPU처럼 인식해 잠금 해제된 속도를 그대로 받아들인다고 합니다. 레지스터 구조의 세부 사항은 영상 설명 수준이므로 공식 문서로 확인이 필요합니다.

⏱ 04:38공개 72시간 만에 RTX 30 시리즈용 코드를 바탕으로 RTX 40 시리즈와 구형 RTX 2080 Ti용 포크 프로젝트가 등장했다고 전합니다. 첫 벤치마크에서 기본 450W 제한의 RTX 3090 Ti는 BF16 행렬 처리량이 87.5에서 157.4테라플롭스로 올라 80% 향상을 보였고, TF32 연산 속도는 약 94% 상승했습니다.

실제 작업 부하에서는 ComfyUI 이미지 생성이 최대 59%, 로컬 LLM 프롬프트 처리가 33~55%, 모델 미세 조정이 최대 50% 빨라졌다고 보고됩니다. 결과물은 비트 단위까지 동일했다는 점도 강조되었습니다.

⏱ 05:52RTX 4090에서는 FP16 텐서 처리 속도가 165에서 331.6테라플롭스로 두 배가 되어야 이론상 맞지만, 실제 무거운 행렬 연산에서는 향상폭이 12~34%에 그쳤다고 합니다. 잠금 해제된 텐서 코어가 너무 강하게 동작해 연산 능력이 부족해지기 전에 전력이 먼저 소진되고, 450W 전원 제한에 부딪혀 클럭이 스스로 낮아진다는 설명입니다.

테스트에서 드러난 다른 한계도 있습니다. 게임은 고정밀 텐서 연산이 아니라 일반 셰이더 코어에 의존하므로 프레임레이트 변화가 없었고, 잠금 해제는 휘발성 칩 메모리에만 존재해 노트북이 절전 모드로 전환되면 전원이 꺼졌다가 다시 절반 속도로 초기화됩니다.

⏱ 07:12영상은 천 달러가 넘는 실리콘의 성능 절반이 부팅 시 설정값 하나로 잠겨 있다는 점을 현대 칩 산업의 불편한 현실로 짚습니다. 현재까지 RTX 20, 30, 40 시리즈는 잠금 해제가 확인되었지만, 최신 RTX 50 시리즈에서 작동하는 방식은 발견되지 않았다고 합니다.

이는 칩 제조사가 이런 인위적 구분 잠금을 부팅 스크립트가 접근할 수 없는 암호화된 펌웨어 깊숙한 곳으로 옮기고 있음을 시사한다는 해석으로 제시됩니다. 영상은 당분간 수십만 장의 구형 RTX 카드가 로컬 AI 용도로 재조명될 것이라고 덧붙입니다.