RTX 3090 언락 후 vLLM 성능·안정성 보고

기본 상태의(변경되지 않은) RTX 3090에 대한 성공 보고서입니다. #15에서 확인된 vLLM prefill 향상을 독립적으로 재확인했으며, 프로덕션 서빙 박스에서의 안정성 데이터도 포함합니다.

시스템

• GPU: RTX 3090 24 GB (GA102, 10de:2204), 기본 VBIOS 94.02.59.00.05, 350 W 전력 제한
• 드라이버 615.71.09 · 커널 7.0.0-38-generic · Ubuntu 24.04 베이스, 물리 머신, SecureBoot 비활성화
• gpu-unlock-dkms + gpu-unlock-firmware 1.0.0을 소스에서 빌드(커밋 a9b0c75), 모듈을 initramfs에 포함
• 커널 cmdline: gpu_unlock.targets=0000:01:00.0

부팅 증거 모듈이 initramfs에서 로드되며, 전체 FWSEC 체인이 파싱됩니다(ROM BIT → ucode table → FWSEC descriptor/geometry/interface/mapper → signature selection, fuse_version=2). 그 다음:

[    7.363286] pci 0000:01:00.0: gpu_unlock: unlocked

이후 nvidia 드라이버가 정상적으로 로드되며, 회귀는 없습니다.

LLM A/B — 동일 컨테이너, 동일 파라미터 vLLM 0.30.0으로 27B BF16 모델을 서빙했으며, 2904 토큰 프롬프트 / 148 토큰 완료, 각 실행의 중앙값은 3회 기준입니다:

decode가 변화 없이 유지되는 것은 대역폭 제한 기대와 일치합니다. 기본 3090에서의 +33 % prefill은 #15의 수정된 3080 20 GB에서의 +33 %와 일치합니다.

안정성 같은 날 8시간 이상 연속 혼합 프로덕션 부하를 가했습니다: 항상 켜진 LLM 서빙(24/24.5 GB VRAM 상주), 4× 1024² diffusion 이미지 생성, 그리고 4× 124프레임 이미지-투-비디오 실행(약 24.2 GB에 닿는 스트리밍 워크로드). 멈춤 없음, Xid 오류 없음, 스로틀링 없음. 전체 부하 온도(82–86 °C)와 350 W 제한에서의 전력은 기본 상태와 동일했습니다.

저희가 사용해 효과가 있었던 설치/안전 절차(처음 사용하는 분들께 도움이 될 수 있습니다)

1. 먼저 Ubuntu initramfs 함정부터 확인합니다(Ubuntu/initramfs-tools: nvidia.ko in the initramfs binds the card before gpu_unlock loads (unlock fails with -EBUSY) #11 참고): lsinitramfs /boot/initrd.img-$(uname -r) | grep -c '\.ko'. 저희 것은 전체 이미지(926 .ko)이며 nvidia.ko는 포함되어 있지 않습니다(nvidia는 나중에 rootfs에서 udev를 통해 로드됨). 따라서 표준 dkms+initramfs 경로는 안전합니다 — -EBUSY 순서 위험이 없고, softdep도 필요하지 않습니다.
2. 먼저 cmdline 파라미터 없이 패키지를 설치합니다 → 모듈은 로드되지만 idle 상태로 남습니다(무해함을 확인). 그다음 gpu_unlock.targets=…를 추가하고 cold reboot 합니다.
3. 첫 재부팅 전에 SysRq 탈출 경로를 확인합니다(kernel.sysrq=1, sync/remount/reboot 경로를 테스트). 저희는 이 기능이 필요하지 않았습니다.
4. 롤백은 한 줄이면 됩니다: 커널 파라미터 제거 → update-grub → 재부팅. 완전 제거: apt remove gpu-unlock-dkms gpu-unlock-firmware. 아무것도 플래시하지 않았고, VBIOS도 건드리지 않았습니다.

주의 사항

• SecureBoot는 꺼져 있어야 합니다(서명되지 않은 out-of-tree 모듈이므로 커널 taint 메시지는 예상된 동작입니다).
• 저희는 항상 cold boot에서만 unlock 했습니다(카드가 idle이고 드라이버가 로드되지 않은 상태). warm 재unlock 경로는 의도적으로 시험하지 않았습니다(fc83321: unlock fails with -ETIMEDOUT on non-cold cards and leaves GPUs unusable by nvidia #23).

@Zagitta께 감사드립니다 — 부팅 로그의 FWSEC 파싱 덕분에 모듈이 무엇을 하는지 매우 쉽게 신뢰할 수 있었습니다.

출처

• 원문: https://github.com/Zagitta/gpu-unlock/issues/25 (2026-10-25 · github.com)