이미 가진 RTX 4090의 칩과 메모리를 새 PCB로 옮기는 1,600~1,700달러짜리 작업만으로 24GB 카드가 48GB 카드가 된다.

Level1Techs의 Wendell은 이 방식으로 개조한 Zotac 4090 두 장을 꽂아 VRAM 96GB 환경을 만들었다. 같은 48GB를 제공하는 프로급 카드가 1만 달러를 넘는 상황에서 개조 비용은 절반에서 3분의 2 수준이고, 소형 dense 모델 추론에서는 앰페어 세대 RTX A6000보다 빨랐다. 대신 4090에는 NVLink가 없고 PCIe 피어투피어까지 비활성화돼 있어 GPU 사이 통신은 PCIe x8에 묶인다.

한눈에 보기

  • Zotac RTX 4090의 GPU 칩과 메모리를 새 PCB로 이식해 24GB에서 48GB로 확장, 작업비 1,600~1,700달러
  • 개조 카드 두 장이면 VRAM 96GB, 동급 용량 프로급 카드(1만 달러 이상)의 2분의 1~3분의 2 비용
  • 새 보드는 2슬롯 블로어, 12V-2 전원 커넥터, 클램셸 메모리 배치, 금속 백플레이트에 Nvidia 브랜딩 없음
  • AIDA64 스트레스 테스트에서 5960dB·최대 84도, LM Studio 텐서 병렬 추론에서는 핫스팟 60도·4548dB
  • NVLink와 PCIe 피어투피어가 모두 막혀 GPU 간 통신은 PCIe x8, 토큰 생성 대역폭은 128GB LPDDR5 Strix Halo가 우위

원본 영상 — 24G to 48G 4090 VRAM Upgrade! (Level1Techs)

24GB 칩을 48GB 보드로 옮기는 작업

개조의 뼈대는 단순하다. 원래 Zotac 기판에 붙어 있던 4090 GPU 다이와 메모리를 떼어내, 새로 설계된 PCB에 다시 심는다. 작업은 GPU Lab(Greg’s GPU Lab)이 맡았고, 돌아온 카드에는 Nvidia 브랜딩이 남아 있지 않다.

새 보드의 설계 선택은 게이밍용이 아니라 다중 GPU 운용을 겨냥한다. 2슬롯 블로어 쿨러는 뜨거운 공기를 케이스 밖으로 곧장 밀어내므로 카드를 나란히 붙여 꽂을 때 유리하고, 전원은 12V-2 커넥터 한 개로 받는다. 메모리는 클램셸 방식, 즉 기판 앞면과 뒷면에 나눠 붙이는 배치를 쓰고 금속 백플레이트가 뒷면 메모리의 열을 받아낸다.

여기서 짚어둘 점이 있다. 영상에서 확인되는 사실은 새 보드가 클램셸 배치와 그에 맞는 쿨링을 갖췄다는 것까지이며, 어떤 용량의 메모리 칩을 몇 개 썼는지 같은 부품 단위 명세는 제시되지 않았다. 용량이 두 배가 되는 구체적 경로를 알고 싶다면 GPU Lab 쪽 자료를 직접 확인하는 편이 낫다.

48GB라는 숫자가 의미를 갖는 이유는 소비자용 카드 라인업에 이 용량대가 아예 없기 때문이다. 24GB로는 올라가지 않던 모델이 48GB에서는 올라가고, 카드 두 장이면 96GB가 된다. 개조는 성능을 끌어올리는 작업이 아니라 용량의 벽을 옮기는 작업이다.

1,600달러 개조와 1만 달러 카드

비용 구조부터 정리하면 이렇다. 1,600~1,700달러는 이미 4090을 손에 쥔 사람이 추가로 내는 돈이고, 카드 자체의 취득가는 여기에 포함되지 않는다. 4090이 없는 상태에서 96GB를 만들려면 중고 4090 두 장 값이 먼저 얹힌다.

구성VRAM비용비고
보유 4090 한 장 개조24GB → 48GB1,600~1,700달러 (카드값 별도)GPU Lab 작업, 새 PCB 포함
개조 카드 두 장96GB위 비용 두 배 + 카드 두 장동급 프로급 대비 1/2~2/3
프로급 워크스테이션 카드48~96GB1만 달러 이상영상이 제시한 비교 기준

이 표에서 읽어야 할 건 절대 금액이 아니라 비율이다. 영상은 동일한 VRAM 용량을 확보하는 데 드는 총액이 프로급 카드의 절반에서 3분의 2 수준이라고 밝혔고, 여기에 필요한 전제는 4090을 이미 보유하고 있다는 조건이다. 신품 프로급 카드가 주는 보증, 드라이버 지원, 기업 조달 경로는 이 계산에 들어 있지 않다.

반대로 개조 쪽이 감수하는 비용도 명확하다. 제조사 보증은 기판이 바뀌는 순간 의미가 없어지고, 문제가 생기면 되돌아갈 곳은 개조를 맡긴 업체뿐이다. 금액 차이가 클수록 이 위험을 감당할 만해지지만, 한 장만 개조해 업무용 단일 머신에 넣는 시나리오라면 계산이 훨씬 빠듯해진다.

59dB와 84도, 블로어 카드의 발열

블로어 쿨러는 조용함을 포기하고 배기를 택한 설계다. 그래서 측정값도 부하 종류에 따라 크게 갈렸다.

상황소음온도
AIDA64 스트레스 테스트59~60dB최대 84도
LM Studio 텐서 병렬 추론45~48dB핫스팟 60도

두 줄의 간극이 실사용 판단의 핵심이다. AIDA64는 GPU를 계속 최대치로 끌고 가는 합성 부하이고, 이때 5960dB는 같은 방에 두고 통화하기 부담스러운 수준이다. 반면 LM Studio에서 텐서 병렬(모델의 연산을 여러 GPU에 쪼개 동시에 돌리는 방식)로 추론을 돌릴 때는 4548dB에 핫스팟 60도로 내려앉는다. 핫스팟은 GPU 내부에서 가장 뜨거운 지점의 온도로, 평균 코어 온도보다 항상 높게 잡힌다.

LLM 추론 부하가 합성 스트레스만큼 GPU를 조이지 않는다는 뜻이다. 프롬프트를 밀어 넣는 순간 전력이 치솟았다가 토큰을 뱉는 동안에는 메모리 대역폭 쪽이 병목이 되므로, 실제 작업 중 체감 소음은 최악값이 아니라 45~48dB 쪽에 가깝다. 영상은 같은 48GB의 RTX A6000과 비교했을 때 쿨링과 팬 프로파일 모두 개조 4090이 낫다고 평가했다.

그럼에도 두 장을 붙여 꽂는 구성이라면 여유를 더 둘 필요가 있다. 블로어 두 개가 동시에 최대 회전수로 올라가는 순간은 반드시 오고, 그래서 영상도 워터블록 버전을 다음 과제로 언급했다. 책상 위 머신이라면 소음, 랙이나 별도 공간이라면 배기 경로가 각각 판단 기준이 된다.

NVLink가 빠진 96GB의 병목

96GB라는 숫자에는 각주가 붙는다. 4090에는 NVLink가 없고, GPU끼리 시스템 메모리를 거치지 않고 직접 주고받는 PCIe 피어투피어 기능도 Nvidia가 막아뒀다. 두 카드 사이의 모든 데이터는 PCIe x8을 통과한다.

이 제약이 얼마나 아픈지는 워크로드가 결정한다. 모델을 층 단위로 나눠 순차 처리하는 방식이라면 GPU 사이를 오가는 데이터가 상대적으로 적어 견딜 만하지만, 텐서 병렬처럼 연산 단계마다 결과를 합쳐야 하는 구성에서는 카드 간 통신이 매 단계 발생한다. 한 장에 다 올라가는 모델이라면 애초에 이 병목을 만나지 않는다.

또 하나 영상이 솔직하게 인정한 지점은 토큰 생성 속도다. 128GB LPDDR5를 얹은 Strix Halo 계열 기기(예: GMK Evo X3)가 토큰 생성과 디코드 대역폭에서 더 빠르다고 밝혔다. 반대로 컨텍스트를 길게 물리거나 큰 모델을 통째로 올려야 하는 상황에서는 개조 4090 쪽이 유리하다.

우선순위유리한 쪽근거
VRAM 용량과 긴 컨텍스트개조 4090 48GB 두 장 (96GB)프로급의 1/2~2/3 비용으로 96GB 확보
소형 dense 모델 추론 속도개조 4090 48GB앰페어 A6000 대비 우위, 쿨링·팬 프로파일도 우위
토큰 생성·디코드 대역폭Strix Halo 128GB LPDDR5영상이 직접 인정한 우위 항목
GPU 간 대용량 데이터 교환어느 쪽도 아님NVLink·피어투피어 모두 비활성, PCIe x8 한계

여기서 dense 모델은 추론할 때 모든 파라미터를 쓰는 일반적인 구조를 가리키며, 일부 전문가 블록만 활성화하는 MoE 계열과 구분된다. 영상의 벤치 우위는 소형 dense 모델 추론에서 확인된 결과이므로, 다른 구조나 더 큰 모델까지 그대로 확장해 읽어서는 안 된다.

그래서 무엇이 달라지나

선택지가 하나 늘었다. 지금까지 48GB 이상 VRAM은 프로급 카드를 사거나 포기하거나 둘 중 하나였는데, 이미 4090을 가진 사람에게는 1,600~1,700달러를 더 내는 세 번째 경로가 생겼다. 다만 이 경로가 성립하려면 카드가 이미 있어야 하고, 보증을 포기할 각오가 있어야 한다.

판단 기준도 단순해졌다. 용량과 컨텍스트가 병목이면 개조가 답이고, 초당 토큰이 병목이면 128GB 통합 메모리 기기 쪽을 먼저 보는 편이 낫다. 두 장을 붙일 계획이라면 구매 전에 자신의 워크로드가 GPU 간 통신을 얼마나 요구하는지 확인해야 하는데, PCIe x8 한계가 여기서 그대로 드러나기 때문이다.

권리 문제도 이 실험의 한 축이다. Wendell은 정당하게 산 물건은 구매자의 것이라는 first sale doctrine(최초 판매 원칙 — 적법하게 판매된 복제물이나 물건에 대해 판매자의 이후 통제권이 제한된다는 법리)과 항공 산업의 부품 관련 판례를 근거로, Nvidia의 반대에도 이 개조가 소비자 권리 안에 있다고 주장했다. 법적 결론이 난 사안은 아니므로 이 부분은 화자의 견해이며, 실제 분쟁이 어떻게 정리될지는 아직 확인되지 않았다.

이 흐름이 어디까지 갈지도 열려 있다. 영상은 워터블록 버전과 추가 업그레이드를 검토하겠다고 했고, 별개로 BC250의 잠금 해제로 1080p 게이밍이 60FPS에 근접했다는 사례도 함께 소개했다. 폐기 직전의 하드웨어를 되살리는 시도가 개인 단위에서 반복 가능해지고 있다는 신호로 읽히지만, 서비스 공급자가 얼마나 오래 유지될지는 예측하기 어렵다.

정리

48GB 개조는 성능 경쟁이 아니라 용량 경제학의 문제이며, 4090을 이미 보유했을 때만 계산이 맞는다. 소음과 온도는 실제 추론 부하에서 충분히 다룰 만한 범위였지만, 두 장 구성의 카드 간 대역폭 제약은 설계 단계에서 피해 갈 방법이 없다. 지갑이 아니라 워크로드가 결정을 내려야 하는 장비다.

원문 출처

영상 원문 보기