메모리 밀도 벽을 무너뜨리기 위한 노력의 일환으로 Micron은 새로운 초고밀도 512GB DDR5 서버 RAM을 출시했습니다. 새로운 메모리는 512GB DDR5 RDIMM 모듈 형태로 제공되며, 최대 9200MT/s의 속도로 512GB 메모리가 하나의 스틱에 채워져 있습니다. 이것이 메모리 시장에서 세계 최초라는 이야기가 있는 것 같지만 사실이 아닙니다. 삼성은 2021년에 자체 512GB DDR5 모듈을 시장에 출시하여 세계 최초의 차별화를 이루었습니다. 그러나 Micron의 512GB DDR5 모듈은 9,200MT/s의 데이터 속도를 달성하는 동시에 모듈당 16W로 작동하는 최초의 모듈입니다. 참고로 최신 소비자 장치의 RAM 크기는 대략 4~8GB(저가형 휴대폰, 저렴한 노트북 및 기타 소형 장치의 경우)부터 32~64GB 이상(고급 게임 PC의 경우)까지입니다.
여기서 전력 효율성은 중요한 지표입니다. Micron은 자사의 512GB 모듈이 4개의 128GB 모듈이 사용하는 44와트보다 60% 적은 전력을 소비한다고 주장합니다. 커뮤니티가 데이터 센터에 반발함에 따라 모든 와트가 중요해졌습니다. Micron의 3차원 TSV(실리콘 관통 비아) 사용은 더 큰 전력 효율성을 가능하게 하는 것의 일부일 뿐만 아니라 EUV 리소그래피를 기반으로 구축된 Micron의 최신 DDR5 메모리 제조 공정인 1γ(1-감마) 노드이기도 합니다. 이는 Micron DDR5가 9200MT/s에 도달할 수 있게 한 것과 동일한 노드이며 Micron은 이것이 실제로 새로운 512GB DDR5 RDIMM의 기반이 되는 노드임을 확인했습니다.
Micron은 3D TSV 패키징을 사용하여 32GB DRAM 다이를 쌓아 수직으로 상호 연결합니다. TSV를 사용하면 와이어 본드와 PCB 와이어 트레이스가 교체되고 전기 신호는 PCB를 가로지르는 것이 아니라 메모리 스택 위아래로 직선으로 라우팅됩니다. 이는 전력 경로를 단축시켜 저항을 낮추고 신호 무결성을 개선하며 전력 효율성을 향상시킵니다. 메모리를 수직으로 쌓으면 동일한 RDIMM 폼 팩터에서 이러한 극도의 밀도가 가능해집니다.
초고밀도 DDR5는 틈새 시장이었지만 AI 수요가 이를 바꿀 수 있습니다.
제가 Micron과 대화했을 때 회사는 다음과 같은 진술을 공유했습니다.
“Micron의 512GB DDR5 RDIMM은 새로운 수준의 초고밀도 서버 메모리로, 단일 듀얼 소켓 서버에서 최대 9,200MT/s의 속도로 최대 12TB의 DDR5를 지원하는 동시에 4개의 128GB RDIMM에 비해 작동 전력을 60% 이상 줄입니다. 이는 크고 까다로운 AI, 분석 및 인메모리 데이터베이스 워크로드를 위해 구축되었으며 우리는 AMD 및 Intel과 긴밀히 협력하고 있습니다. 고객의 요구 사항에 맞춰 원활하게 배포할 수 있도록 차세대 서버 플랫폼에서 이를 검증합니다.”
AI 교육, 분석, 가상화, 시뮬레이션 중심 워크로드와 같은 대상 워크로드 외에도 Micron은 Spark SVM(지원 벡터 머신)을 나열하고 512GB RDIMM이 256GB 구성에 비해 1.4배 더 높은 성능을 제공할 수 있다고 주장합니다. 밀도가 높은 DRAM은 더 많은 데이터가 메인 메모리에 저장되고, 캐싱을 개선하며, SATA SSD 또는 느린 HDD를 기반으로 하는 느린 데이터 스토리지 계층에서 데이터 가져오기를 줄일 수 있음을 의미합니다.
512GB RDIMM은 삼성의 모듈이 몇 년 동안 시장에 출시되었음에도 불구하고 실제로 성공하지 못했습니다. 천문학적인 비용이 확실히 중요한 요소이지만 이러한 모듈은 고급 프로세스 노드를 기반으로 하기 때문에 성숙한 프로세스보다 수율이 낮을 것으로 예상할 수도 있습니다. 2021년 삼성의 시장 진출은 광범위한 AI 인프라 구축과 글로벌 메모리 부족에 앞서 이루어졌으며 데이터 센터 하이퍼스케일러는 데이터 센터가 2026년 글로벌 메모리 공급의 70%를 차지할 것으로 예상됨에 따라 가격이 더 이상 문제가 되지 않는다는 것을 보여주었습니다. 또한 AMD의 192 코어 Epyc 9965와 같이 서버 CPU가 200 코어에 접근하는 것을 보고 있습니다. 따라서 여기서 Micron의 타이밍은 완벽할 수 있습니다.
업계 검증, 생산 일정 및 Micron은 여전히 충분한 메모리를 제공할 수 없습니다.
Micron은 새로운 DDR5를 검증하기 위해 생태계 파트너인 AMD 및 Intel과 협력하고 있다고 밝혔습니다. 이곳은 AMD와 Intel이 JEDEC 사양에 따라 DDR5를 테스트하고 특정 CPU(Xeon 및 Epyc) 및 서버 플랫폼과의 호환성을 위해 메모리를 스트레스 테스트하는 곳입니다. 플랫폼 검증에 이어 Micron은 DDR5 512GB RDIMM이 2027년 하반기에 대량 생산에 들어갈 것으로 예상하고 있습니다.
가격과 관련하여 Micron은 고객과 직접 협상하므로 공개적으로 공개하는 정보가 아닙니다. 그러나 공개적으로 이용 가능한 정보를 기반으로 수집해야 할 부분이 있습니다. 밀도가 절반이고 훨씬 낮은 데이터 속도로 실행되는 단일 256GB DDR5-6400 RDIMM의 소매 가격은 11,000~16,000달러입니다. Micron의 512GB 모듈은 훨씬 더 비쌉니다. 마이크론은 또한 AI, 데이터 센터, 자동차 시장에서 최소 16개 이상의 전략적 고객 계약을 체결했다고 발표했으며, 이 계약은 공급 확보를 위한 사전 약속으로 총 220억 달러에 달합니다. Micron은 2028년까지 공급이 제한될 것으로 예상하고 있으며 고객은 현재 출하 가능한 것보다 50% 더 많은 메모리를 원하고 있습니다.
이것은 일반적으로 Micron이 Crucial 브랜드를 폐쇄하고 2025년에 소비자 메모리 사업을 완전히 종료한다는 점을 제외하면 이러한 종류의 발전이 더 밀도가 높은 소비자급 메모리의 길을 열 수 있다고 말하는 부분입니다.
