This post has not been translated to English yet. Showing the original text.
하이닉스가 미국의 행사에서 재미있는 제안을 했나 봅니다.
그동안 AI 학습은 연산이 중요했으니, CPU & GPU 위주로 시스템 인프라를 구성했겠지만, 추론 시장에선 메모리가 '너무' 많이 소요되므로, HBM을 중심으로 설계를 바꿔보자는 이야기예요. 온프렘 스토리지 쪽에서는 이미 Pool이란 개념을 기본으로 쓰고 있는 것으로 알고 있는데요. 이 개념을 메모리에 도입하자는 거죠.
다만 GPU 생태계를 바탕으로 AI 인프라의 헤게모니를 쥔 엔비디아가, 메모리 활용을 확대하더라도 시스템 설계와 소프트웨어의 주도권까지 쉽게 내주지는 않을 거예요.
--
서울경제 | 2026년 10월 13일 | 김창영 특파원 | https://www.sedaily.com/article/20100964
12일(현지 시간) 미국 캘리포니아주에서 열린 'OCP(오픈컴퓨트프로젝트) 글로벌 서밋'에서 SK하이닉스의 김호식 부사장이 중요한 화두를 던졌습니다. 전통적인 컴퓨터나 서버 설계에서는 항상 두뇌 역할을 하는 연산 장치(CPU/GPU)가 시스템의 중심이고 메모리(D램)는 그저 데이터를 잠시 저장해 두는 하위 부품(조연)이었습니다. 하지만 엄청난 양의 데이터를 쉴 새 없이 처리해야 하는 '에이전틱 AI' 시대가 도래하면서, 연산 속도보다 메모리의 용량과 데이터를 퍼나르는 속도가 전체 시스템 성능을 좌우하는 상황(메모리 병목)이 발생하고 있습니다.
SK하이닉스는 이 한계를 극복하기 위해 메모리를 아예 시스템의 핵심 인프라로 격상시키는 '메모리 중심 AI 랙 시스템(MARS: Introduction to Memory-centric AI Rack System)'을 제안했습니다. 핵심 기술은 메모리의 분리 및 풀(Pool) 조성입니다. 기존에는 특정 CPU나 GPU 칩 바로 옆에 메모리가 딱 붙어 있어서(종속), 해당 칩이 바쁘지 않으면 메모리도 놀게 되는 비효율이 발생했습니다. MARS 구조는 메모리들을 칩에서 분리하여 하나의 거대한 공용 자원(Pool)으로 묶어둡니다. 그리고 수많은 GPU나 CPU가 작업량에 따라 필요한 만큼 이 공용 메모리 풀에서 메모리 자원을 유연하게 끌어다 쓸 수 있게 만듭니다. 이렇게 하면 버려지는 자원 없이 메모리 효율성을 극대화하여 메모리 부족 장벽을 해결할 수 있다는 발상의 전환입니다.
