NVMe1 GPU 이후, 스토리지가 AI 데이터센터의 새 병목으로 떠오르다 AI 학습과 추론을 가속화하기 위한 데이터센터 경쟁이 한창입니다. 그동안 GPU 성능이 AI 성능의 핵심으로 주목받았지만, 이제 새로운 병목이 스토리지(저장장치)에서 발생하고 있습니다. 모델이 대형화되고 데이터셋이 폭증하면서, 초고속 연산을 지원할 만큼의 저장·전송 인프라가 따라가지 못하는 것입니다. GPU의 병목을 해소한 뒤 맞닥뜨린 ‘다음 벽’은 바로 데이터 이동 속도입니다. AI 인프라의 구조는 GPU, 메모리, 네트워크, 스토리지의 조합으로 이뤄집니다. 그런데 최근 고성능 GPU의 처리 속도가 수십 테라플롭스를 넘어서면서, 연산은 빠른데 데이터 공급이 따라가지 못하는 현상이 두드러집니다. 이는 마치 엔진은 고성능이지만 연료가 제때 공급되지 않아 속도를 내지 못하는 자동차와도 같습니다. 결과적으로 .. 2025. 10. 26. 이전 1 다음
