파네시아, 차세대 AI인프라 관련 기술백서 공개... CXL을 활용해 NVLink, UALink, HBM 등 차세대 연결/메모리 기술 통합하는 슈퍼클러스터 구조 제안
Share
파네시아가 AI 인프라 설계에 대한 비전을 담은 기술 백서(제목: “AI 인프라 혁신의 중심, 메모리∙링크 중심의 연결 반도체와 데이터센터 연결 솔루션 ”)를 공개했습니다. 해당 백서에서 파네시아는 현대 AI 모델의 트렌드와 이를 처리하는 현대 AI 인프라의 한계를 소개하고, 컴퓨트익스프레스링크(Compute Express Link, CXL)을 비롯하여 NVLink, UALink (Ultra Accelerator Link), 고대역폭메모리(High Bandwidth Memory, HBM) 등 다양한 연결 기술 및 메모리 기술을 활용해 AI 인프라를 개선하는 방안에 대해 다루고 있습니다.
파네시아는 기존의 고정된 GPU 기반의 구조에서 벗어나 다양한 연결기술을 활용해 유연하고, 확장성이 뛰어나며, 효율적으로 통신을 수행하는 구조를 구축함으로써 AI 인프라가 마주한 현안을 해결하겠다는 방침입니다.
정명수 대표는 관련하여 "작년 8월 키노트 발표를 준비하며 정리한 AI 인프라에 대한 의견을 보다 정제된 형태로, 많은 사람들에게 공유하기 위해 이 기술리포트를 작성하게 되었다"며, “AI를 잘 모르는 독자분들도 AI와 LLM을 이해할 수 있도록 최대한 쉽게 설명하고, 이러한 AI 서비스의 특성을 고려했을 때 미래의 AI 인프라가 어떻게 바뀔 것인가에 대한 논의를 다루었습니다. 관심 있는 분들에게 도움이 되면 좋을 것 같다"고 의견을 전했습니다.
파네시아 기술백서 개요
파네시아가 이번에 공개한 백서는 크게 3가지 파트로 구성됩니다:
- 변화하는 AI 모델 패러다임과 이를 위한 현대 데이터센터 구조
- CXL 기반 컴포저블(composable) 구조: CXL을 활용한 데이터센터 구조 개선 방안 및 실제 응용 가속 사례
- CXL을 넘어, 다양한 연결기술을 함께 활용하여 구축하는 AI 인프라 구조.
1. 변화하는 AI 모델 패러다임과 이를 위한 현대 데이터센터 구조
최근 챗봇, 이미지 생성, 영상처리 등 시계열 데이터(time-series data)를 다루는 AI 모델이 많이 활용되고 있습니다. 본 백서는 이와 같은 시퀀스-투-시퀀스(sequence-to-sequence) 모델의 구조와 동작, 그리고 순환 신경망(Recurrent Neural Netowrk, RNN)부터 대규모 언어모델(Large Language Model, LLM)까지 이어지는 시퀀스-투-시퀀스 AI 모델의 변천사에 대해 되짚어보는 내용으로 시작합니다. 이후 이를 처리하는 현대 AI 인프라 구조에 대해 설명하고, 현재 구조의 한계점에 대해 논의합니다. 파네시아는 특히 동기화 과정에서 발생하는 ‘통신 오버헤드’와 GPU 등 고정적인 구조로 인해 야기되는 ‘낮은 자원 활용도’를 AI 인프라의 문제로 보고, 이에 대해 논의합니다.
2. CXL 기반 컴포저블 구조: CXL을 활용한 데이터센터 구조 개선 방안 및 실제 응용 가속 사례
앞서 설명한 문제에 대해 해결하기 위해, 파네시아는 차세대 연결기술인 CXL을 활용하는 솔루션에 대해 소개합다. 구체적으로, CXL의 개념과 특징에 대해 전반적으로 설명하고, 이러한 CXL을 통해 캐시 일관성을 자동으로 보장하여 불필요한 통신을 최소화하고, 보다 유연한 확장을 가능케함으로써 기존 AI 인프라의 한계를 해결할 수 있다는 메시지를 전합니다. 또한, 파네시아가 보유한 CXL 설계자산(IP), CXL 스위치 등의 기술을 활용하여 실제로 CXL 프로토타입을 구축하고, 이를 활용하여 실제 AI 응용을 가속한 다양한 사례를 소개하며 실용성에 대해 논의합니다.
3. CXL을 넘어, 다양한 연결기술을 함께 활용하여 구축하는 AI 인프라 구조
본 백서에서 다루는 것은 CXL에 한정되지 않습니다. 파네시아는 CXL을 넘어서, 다양한 연결기술과 통합하여 더 나은 AI 인프라 구조를 구축하는 방법에 대해서도 제안합니다. 핵심은 슈퍼클러스터 구조로, UALink, NVLink, NVLink Fusion 등 가속기에 특화된 연결기술로 구축된 클러스터들의 확장성과 호환성, 그리고 통신 효율을 개선하기 위해 CXL 기술을 적용한 구조입니다. 파네시아는 이러한 연결기술의 통합을 통해, 각 연결기술이 가지는 장점들을 종합할 수 있음을 백서에서 설명합니다. 이후, HBM, 실리콘 포토닉스(silicon photonics) 등 최신 메모리 기술 및 연결 기술의 실용적인 활용 방안에 대해서 논의하며 마무리됩니다.
맺음말
이번 백서 공개로 파네시아는 다시 한번 CXL, UALink 등 차세대 연결 기술에 대한 리더십을 확고히 하였습니다. 한편 파네시아는 CXL 컨소시엄, UALink 컨소시엄, PCI-SIG, 오픈컴퓨트프로젝트(Open Compute Project, OCP) 등 연결 기술 및 AI 인프라와 관련된 다양한 협의체에 참여하여 공식 멤버로서 활동도 지속해나가고 있습니다. 최근에는 파네시아의 AI인프라에 대한 비전을 실현하기 위한 제품군인 링크솔루션 제품 라인업을 공개하며 브랜드 정체성을 강화하기도 했습니다.
파네시아 정명수 대표는 “앞으로도 다양한 연결기술을 개발하고, 관련된 의견을 공유하며 더 나은 AI 인프라를 만들어 나가는 움직임을 이끌어 나가고자 한다”며 소감을 전했습니다.
파네시아가 이번에 공개한 AI 인프라 관련 기술 백서는 파네시아의 홈페이지를 통해 확인할 수 있습니다.
