뉴스 | Panmnesia

파네시아, 내년 하반기 CXL 3.1 기반 스위치 고객사에 공급 예정

Panmnesia July 23, 2024

파네시아의 정명수 대표는 7월 16일 부산 윈덤 그랜드호텔에서 개최된 반도체공학회에서 파네시아의 핵심 CXL 제품군인 CXL 스위치 SoC(System-on-Chip)와 CXL IP의 개발 현황 및 로드맵을 발표했습니다. 정 대표는 “내년 하반기에 파네시아 CXL 3.1 스위치 칩을 고객사에 제공할 계획”이라고 밝혔습니다. CXL 스위치는 CPU, 메모리, 가속기 등 여러 시스템 장치를 연결하고 종단간 통신을 관리하는 핵심 장치로, 파네시아가 자체 확보한 IP를 기반으로 개발 중인 제품입니다.

파네시아의 CXL 스위치는 최신 표준인 CXL 3.1 기능을 모두 지원하며, 이전 표준 장치와도 상호 운용이 가능합니다. 특히 여러 대의 스위치를 다수의 계층으로 연결하거나 패브릭 구조로 연결해 수백 대 이상의 장치를 연결할 수 있는 고확장성을 특징으로 합니다. 또한 CXL.mem, CXL.cache, CXL.io 등 모든 CXL 프로토콜 IP를 확보하여 메모리, AI 가속기, GPU 등 다양한 장치를 연결할 수 있는 범용성도 갖추고 있습니다.

이러한 특징(고확장성, 범용성) 덕분에, 파네시아의 CXL 스위치는 실제 기업 데이터센터에 장착된 다양한, 다수의 장치들을 연결하는 데 유용하게 활용될 수 있습니다. 정 대표는 파네시아가 개발하는 CXL 3.1 스위치의 활용 예시로 챗GPT와 같은 대규모 AI 응용을 가속하는 차세대 데이터센터 구조를 소개했습니다.

최근 마이크로소프트 등 데이터센터 운영기업 및 하이퍼스케일러들이 운영하는 기계학습 서비스는 특성이 서로 다른 여러 종류의 모델 및 연산을 복합적으로 활용하는데, 각 모델/연산을 처리하기에 최적화된 장치 구성이 서로 다릅니다. 예를 들어, 최신 버전의 챗 GPT는 정확한 정보 처리를 위해 대규모 언어모델(Large Language Model, LLM)과 벡터 데이터베이스(Vector DB)를 동시에 활용하는데, 대규모 언어모델을 효율적으로 실행하기 위해서는 다수의 GPU가 필요한 반면, 대용량의 벡터 데이터베이스를 저장하기 위해서는 다수의 메모리/저장장치가 필요합니다. 따라서, 이 다양한 모델/연산들의 니즈를 모두 만족시키는 완벽한 하나의 서버 형태를 구성하는 것은 불가능합니다.

관련하여 정 대표는 “파네시아가 제안하는 것은, GPU 풀 (GPU로 구성된 서버), 메모리 풀(메모리로 구성된 서버)처럼 특정 시스템 장치를 한데 연결한 서버를 각각 구성하고, 이 서버들을 CXL로 연결하여 통합된 시스템을 구성하는 것이다. 이후 각각의 시스템 장치 풀에서 잘 처리할 수 있는 응용을 전담하여 수행하도록 하면, 다양한 모델/연산을 가장 효율적인 형태로 처리하는 것이 가능해진다. 이를 위해서는 CXL 스위치가 다양한 종류의 장치를 연결할 수 있어야 하고, 여러 서버를 하나의 시스템으로 연결할 수 있어야 하는데, 범용적이며 고확장성을 지원하는 파네시아의 스위치가 여기에 적합하게 활용될 수 있다.”고 설명했습니다.

또한, 정 대표는 올해 파네시아가 실리콘 공정을 마친 CXL 3.1 컨트롤러 칩의 실물을 공개하며 “본 실리콘 칩에는 파네시아가 기존에 순수 국내 기술력만으로 개발한 세계에서 가장 빠른 CXL 3.1 IP가 내재되었다”고 설명했습니다. 참고로, 파네시아가 개발한 CXL 3.1 IP는 세계 최초로 두 자리 나노초(nanosecond)의 지연시간을 달성한 바 있으며, 파네시아가 개발하는 CXL 스위치 칩에도 마찬가지로 해당 IP가 탑재될 예정입니다.

정명수 대표는 “실제 AI 데이터센터에 순수 국산 기술로 이루어진 CXL 솔루션이 적용되는 날이 곧 올 것”이라며 기대감을 드러냈습니다.

파네시아의 CXL 솔루션에 대한 설명은 반도체 설계자산(IP) 판매 중개사이트인 디자인앤리유즈(Design & Reuse)에서 더 자세히 확인할 수 있습니다.

Design & Reuse

파네시아, 세계 최초 두 자릿수 나노초 CXL 컨트롤러로 GPU 메모리 용량 한계 돌파

Panmnesia July 08, 2024

파네시아가 업계 최초로 두 자릿수 나노초의 왕복 지연시간을 가진 고속 CXL 컨트롤러를 공개했습니다(자체 제작 CXL ASIC IP 포함). 이는 지금까지 보고된 어떤 CXL 컨트롤러보다도 짧은 지연시간으로, 성능 저하를 최소화하면서 저비용으로 메모리 확장이 가능합니다. 파네시아는 CXL IP를 활용한 GPU용 테라바이트 수준 메모리 공급 스토리지 확장 솔루션도 공개했습니다. 이 기술은 오는 7월 9일, 미국 산타클라라에서 열리는 USENIX 컨퍼런스 및 HotStorage에서 처음 선보일 예정입니다.

CXL, 비용 효율적인 메모리 확장의 열쇠: 대규모 언어 모델 등의 대용량 응용의 부흥으로 인해 메모리 요구량이 증가하면서 메모리 확장이 필요해졌습니다. 이에 따라 많은 빅테크 기업들이 비용 및 성능 면에서 효율적인 메모리 확장을 가능케 하는 CXL에 주목하고 있습니다.
CXL을 활용하면 계산 자원과 메모리 자원을 원하는 비율로 연결하여 통합된 메모리 공간을 구성할 수 있어 비용 효율적인 메모리 확장이 가능합니다. CXL 컨트롤러가 캐시 일관성 관리 등의 작업을 자동으로 수행하기에, 사용자는 메모리 공간을 별도로 관리할 필요 없이 확장된 메모리를 활용할 수 있습니다.

파네시아의 저지연 CXL 컨트롤러, 효율적인 CXL 시스템의 핵심 구성 요소: 이렇듯 CXL은 비용 효율적인 메모리 확장 솔루션이지만, 이상적인 메모리 확장 솔루션은 확장된 메모리에 접근할 때 지연 시간이 로컬 메모리에 접근할 때와 큰 차이가 나지 않아야 합니다. 이에 따라 메모리 확장으로 인한 지연 시간을 최소화하는 것이 중요합니다.
파네시아는 최근 이러한 요구를 충족하는 저지연 CXL 컨트롤러 IP를 개발하고, 실리콘 공정을 완료했습니다. 해당 컨트롤러는 업계 최초로 두 자릿수 나노초의 왕복 지연 시간을 보여주며, 이는 기존에 보고된 어떠한 CXL 컨트롤러보다 짧은 지연 시간을 자랑합니다. 파네시아는 CXL 표준 특성에 대한 깊은 이해를 바탕으로, CXL의 다양한 계층(물리계층, 링크계층, 트랜잭션계층 포함) 동작을 최적화하여 이러한 저지연 컨트롤러를 개발했다고 밝혔습니다. 이러한 파네시아의 CXL 컨트롤러 IP는 CPU, 스위치, 메모리 장치, 가속기 등 모든 시스템 장치에 적용될 수 있으며, CXL 메모리 관리 동작을 자동화 및 가속하여 비용 효율적인 메모리 확장을 가능하게 합니다.

파네시아의 고속 CXL 컨트롤러 IP를 활용한 CXL-GPU: 지연 시간 최적화는 전반적으로 모든 고객이 원하지만, 특히 대규모 언어 모델(LLM) 및 추천 시스템 같은 AI 서비스 운영 기업의 경우 이에 대한 수요가 강합니다. 요청 처리 지연 시간이 AI 서비스의 사용자 만족도 및 매출에 직접적인 영향을 미치기 때문입니다.
파네시아는 저지연 CXL 컨트롤러 IP를 활용한 GPU 메모리 확장 솔루션 'CXL-GPU'를 공개했습니다. 이 솔루션은 여러 스토리지를 CXL로 연결하여 테라바이트 수준의 메모리 공간을 형성하고, 이를 GPU 메모리에 통합합니다. 통합된 메모리 공간에는 대규모 AI 서비스 처리를 위한 데이터가 저장되며, GPU는 이 데이터에 접근하여 연산을 수행합니다. 파네시아의 저지연 CXL 컨트롤러는 GPU 및 저장 장치에 배치되어 통합된 메모리 공간을 관리하는 작업을 자동으로 처리합니다.
기존에 고가의 GPU를 추가 구매하여 메모리 용량을 늘리던 방식과 달리, 파네시아의 기술을 활용하면 메모리 자원만 선택적으로 추가하여 AI 서비스 가속 시스템 구축 비용을 획기적으로 절감할 수 있습니다. 더 나아가, 파네시아의 저지연 CXL 컨트롤러는 추가되는 동작으로 인한 지연을 최소화하여 성능 저하 없이 효율적인 메모리 확장을 가능하게 합니다.
파네시아는 CXL 컨트롤러와 커스텀 GPU를 통합하여 커스텀 GPU 프로토타입을 제작했으며, 이를 통해 AI 서비스 주요 연산 성능을 평가한 결과 기존 GPU 메모리 확장 기술보다 2.36배 빠른 성능을 확인했습니다.

정명수 대표는 “당사 CXL 컨트롤러 IP를 적용한 GPU 스토리지 확장 기술은 대규모 AI 서비스 운영 기업들이 서버 구축 비용을 획기적으로 절감하는 데 기여할 것으로 기대”한다고 말했습니다. 또한 “예시로 든 GPU 메모리 확장 솔루션 외에도 클라우드 컴퓨팅 및 HPC 환경에서 성능 저하 없이 메모리 확장 비용을 절감하는 데 있어 당사 CXL IP는 핵심 구성 요소가 될 것”이라고 덧붙였습니다.

한편, 파네시아는 CXL 컨트롤러 IP를 활용한 솔루션과 CXL-GPU를 오는 7월 미국 산타클라라에서 열리는 USENIX 컨퍼런스 및 HotStorage에서 처음 선보일 예정입니다. 보다 자세한 내용은 하단 링크를 통해 확인할 수 있습니다.

CXL-GPU 기술백서 읽기 CXL-GPU 기술백서 다운로드 (PDF) CXL 3.1 IP 정보 확인

파네시아, 저지연 CXL 컨트롤러 IP 기반의 GPU 메모리 확장 솔루션, CXL-GPU 공개

Panmnesia June 25, 2024

파네시아가 GPU 메모리 용량 한계를 극복하는 솔루션, CXL-GPU를 공개하였습니다.

CXL-GPU 솔루션은 CXL을 통해 대용량 스토리지 미디어를 GPU 시스템 메모리에 통합시킴으로써, GPU 메모리 용량을 수 테라바이트 수준 이상으로 증가시킵니다. 뿐만 아니라, 해당 솔루션은 파네시아가 업계 최초로 개발한 두 자릿수 나노초(nanosecond) 지연시간을 가진 고속 CXL 컨트롤러 IP를 포함하고 있습니다. 그 덕분에 CXL-GPU 솔루션은 메모리 확장 과정에서 발생할 수 있는 성능 저하를 최소화할 수 있습니다.

CXL-GPU 솔루션에 대한 보다 자세한 내용은 다음의 링크를 통해 확인할 수 있습니다.

CXL-GPU 기술백서 읽기 CXL-GPU 기술백서 다운로드 (PDF) CXL 3.1 IP 정보 확인

파네시아 정명수 대표, 반도체공학회 하계학술대회 메인 키노트 발표

Panmnesia June 24, 2024

파네시아 정명수 대표가 오는 7월 16일 부산에서 개최되는 2024년도 반도체공학회 하계학술대회에서 메인 키노트 발표자로 나섭니다. 정 대표는 “CXL이 AI 반도체 시장, 그리고 메모리 시장에 가져올 새로운 기회”라는 주제로 발표할 예정입니다. 메인 키노트 발표자는 총 3인으로, 정명수 대표를 포함해 삼성전자 유창식 EVP, 네이버/네이버클라우드 하정우 센터장이 발표할 예정이며, 각각 메모리(삼성전자)와 CXL(파네시아), 그리고 AI(네이버)와 관련된 주제를 다룰 예정입니다.

한편 본 학술대회는 인공지능 기술의 급격한 부상 등 급변하는 반도체 기술과 산업의 상황에서 국내외의 최신 반도체 기술과 정보를 공유하고 전문가들의 교류와 협력을 통해 나아갈 방향을 찾는 기회를 마련하고자 매년 열리고 있습니다.

정명수 대표의 발표 관련 세부 정보는 하단 링크를 통해 확인하실 수 있습니다.

반도체공학회 하계학술대회

파네시아 정명수 대표 인터뷰, 조선일보 지면 게재

Panmnesia May 23, 2024

파네시아 정명수 대표의 인터뷰가 24년 5월 23일자 조선일보 지면에 게재되었습니다. 해당 인터뷰에서 정명수 대표는 파네시아의 주력 제품인 CXL IP와 데이터 센터용 스위치를 소개했습니다. 또한 정 대표는 파네시아의 목표를 “국내 CXL 기술로 메모리 장치를 인공지능 가속기, CPU, GPU 등 다양한 반도체들과 연결해 효율적인 데이터 처리 시스템을 만들어내는 것”이라며, “이를 연결할 수 있는 IP를 유일하게 가지고 있다”고 설명했습니다. 현재 파네시아는 지난해 CXL 3.1 솔루션을 공개한 이후 CXL 4.0 등 더 고도화된 기술에 대한 연구를 진행하고 있습니다. 또한 여러 빅테크들과 긴밀히 협업하고 있으며, 올해 말부터 본격적인 매출을 올릴 것으로 기대하고 있습니다.

보다 자세한 인터뷰 내용은 조선일보 2024년 5월 23일 B06면, 혹은 하단 링크를 통해 확인하실 수 있습니다.

조선일보 기사 링크

파네시아, CXL DevCon(개발자 컨퍼런스) 참여

Panmnesia May 02, 2024

파네시아가 미국 캘리포니아주 산타클라라에서 열린 제1회 CXL 컨소시엄 개발자 컨퍼런스 2024(CXL DevCon 2024)에 메인 스폰서로 참가했습니다. 특히 국내 기업으로는 삼성, 하이닉스와 함께 참석하여 CXL 선도기업으로서 우수한 기술력을 선보였습니다. 올해 최초로 개최된 CXL DevCon 2024는 CXL 표준을 제정하는 CXL 컨소시엄에서 주관하는 공식 컨퍼런스로, 전세계 CXL 대표 기업들이 한 자리에 모여 CXL 제품 출품과 CXL 전문가들의 초청 강연 등을 중심으로 진행되었습니다. CXL 컨소시엄 멤버로 활동하고 있는 파네시아는 본 컨퍼런스에서 인텔/AMD社의 CXL CPU와 상호운용성 검증을 시연하여 퀄컴, 휴렛팩커드엔터프라이즈(HPE), 인텔, AMD, 마이크론, 화웨이, 텔레다인 르크로이 등 다양한 글로벌 IT 기업으로부터 많은 관심을 받았습니다. 한편, 다른 컨소시엄 멤버로는 미국 인텔, 엔비디아, AMD, 마이크로소프트, 메타, IBM이 있습니다.

파네시아의 CXL 상호 운용성 검증 데모와 CXL 3.1 IP 기반의 올인원 프레임워크: 파네시아는 이번 CXL DevCon 2024 전시 부스에서 CXL IP의 상호운용성 검증 데모를 선보였습니다. 해당 데모에서는 파네시아의 CXL IP를 활용하여 개발한 CXL 장치가 인텔/AMD의 CXL CPU와 안정적으로 호환되는지 검증하였습니다. 리눅스 운영체제의 다양한 명령어 실행 결과, 그리고 세계적인 테스트 플랫폼 제조사의 신호 분석 장치를 활용하여 해당 검증이 이루어졌습니다. 파네시아 관계자는 국내 스타트업으로서 최초로 CXL 상호운용성 검증을 시연한 것임을 강조했습니다.

CXL 상호운용성 데모는 CXL 3.1 올인원 프레임워크와 함께 전시되었습니다. CXL 3.1 올인원 프레임워크(CXL 3.1 All-in-One Framework)는 파네시아의 CXL 3.1 IP와 SoC를 활용하여 고객사들이 구현할 수 있는 예시 제품들로 구성되어 있으며, 구체적으로 CXL CPU, CXL 스위치, CXL 메모리 확장 장치 및 소프트웨어가 포함됩니다. 파네시아는 CXL 3.1 올인원 프레임워크 상에서 실제 데이터센터 응용을 가속할 수 있음을 보여주었으며, 퀄컴, 휴렛팩커드엔터프라이즈 (HPE), 인텔, AMD, 마이크론, 화웨이, 시놉시스, 텔레다인 르크로이 등 다양한 글로벌 IT 기업의 임직원들이 파네시아의 제품과 상호운용성 데모에 관심을 보였습니다.

파네시아 관계자는 “특히 인텔과 휴렛팩커드엔터프라이즈 측 인사들이 다수 방문하였다. 인텔 측 관계자는 파네시아의 데모와 전시품을 보며 ‘본인이 본 CXL 기술들 중 가장 앞선 위치에 있다’고 평가하였으며, 휴렛팩커드엔터프라이즈 측 관계자들은 파네시아의 CXL 스위치 기반 솔루션에 관 해 ‘매우 흥미롭고 합리적인 솔루션이다’고 평가하였다”고 주요 기업들의 반응을 전했습니다.

파네시아 권미령 CSO, CXL 3.1 스위치 기반 솔루션에 대한 컨퍼런스 발표: CXL DevCon 기간 중 둘째 날에는 파네시아의 공동창업자인 권미령 CSO(Chief Strategy Officer, 최고전략책임자)가 직접 컨퍼런스 연설자로 참여해, 파네시아의 차세대 CX L 3.1 스위치 기반 솔루션에 대해 소개했습니다. CXL 3.1 스위치는 CXL 3.1 시스템 내 장치들을 사용자가 원하는 대로 연결해주는 핵심적인 CXL 하드웨어 장치입니다. 자유로운 연결관계를 구성하기 위해서, CXL 3.1 스위치는 패브릭 매니저 소프트웨어가 내부 라우팅 규칙을 관리할 수 있도록 설계되었습니다. 이를 통해 사용자는 CXL 시스템을 손쉽게 대규모로 확장할 수 있습니다.

한편, 권 CSO는 이번 컨퍼런스 기간 중 공식 석상 발표 및 글로벌 기업들과의 비즈니스 미팅 일정을 집중적으로 수행했습니다. CXL DevCon 행사 발표 후, 오픈컴퓨트프로젝트(OCP) 미팅에 발표자로서 참석하여 파네시아의 차세대 데이터센터향 스위치 솔루션을 연이어 발표했으며, 해당 미팅에는 메타, 마이크로소프트, 인텔, AMD, 마이크론, HPE, 마벨, 삼성, 하이닉스 등 글로벌 기업의 고위 임직원들이 참석했습니다. 또한, 주기적으로 파네시아와 협업을 논의하던 여러 글로벌 IT 기업들의 미국 현지 캠퍼스를 직접 방문하여 비즈니스 미팅을 진행하며 파네시아의 혁신적인 기술과 비전을 알리는 데 힘썼습니다.

CXL DevCon 전시회 및 CXL DevCon에 참여한 국내 스타트업 파네시아의 정보는 하단 링크를 통해 확인할 수 있습니다.

CXL DevCon 2024

파네시아 정명수 대표 인터뷰, 중앙일보 지면 게재

Panmnesia March 22, 2024

파네시아 정명수 대표의 인터뷰가 24년 3월 22일자 중앙일보 지면에 게재되었습니다. 해당 인터뷰에서 정명수 대표는 CXL 생태계를 강조하며 CXL이 데이터센터의 필수인 이유와 이와 관련해 파네시아 가지고 있는 기술력을 소개했습니다. 또한 기사에서는, 현재 IT 업계의 공통 과제로 부각되고 있는 데이터센터의 총소유비용(Total Cost of Ownership, TCO) 문제를 CXL을 활용하여 해결하고자 하는 파네시아의 비전을 밝혔습니다.

CXL은 각각의 칩을 실시간으로 연결하여 데이터센터의 성능을 최적화하는 기술로, 공유와 협업을 중요시합니다. 기존 시스템은 메모리-CPU-GPU-CPU를 오가면서 연산을 계속 반복하며, 이 과정에서 병목 현상과 발열 문제가 생기게 됩니다. 하지만 CXL 기술을 활용하면 동시다발적인 협업으로 데이터 처리 속도를 높이고, 비용을 절감할 수 있습니다.

파네시아는 이러한 CXL 기술 개발을 선도하며, 세계적인 주목을 받고 있습니다. 최근 CXL 3.1 기술을 공개한 이후에는 메타, AMD, HPE 등 빅테크 기업과 미팅을 진행했으며, 앞으로 더 다양한 기업들과의 협업을 통해 CXL 기술을 활용한 다양한 제품이 시장에 출시될 것으로 예상됩니다.

파네시아 정명수 대표의 인터뷰 내용은 중앙일보 2024년 3월 22일자 종합 24면, 혹은 하단 링크를 통해 확인하실 수 있습니다.

중앙일보 기사 링크

파네시아 정명수 대표 인터뷰, 이코노미조선 매거진 게재

Panmnesia February 21, 2024

파네시아 정명수 대표의 단독 인터뷰가 조선일보의 프리미엄 주간지, 이코노미조선 528호에 게재되었습니다. 해당 인터뷰에서 정명수 대표는 파네시아의 설립 배경, 최근 소식, 그리고 비즈니스 확장 계획에 대해 소개하였습니다.

정 대표는 우선 파네시아의 설립 배경에 대해, “2015년부터 카이스트 출신 석박사 인력들과 데이터 공유 관련 연구를 지속해왔고, 2019년 인텔 주도의 CXL 프로토콜이 확립되기 시작하면서 그동안 해오던 데이터 공유 관련 연구 방향을 CXL에 집중했다”며 이의 연장선으로써 회사 설립까지 이루어졌음을 설명했습니다.

정 대표는 또한 최근 개발한 CXL 3.1 IP에 대해서는 책과 연관지어 간단하게 설명하였습니다. 정 대표는 “책을 CXL 장치라고 했을 때 CXL 1.1은 각 사용자의 개인 방에 있는 책장 (공유 및 스케일 측면에서 제한), CXL 2.0은 동네 서점 (일정 자원을 여러 사용자가 번갈아가며 돌려볼 수 있음; 단, 사용자 간 동시 사용 불가), CXL 3.1은 전자책을 모아둔 온라인 서점 (여러 사용자가 동시에 대여/활용 가능)으로 생각할 수 있다”고 설명하였습니다. 메타, HPE 등 빅테크 기업도 CXL 3.1 기술에 관심을 가지고 있으며, 협력 관련 논의 진행 중임을 설명하였습니다.

정 대표는 마지막으로 파네시아가 CXL IP 뿐만 아니라, CXL 스위치 비즈니스로도 영역을 확장 중임을 밝혔습니다. CXL 스위치는 CXL에 탑재되는 다양한 시스템 장치(CPU, 메모리 확장장치, 가속기 등)를 서로 연결해주는 핵심 장치로, 현재 개발은 완료하였으며, 양산을 준비 중이라고 설명하였습니다. 스위치 이외에도, 바이오 정보과학 데이터 처리와 벡터 서치, 딥러닝 기반 추천 시스템이 들어간 고성능 CXL 메모리 장치와 고성능 컴퓨팅에 사용되는 CXL 메모리 장치 등을 선보일 예정이라고 설명하였습니다. 새로운 통신 기법을 설계하고 구현하는 데 있어 CXL 외에도 실리콘 칩과 칩을 연결하는 칩렛(chiplet) IP, DDR 등의 메모리 컨트롤러 IP들을 개발하고 있다고 설명하였습니다.

보다 자세한 인터뷰 내용은 이코노미조선 528호를 구매하거나, (24년 2월 28일 이후) 하단의 링크 접속을 통해 확인할 수 있습니다.

이코노미조선 기사 링크

파네시아, CXL Tech Day 2024에서 최신 CXL 기술 소개

Panmnesia January 20, 2024

CXL 대표 스타트업 파네시아가 1월 19일 대전에서 개최된 CXL 테크데이 2024 행사에서 최신 CXL 기술을 대거 발표하였습니다. 파네시아 정명수 대표는 본 행사에서 HPE(휴렛팩커드엔터프라이즈)를 비롯한 글로벌 대기업들과의 협업 현황, 2024년도 사업 계획 또한 공개하였습니다.

CXL TechDay 개요: CXL TechDay는 최근 국내외에서 관심이 집중되고 있는 차세대 인터페이스 기술인 CXL 관련 최신 기술에 대해 소개하는 행사로, 올해 국내 CXL 스타트업 파네시아가 처음으로 개최하였습니다. 대전에서 진행된 본 행사에는 학부생, 국내 유수 언론사 기자를 포함하여 100명이 넘는 인원이 참석하였습니다.

CXL의 필요성, CXL을 활용한 데이터센터 혁신: CXL TechDay 행사는 정명수 대표의 CXL 기술에 대한 소개 발표로 시작되었습니다. 본 발표에서, 정명수 대표는 데이터센터 등 산업계에서 대규모 메모리를 필요로하는 이유와 전통적인 메모리 확장 기술의 문제점에 대해 지적하였습니다. 이어, CXL 기술이 기존 메모리 확장 솔루션의 한계를 극복할 수 있음을 설명하였습니다. 정명수 대표는 이어 CXL 1.1, CXL 2.0 기술을 지원하는 다양한 기업이 있지만, CXL 3.0/3.1 기술이야 말로 멀티-레벨 스위치 구조(multi-level switch architecture)를 활용한 대규모 확장을 지원하며, 서로 다른 호스트 간 메모리 공유를 가능케하는 데이터센터 수준 확장 솔루션이라고 설명하였습니다. 이어 파네시아가 개발한 다양한 CXL 3.0/3.1 기술에 대해 소개하였습니다. 정 대표는 파네시아가 CXL 3.0 원천특허를 비롯하여 CXL 타입2 장치 기반의 AI 가속 솔루션, CXL 및 MPI(Message Passing Interface) 기반의 HPC 응용 가속 솔루션, SSD에 CXL을 접목한 대규모 메모리 확장 기술의 국내외 특허를 보유하고 있음을 설명하였습니다.

이어서, 파네시아의 최신 CXL 기술에 대한 소개가 다음과 같이 이루어졌습니다.

CXL Tech Talk #1 - CXL x AI: 파네시아의 권미령 CSO(Chief Strategy Officer)는 대중들에게 CXL 기반의 대규모 AI 가속 솔루션에 대하여 소개하였습니다. 해당 Tech Talk에서, 권 CSO는 파네시아의 CXL 타입2 장치 기반 AI 가속 솔루션을 활용하면, 대규모 AI 서비스에 무한한 메모리 용량을 제공하여 처리를 가속하는 것이 가능하다고 설명하였습니다. 발표에서는 'AI 가속을 위한 CXL 타입2 장치의 구조'를 포함하여, ‘데이터 근처 연산 (near data processing, NDP) 기술’, 응용 특성을 고려한 CXL 기반 시스템에서의 데이터 배치 방법’ 등 대규모 AI 가속 솔루션에 포함되는 기술들에 대한 구체적인 소개가 이루어졌습니다.

CXL Tech Talk #2 - CXL x MPI: 파네시아의 최한진 AD(Assistant Director)는 CXL 3.0 기반의 슈퍼컴퓨터 응용 가속 솔루션을 소개하였습니다. 해당 솔루션은 CXL 3.0의 메모리 공유(memory sharing) 기술을 활용하여, 슈퍼컴퓨터 응용 처리 시에 빈번하게 발생하는 호스트 간의 통신 동작을 가속한 것으로, 파네시아가 보유한 CXL 3.0 전체-시스템 프레임워크를 기반으로 구현되었습니다.

CXL Tech Talk #3 - CXL x SSD: 파네시아 장성현 AD는 SSD에 CXL을 접목한 저비용 대규모 메모리 확장 솔루션을 소개하였습니다. 해당 솔루션은 일반적인 DRAM보다 가격이 저렴하고, 확장성이 뛰어난 낸드 플래시(SSD를 구성하는 미디어)를 메모리 처럼 활용한는 솔루션입니다. 지연시간이 상대적으로 긴 낸드 플래시를 메모리 처럼 활용할 경우, 전체적으로 성능이 저하될 수 있다는 단점이 존재하는데, 파네시아는 이를 극복하기 위해 AI를 활용하여 추후 접근할 데이터를 예측하여 미리 읽어오는 프리페칭 기술을 적용하였습니다.

파네시아의 협업 현황, 그리고 2024년도 사업 계획: 파네시아 정명수 대표는 본 행사에서 파네시아의 협업 현황, 그리고 2024년도 사업 계획에 대해서도 공개하였습니다. 구체적으로, 파네시아는 현재 20개 이상의 글로벌 IT 기업 및 연구기관과 협업 및 협업을 논의 중임을 밝혔습니다. 대표적인 사례로써, 최근 글로벌 클라우드 기업인 HPE(휴렛팩커드엔터프라이즈) 본사로부터 초청을 받아 이달 말 단독 대규모 미팅을 진행 예정이라고 소개하였습니다. 또한, 2023년 4분기의 주요 성과로써, ‘CES 2024 혁신상 수상 소식’, ‘로이터통신, 나스닥 등 해외 유수 언론사로부터 스포트라이트를 받은 소식’, ‘시드라운드 투자 및 과제 수주룰 통해 약 230억원 규모의 자금을 확보하고 1034억원의 기업 가치를 달성한 사실’ 등을 보고하였습니다. 최근에는 해외 투자기관으로부터 먼저 긍정적인 연락을 받았으며, 투자 관련 미팅을 진행 예정이라고 밝혔습니다. 오는 2024년도에는 대형 과제를 추가적으로 수주하고, 비즈니스를 확장할 계획임을 밝혔습니다. 정대표는 또한 젊은 인력들이 기술 개발에 몰두하며 성장할 수 있는 환경을 제공하기 위해, 최근 대전시에 사옥 형태의 “선행개발 캠퍼스 (파네시아 대전 선행개발 캠퍼스)”를 오픈하였음을 밝혔습니다. 24년 상반기 내, 서울시 강남구에 “파네시아 서울 사업개발 캠퍼스” 또한 오픈하여, 비즈니스 확장의 근거지로 활용할 계획 또한 공개하였습니다. 24년 본격적으로 채용을 가속할 파네시아의 채용 관련 정보는 파네시아 공식 채용 사이트에서 확인할 수 있습니다 (하단 링크 참조).

파네시아 공식 채용 사이트

파네시아, CES 2024 전시회 출품 성황리에 마무리

Panmnesia January 10, 2024

파네시아가 세계 최대 규모의 IT 박람회 ‘CES 2024‘ 출품을 성황리에 마쳤습니다. 글로벌 1위 IP 기업인 ARM을 비롯하여, 마이크로소프트, 애플, 인텔, 케이던스 등 글로벌 대기업의 고위 임원 및 직원들로부터 뜨거운 관심을 받았으며, 이달 말에는 글로벌 클라우드/데이터센터 기업 HPE(휴렛팩커드엔터프라이즈) 본사로부터 초청받아 단독 대규모 미팅을 진행할 예정입니다.

파네시아 대표 출품작: CXL 탑재 AI 가속기

파네시아는 이번 전시회에서 CXL 탑재 AI 가속기(CXL-Enabled AI Accelerator, CXL Type2 장치) 제품을 전시하였습니다. 해당 제품은 CXL 기술을 통해 무한한 메모리를 제공함으로써 생성형 AI 및 AI 기반 검색과 같은 대규모 AI 서비스를 가속해줍니다. 파네시아의 CXL 탑재 AI 가속기는 그 혁신성을 인정받아 컴퓨터 하드웨어 부문 CES 혁신상(Innovation Award)을 수상하였습니다. 1976년 제정된 CES 혁신상은 미국소비자기술협회(CTA)가 기술성, 심미성, 혁신성을 갖춘 혁신제품 및 신기술에 수여하는 상으로, 글로벌 기업 현직자 및 업계 전문가들이 평가해 공신력이 높습니다.

파네시아 전시 부스에서는 CXL 탑재 가속기를 활용하여 ‘AI 기반 이미지 검색’ 응용을 가속하는 데모 시연이 이루어졌습니다. AI 기반 이미지 검색은 구글, 마이크로소프트 등 글로벌 빅테크 기업의 주요 대규모 AI 서비스로, 이미지를 통해 사용자가 원하는 정보를 찾을 수 있도록 해줍니다. 이 서비스는 사용자가 입력한 이미지에서 객체(object)를 인식할 수 있도록 수천억개에 달하는 임의의 객체 특징들을 저장하고 있어야하며, 이는 수십 테라바이트 이상의 메모리를 필요로 합니다. 기존 시스템에서는 메모리 용량의 부족으로 SSD와 같은 저장장치에 객체 특징들을 저장해야하나, CXL 탑재 AI 가속기 기반 시스템에서는 대용량의 빠른 메모리 공간 상에 객체 특징들을 저장할 수 있어 뛰어난 성능을 보입니다.

파네시아의 또 다른 출품작: CXL 3.0 기반 전체 시스템 프레임워크

파네시아는 이번 전시회에서 CXL 탑재 AI 가속기를 장착할 수 있는 CXL 3.0 기반의 전체 시스템 프레임워크(CXL 3.0 Full-System Framework)를 함께 전시하였습니다. 해당 프레임워크는 CXL 3.0 기술이 적용된 CXL CPU, 스위치, 메모리 확장장치 및 소프트웨어까지 CXL 전체 시스템을 구성하는데 필요한 모든 요소를 갖췄습니다. 파네시아 정명수 대표는 “CXL 3.0프레임워크는 우리의 독보적인 기술력을 대변한다”며, “여러 반도체 기업이 관련 제품 개발에 앞다투어 힘을 쏟고 있지만, CXL 3.0 기반의 전체 시스템을 구성하고 AI 등 응용 서비스를 실행할 수 있는 기술을 가지고 있는 기업은 파네시아가 전세계적으로 유일하다.”고 설명했습니다.

파네시아의 CXL 기술에 대한 글로벌 대기업들의 관심

파네시아의 출품작은 마이크로소프트, 애플, 인텔, 케이던스, ARM 등 글로벌 대기업의 고위 임원 및 직원들의 이목을 사로잡았습니다. 이들은 CXL 탑재 가속기를 비롯하여, CXL 3.0 CPU, CXL 3.0 스위치, CXL 3.0 메모리 확장장치, 그리고 CXL 소프트웨어 기술을 모두 보유한 파네시아의 기술력에 흥미를 보였습니다. 글로벌 클라우드/데이터센터 기업인 HPE(휴렛팩커드엔터프라이즈) 또한 파네시아의 CXL 기술에 큰 관심을 가지고 있으며, HPE 본사로부터 초청을 받아 이달 말 단독 대규모 미팅을 진행할 예정입니다.

파네시아의 출품작, CXL 탑재 AI 가속기에 대한 소개 영상은 하단의 링크를 통해 확인하실 수 있습니다.

CXL 탑재 AI 가속기 소개 동영상 CES 2024 혁신상 수상작 소개 링크

파네시아, CXL Tech Day 2024 개최

Panmnesia January 02, 2024

CXL 테크데이 2024 (CXL Tech Day 2024) 행사가 내년 1월 19일, 대전에서 개최됩니다. 해당 행사는 전세계적으로 뜨거운 관심을 받고 있는 차세대 반도체 먹거리, CXL(Compute Express Link, 컴퓨트 익스프레스 링크) 기술을 선도하고 있는 국내 반도체 팹리스 기업 파네시아에서 주최합니다.

CXL 테크데이 2024 행사에서는, 메타, HPE, 구글, 마이크로소프트, 인텔, AMD, 삼성, 하이닉스 등 전세계 반도체 업계가 주목하고 있는 차세대 인터페이스 기술인 CXL에 대한 소개, CXL 기술 관련 비전 및 최신 기술/연구 내용에 대한 공유가 이루어질 예정입니다. 참석자들은 본 행사를 통해 CXL 기술이 왜 필요한지, CXL 기술을 활용하여 어떻게 데이터센터를 혁신할 수 있는지, 최신 CXL 기술인 CXL 3.0 기술은 기존의 CXL 기술과 어떠한 차별점이 있는지, 그리고 CXL을 활용하여 어떠한 최신 기술 개발이 이루어지고 있는지 접할 수 있습니다.

반도체 설계에 관심이 있는 대학생(학부생)이라면, 누구나 사전 신청을 통해 본 행사에 참석이 가능합니다 (사전 신청 링크: 상단 포스터 QR코드 스캔, 혹은 게시글 하단의 사전 신청 링크 클릭).

사전 신청 링크 관련 기사 (브릿지경제)

파네시아, CXL 3.1 솔루션 관련 인터뷰 진행

Panmnesia December 07, 2023

최근 파네시아 정명수 대표는 디지털 투데이와 단독 인터뷰를 진행했습니다. 인터뷰에서는 파네시아의 CXL 3.1 솔루션 개발 상황을 포함하여 파네시아의 전반적인 기술, 발자취에 대해 소개하였습니다.

구체적으로, 인터뷰에서 파네시아 정명수 대표는 CXL 3.1 솔루션 개발과 관련하여, 현재 실리콘 검증(Silicon-proving) 과정을 진행 중이라고 설명하였습니다. 검증 후에는 메타나 HP 등 대형 데이터센터 고객사로의 공급 판도를 넓힐 수 있을 것으로 예상되며, 해외 데이터센터, 팹리스 기업, 대형 메모리 기업도 이 기술의 상용화 여부에 시선을 집중하고 있습니다. 파네시아가 이처럼 빠른 속도로 CXL 솔루션을 개발할 수 있었던 이유는, 10년이 가까운 시간 동안 데이터 공유 및 메모리 확장과 관련된 연구를 지속하며 누적해온 노하우와 기술이 있었기 때문입니다.

정명수 대표는 해당 인터뷰에서 CXL 3.1 기술이 기존의 CXL 표준과 다른 점에 대해서도 간략히 설명하였습니다. 정 대표는 “CXL 2.0에서는 각 시스템 장치가 실시간으로 캐시 내 데이터를 인식할 수는 있지만, 같은 데이터를 동시에 연산하려면 네트워크 기반 공유 인터페이스를 활용하는 탓에 상당한 시간이 필요했다”며 “CXL 3.1부터는 서로 캐시 일관성을 맞춰 공유하는 메모리를 통해 작업하기에 속도를 크게 개선할 수 있다”고 말했습니다.

파네시아의 CXL 3.1 솔루션에 대한 자세한 내용과 인터뷰는 아래 기사 원문에서 확인하실 수 있습니다.

파네시아, 독립 서버로써 동작 가능한 데이터 근처 연산 솔루션, 도커SSD 개발

Panmnesia KAIST November 27, 2023

파네시아는 최근 카이스트 CAMEL(Computer Architecture and MEmory systems Laboratory) 연구실과 공동 연구를 통해 개발한 데이터 근처 연산(Near Data Processing, NDP) 솔루션, 도커SSD(Docker SSD)를 발표하였습니다. 해당 솔루션은 사용자 편의성 측면에서 기존 연산 스토리지(computational storage)들과 차별화되며, 독립적인 서버로써 동작이 가능합니다.

연산 스토리지 기술은 빅데이터 분석 과정에서 데이터의 이동을 최소화하는 대표적인 기술로 알려져 있습니다. 하지만, 기존의 연산 스토리지 모델은 특정 데이터 처리 응용에만 활용 가능하며, 메모리/스토리지 제조사가 제공하는 API에 맞게 응용 수정이 필요해 사용자 편의성이 떨어지는 한계가 있습니다.

파네시아가 개발한 연산 스토리지 모델인 도커SSD는 운영체제 수준 가상화 프로그램인 도커(Docker)를 실행하여, 호스트에서 실행되던 컨테이너 단위의 작업을 스토리지 내부에서 처리하게 합니다. 도커SSD는 기존 도커 소프트웨어 API를 그대로 지원하고, 호스트와 스토리지에서 모두 동일한 실행 환경을 제공하도록 설계됐기 때문에, 사용자들은 이미 익숙한 도커 API를 활용해 도커SSD에게 작업 요청을 보낼 수 있습니다. 즉, 도커SSD의 기술을 적용하면 사용자들은 메모리/스토리지 제조사의 API에 구애받지 않고 다양한 응용 프로그램을 스토리지 내부에서 실행할 수 있습니다. 또한, 외부와 독립적인 실행 환경을 제공하는 컨테이너의 특성 덕분에, 사용자들은 기존 응용 프로그램의 코드를 수정할 필요가 없어져 사용자 편의성이 극대화됩니다.

파네시아는 도커SSD 내부에서 경량화된 운영체제가 실행되고, 새로운 프로토콜을 설계하여 도커SSD가 외부 네트워크에 연결이 가능하도록 설계하였습니다. 덕분에 도커SSD는 독립적인 서버로써도 동작이 가능하며, 이 점에서 또한 기존 연산 스토리지 모델들과 차별화됩니다.

사용자 입장에서 편리하며, 우수한 호환성을 가진 도커SSD 기술은 데이터센터에 실용화되어 전력 소비를 효과적으로 줄일 것으로 기대됩니다. 해당 기술은 다양한 언론을 통해 소개되었으며, 내년 3월에 열리는 컴퓨터 아키텍처 분야 최우수 학술대회인 HPCA(IEEE International Symposium on High Performance Computer Architecture)에서 공식 발표될 예정입니다.

파네시아, CES 2024 혁신상 수상

Panmnesia November 22, 2023

CXL 반도체 설계자산 개발의 선두주자 파네시아가 세계 최대 규모의 IT 박람회 CES 2024에서 혁신상(Innovation Award)을 수상했습니다. CES 혁신상은 CES 행사를 주관하는 미국 소비자기술협회(Consumer Technology Association, CTA)가 매년 전 세계 최고의 전문가들을 모아 기술, 디자인, 혁신성이 가장 우수한 제품을 선정, 수여하는 상입니다.

현재 AI 업계는 치열한 생존 경쟁을 펼치고 있습니다. AI가 생성해내는 많은 데이터를 처리하기 위해선 대용량의 메모리가 필수적이지만, 가속 시스템의 핵심인 AI 가속기는 메모리 용량의 제한이 있기 때문입니다. 파네시아는 이 문제를 해결하기 위해 AI 가속기에 컴퓨트 익스프레스 링크(Compute eXpress Link, CXL) 기술을 탑재한 CXL-Enabled AI Accelerator를 선보였으며, 혁신상을 거머쥐었습니다.

파네시아는 가속기에 CXL 3.0 컨트롤러와 AI 검색에 특화된 하드웨어 모듈을 도입하여 성능을 최대화했습니다. 그 결과 SSD에 대용량의 데이터를 저장하고 처리하는 기존 시스템에 대비해 101배의 성능 향상을 볼 수 있었다고 밝혔습니다. 뿐만 아니라, 특화된 하드웨어가 AI 계산 및 가속기-호스트 간 데이터 이동에 필요한 전력을 최소화하여 시스템 운영비용을 큰 폭으로 감축할 수 있다고 강조했습니다.

관련 소식은 다양한 국내외 언론 기사를 통해서도 소개되었습니다. 파네시아의 혁신상 수상작은 2024년 1월 9일에서 12일까지 3일간 미국 라스베이거스에서 열리는 CES 2024에서 만나볼 수 있습니다.

CES 2024 혁신상 홈페이지

파네시아, SC23 전시회 출품 성공적으로 마무리

Panmnesia November 21, 2023

CXL 반도체 설계자산 개발의 선두주자 파네시아가 미국 콜로라도 컨벤션 센터에서 열리는 슈퍼컴퓨팅 전시회(SuperComputing Conference 2023, SC23)에서 차세대 인터페이스 CXL 기술 개발을 돕는 CXL 3.0 올인원 프레임워크를 선보였습니다. SC23은 미 에너지성, 구글, 마이크로소프트, AWS 등 전세계 슈퍼컴퓨터 운영 기관 및 데이터센터, 클라우드 운영 기업이 한자리에 모이는 업계 최대 연례행사입니다.

차세대 인터페이스 컴퓨트 익스프레스 링크(Compute eXpress Link, CXL) 인터페이스 기술은 메모리 확장 장치, 가속기, 프로세서, 스위치 등 다양한 시스템 장치를 연결하는 기술로, 계산 장치의 필요에 따라 유연하게 메모리 자원을 공급해 주는 메모리 풀링(memory pooling) 기능을 실현합니다. 이 기능은 서버 운영 비용을 대폭 절감해 줄 수 있어, 최근 슈퍼컴퓨터 운영 기관 및 하이퍼스케일러의 관심을 사로잡고 있습니다.

파네시아의 CXL 3.0 올인원 프레임워크: 파네시아는 지난 FMS 2023에 이어, 이번 SC23 행사에서 새로운 CXL 3.0 올인원 프레임워크를 선보였습니다. 프레임워크의 하드웨어는 CXL 3.0을 지원하는 모든 종류의 장치(CXL CPU, CXL 스위치, CXL 메모리 확장장치)를 포함합니다. 장치는 모든 CXL 프로토콜(CXL.io, CXL.cache, CXL.mem)을 지원하는 파네시아의 CXL 3.0 IP들로 구성되었으며, 이들 IP는 메모리 공유(memory sharing)와 같은 CXL 3.0의 특징적인 기능을 지원합니다. CXL 스위치는 프레임워크 내 장치들을 사용자가 원하는 대로 연결해주는 역할을 하여 CXL 하드웨어의 핵심이 됩니다. 이러한 자유로운 연결 관계를 구성하기 위해, 네트워크 케이블을 통해 프레임워크 내부 장치뿐 아니라, 외부의 장치 혹은 또 다른 스위치와 연결될 수 있도록 설계되었습니다. 또한 프레임워크의 소프트웨어는 AI, 계산과학과 같은 사용자 응용이 CXL 기술을 활용하는 데 꼭 필요한 요소를 모두 갖추었습니다. 파네시아는 서버 환경의 메인스트림 운영체제인 리눅스를 기반으로 장치 드라이버, 가상메모리 시스템 등을 수정하여, CXL을 지원하는 운영체제를 구축하고 프레임워크에 도입했으며, 자사 소프트웨어 스택을 통해 사용자 응용이 별도의 수정 없이도 곧바로 CXL 기술을 활용할 수 있다고 강조했습니다.

CXL 3.0 메모리 공유 기능 시연: 파네시아는 이번 행사에서 CXL 3.0 올인원 프레임워크상에서 대표적인 슈퍼컴퓨터 기반 과학 응용인 플라즈마 시뮬레이션(plasma simulation)을 이용하여 CXL 3.0 메모리 공유 기능을 시연하며 기술력을 뽐냈습니다. 플라즈마 시뮬레이션은 전하를 띤 입자 간에 가해지는 힘을 계산하여 입자의 운동을 시뮬레이션하는 것으로, 이를 포함한 여러 슈퍼컴퓨터 응용 벤치마크에서 CXL 기반 솔루션의 성능이 기존 네트워크 기반 솔루션의 성능보다 1.8배 높았다고 밝히며, 그 우수성을 강조했습니다. 또한 파네시아는 이번 행사에서 슈퍼컴퓨터의 데이터 교환 오버헤드를 최소화하는 CXL 3.0의 메모리 공유 기능 기반의 솔루션을 공개했습니다. CXL 3.0의 메모리 공유 기능은 호스트들이 CXL 기술을 통해 연결된 메모리 확장장치 내부의 데이터를 공유할 수 있도록 해주며, 기존 네트워크 기반 데이터 교환과 달리 모두 하드웨어로 자동화되어 높은 성능을 보입니다.

이번 슈퍼컴퓨팅 전시회(SC23)을 통해 공개된 파네시아의 CXL 3.0 올인원 프레임워크는 많은 소프트웨어 및 하드웨어 개발 고객사들의 러브콜을 받을 것으로 기대됩니다. 파네시아는 프레임워크와 함께 프레임워크상에서 동작하는 CXL 3.0 메모리 공유 기능을 선보이며, 그 독보적인 기술력을 입증했습니다. 스위치를 포함한 CXL 3.0의 메모리 공유 기능을 실제 풀-시스템상에서 선보인 기업은 세계적으로 파네시아가 유일합니다.

파네시아의 출품 소식은 조선일보 기사(상단 이미지)를 통하여 소개되기도 하였습니다. 파네시아의 올인원 프레임워크 및 플라즈마 시뮬레이션 등의 기술 시연 영상은 하단 링크에서 확인하실 수 있습니다.

기술 시연 영상(유튜브)

파네시아, SC23 전시회 참여

Panmnesia November 03, 2023

파네시아는 2023년 11월 12일부터 11월 17일까지 미국 덴버에서 개최되는 슈퍼컴퓨팅 전시회(SuperComputing Conference 2023, SC23)에 참여합니다. AMD, ARM, AWS, IBM, 인텔(Intel), 엔비디아(NVIDIA), SK하이닉스 등 국내외 정상 기업들이 다수 참여하는 이번 전시회에서, 파네시아는 CXL 3.0 올인원 프레임워크를 새롭게 소개합니다.

CXL 3.0 기술이 적용된 파네시아의 프레임워크는 포트-기반 라우팅을 통해, 다수 호스트가 공유 가능한 메모리 공간을 원하는 만큼 확장할 수 있습니다. 사용자는 파네시아의 프레임워크를 통해 초거대 메모리 공간에서 캐시 일관성을 유지하는 빠른 메모리 공유를 경험할 수 있으며 CXL 3.0에서 제안하는 다른 기능들을 함께 체험할 수 있습니다.

파네시아의 CXL 3.0 올인원 프레임워크는 CXL 3.0을 지원하는 하드웨어 장치(CXL CPU, CXL Switch, CXL 메모리 확장 장치)와 리눅스 운영체제 기반의 소프트웨어 스택을 모두 포함합니다. 사용자는 파네시아 프레임워크를 통해, 기존 응용을 수정하지 않아도 CXL 3.0의 효과를 경험할 수 있습니다. 이러한 점에서, 이번에 공개되는 파네시아의 CXL 3.0 올인원 프레임워크는 CXL 기술에 관심이 있는 기업들이 본인들만의 CXL 하드웨어/소프트웨어 솔루션을 개발하는 데 최선의 옵션이 될 것이라고 기대됩니다.

파네시아는 SC 전시회 전시 기간 동안 해당 프레임워크 위에서 CXL 3.0의 메모리 공유(Memory Sharing) 기능을 활용하여 HPC 과학 응용을 가속하는 데모를 선보일 예정입니다. 파네시아의 출품 및 데모는 2253번 부스에서 진행됩니다. SC 전시회 관련 보다 자세한 정보는 아래의 링크에서 확인할 수 있습니다.

SC23 홈페이지

파네시아, CXL 컨소시엄 멤버 스포트라이트 블로그에 소개

Panmnesia October 05, 2023

파네시아는 최근 CXL(Compute Express Link) 컨소시엄 멤버 스포트라이트 블로그에 소개되었습니다. CXL 컨소시엄 멤버 스포트라이트 블로그는 CXL 컨소시엄이 자체적으로 운영하는 블로그로써, CXL 관련 기술을 선도하는 회사들을 선정하여 특집으로 소개합니다. ARM, 메타(Meta), 삼성, SK하이닉스 등이 소개된 바 있으며, 현재까지 파네시아를 포함하여 총 21개의 회사만이 소개되었습니다. 참고로, 설립 후 약 1년만에 CXL 컨소시엄 블로그에 소개된 기업은 파네시아가 유일합니다.

해당 포스트는 파네시아, 그리고 파네시아의 기술에 대해 간단하게 소개하고 있습니다. 파네시아가 CXL 기술에 대해 어떻게 생각하는지에 대해서도 다루고 있습니다. 구체적으로, CXL 기술에 가장 적합한 유즈케이스(use case)는 무엇일지, CXL 기술을 통해 어떤 업계가 가장 큰 이익을 보게 될지, CXL 기술이 데이터센터의 모습을 어떻게 변화시킬지에 대한 파네시아의 의견이 소개되었습니다. 이러한 변화에 대응하기 위해 파네시아의 CXL을 어떻게 활용할 수 있는지에 대해 소개하며 포스트가 마무리됩니다.

원본 포스트는 아래의 링크를 통해 확인하실 수 있습니다.

CXL 컨소시엄 멤버 스포트라이트 블로그

파네시아, 시드 라운드에 160억 투자유치, 기업가치 1034억 달성

Panmnesia September 14, 2023

CXL 반도체 팹리스 기업 파네시아는 최근 시드 라운드 투자를 성공적으로 마무리하였습니다. 1034억원의 투자 후 기업가치를 인정받아, 최종적으로 160억원의 투자 유치에 성공하였습니다. 국내 반도체 관련 업계에서, 시드 라운드에 1000억원 이상의 기업가치를 인정받은 사례는 매우 이례적인 일이며, 이 소식은 해외 유수 언론사인 로이터통신(Reuters)에 의해 가장 먼저 소개되었습니다. 이 외에도 나스닥(Nasdaq), 야후 파이낸스(Yahoo finance), 조선일보, ZDNet, 서울경제 등 국내외 유수 언론들이 파네시아의 시드라운드 투자 소식을 다루었습니다.

이번 투자는 대교인베스트먼트, SL인베스트먼트, 스마일게이트 인베스트먼트, 지앤텍벤처투자, 타임웍스인베스트먼트, 유안타인베스트먼트, 퀀텀벤처스코리아, 총 7개의 투자사가 참여했습니다. 파네시아는 이번 투자를 바탕으로 CXL 반도체 기술을 고도화하고, AI 응용 및 대용량 데이터 병렬 처리를 가속하는 CXL 솔루션 등을 추가적으로 개발하여 CXL 산업을 계속해서 선도해나갈 계획입니다.

국내외 언론사들의 기사 원문은 아래의 링크를 통해 확인하실 수 있습니다.

해외 언론

국내 언론

파네시아, 반도체 IP 시장의 떠오르는 대표 강소기업으로써 언론에 소개

Panmnesia September 14, 2023

파네시아는 반도체 설계자산(IP) 분야의 떠오르는 국내 강소기업으로써, 조선일보 기사에 소개되었습니다.

해당 기사에서는 파네시아의 CXL 3.0 관련 독보적인 기술력, 최근 플래시 메모리 서밋(Flash Memory Summit, FMS) 2023에서의 행보들을 주목하였습니다. 이러한 기술력을 바탕으로, 미국, 영국 등 해외 기업들의 전유물로 여겨졌던 글로벌 반도체 설계자산 분야에 진출한 대표적인 국내 강소기업으로써 파네시아를 소개하였습니다.

또한, 인공지능 서비스의 수요 증가로 인해 칩이 더 다양한 기능을 수행하게 되면서, 반도체 설계자산에 대한 수요가 증가하였으며, 이러한 이유로 파네시아를 포함한 국내 반도체 설계자산 개발 회사들의 전망이 밝다고 설명하였습니다.

조선일보의 기사 원문은 아래의 링크에서 확인하실 수 있습니다.

파네시아 CXL-SSD 관련 기술, KAIST Breakthroughs 선정

Panmnesia KAIST September 05, 2023

파네시아가 개발한 CXL-SSD 관련 기술이 KAIST Breakthroughs에 선정 및 소개되었습니다.

KAIST Breakthoughs는 한국과학기술원 주관하에, 혁신적인 공학분야(전자공학, 컴퓨터과학, 생명공학, 환경공학, 산업공학 등 모든 공학분야 포함) 연구성과를 매년 약 30건만 선정하여 소개하는 웹진(webzine)입니다. 올해에는 31건의 기술이 선정되었는데, 파네시아가 개발한, CXL-SSD의 성능을 개선하는 프리페칭 기술이 이에 포함되었습니다.

소개된 파네시아의 기술은, 차세대 인터페이스 CXL(Compute Express Link)을 활용하는 SSD(이하 CXL-SSD)와 관련된 기술입니다. CXL 인터페이스를 활용하면, 보통 외부 저장장치로써 활용되는 SSD를 거대한 시스템 메모리처럼 활용할 수 있습니다. 대용량을 제공하면서도, 빈번하게 접근되는 데이터를 호스트 단에 캐싱하여 합리적인 성능 또한 달성할 수 있기에 많은 관심을 받고 있습니다 (참고: 파네시아가 2022년도에 제안한 CXL-SSD 기술).

다만, CXL-SSD를 활용하는 시스템은, 캐시 미스가 발생하였을 때 SSD의 긴 지연시간이 노출됨으로써 성능이 크게 저하될 수 있다는 문제가 있습니다. 이번에 소개된 파네시아의 기술은, 미래에 접근할 SSD 주소를 예측하고, 해당 데이터를 미리 읽어옴으로써 SSD의 긴 지연시간이 노출되지 않도록 하는 기술입니다. 파네시아는 CXL 기반 시스템의 계층 구조에 대한 이해를 바탕으로, 기계학습을 활용하여 미래에 접근할 주소를 보다 정확하게 예측하고, 알맞은 시점에 읽어오는 방법을 개발하였습니다.

올해 KAIST Breakthoughs에서 파네시아의 기술에 대해 소개한 원문은 아래의 링크를 통해 확인하실 수 있습니다.

KAIST Breakthroughs

파네시아, Flash Memory Summit 2023 전시회 출품 성황리에 마무리

Panmnesia August 10, 2023

CXL 반도체 설계자산(IP) 개발의 선두주자 파네시아는 미국 산타클라라 컨벤션센터에서 열리는 ‘플래시 메모리 서밋 2023(Flash Memory Summit 2023, FMS 2023)’에서 자체 개발한 CXL IP들이 적용된 멀티-테라바이트 용량의 풀-시스템 CXL 프레임워크를 선보였습니다. 플래시 메모리 서밋은 매년 3천명이상이 참여하고 국내유수 대형 메모리/스토리지 회사들이 참여하는 큰 반도체 행사입니다.

최근 생성형 AI, 챗-GPT 그리고 추천 시스템 등의 대규모 응용이 상용화됨에 따라, 데이터센터에서는 대용량 메모리와 GPU등의 가속장치를 효율적으로 사용가능한 기술에 대한 요구가 급증하고 있습니다. 이러한 상황에서 등장한 CXL(Compute eXpress Link, CXL) 인터페이스 기술은 데이터센터 내 메모리 용량을 폭발적으로 확장 가능하며, 확장한 메모리 공간을 CPU 및 가속장치들이 효율적으로 사용할 수 있도록 합니다. 이로 인해, CXL은 차세대 데이터센터향 인터페이스 기술로 업계의 많은 주목을 받고 있습니다.

파네시아와 파네시아의 CXL IP: 파네시아는 CXL 인터페이스 기반의 풀-시스템 프레임워크를 세계 최초로 개발한 CXL IP 개발의 선두주자로, 데이터센터향 CXL 솔루션 실현에 필요한 모든 CXL IP를 개발 및 공급합니다. 구체적으로 파네시아가 개발 및 공급하는 CXL IP는 CXL 인터페이스의 핵심 프로토콜인 CXL 캐시 통신(CXL.cache), CXL 메모리 통신(CXL.mem), CXL 입출력 통신(CXL.io) 지원을 위한 Core CXL IP와 CXL CPU, NPU, AI 반도체, 가속기 그리고 다양한 CXL 시스템 장치에서 CXL 관련 기능을 하드웨어 자동화하는 IP들로 구성됩니다. 파네시아의 고객사들은 실리콘, 펌웨어, 소프트웨어, 운영체제 및 어플리케이션 소프트웨어등 다양한 수준에서 기 검증된 파네시아 CXL IP를 기존 장치에 적용하는 형태로 CXL 장치개발이 가능해, 개발 및 검증에 필요한 추가적인 비용과 소모시간을 줄일 수 있습니다.

파네시아의 FMS 2023 참여: 파네시아는 개발한 CXL IP들을 바탕으로, 이번 ‘플래시 메모리 서밋 2023’에 자체개발한 CXL IP가 적용된 프레임워크인 멀티-테라바이트 메모리 풀을 전시하는 한편, 메타 사의 대규모 AI 응용을 메모리 풀에서 실행하는 데모영상 또한 선보였습니다.

파네시아의 메모리풀 예제: 플래시 메모리 서밋 2023’에서 전시되는 파네시아의 멀티-테라바이트 메모리풀은 CXL 인터페이스를 지원하는 장치인 CXL CPU, CXL 스위치 그리고 CXL 메모리 확장장치로 구성되며, 고성능, 고확장성의 메모리, 높은 이식성 및 높은 효율성을 갖춘 점이 기존 데이터센터의 메모리 확장 솔루션과 차별화된 점입니다. 구체적으로, 파네시아의 멀티-테라바이트 메모리풀 프레임워크는 다수의 CXL 스위치와 CXL 메모리 확장장치를 통해 높은 성능과 폭발적인 메모리 용량 확장을 제공하며, 세계 최초로 CXL IP 하드웨어와 이를 사용하기 위한 소프트웨어를 풀-시스템으로 실장하여 기존 데이터센터의 에코시스템에 그대로 적용, 다양한 응용을 수정없이 사용 가능합니다. 또한, 파네시아의 메모리풀 프레임워크는 고도화된 CXL 스위치 기술을 통해, 확장된 메모리를 사용자 요구량에 따라 효율적으로 할당 가능하며, CXL 메모리 확장장치에는 DIMM 단위 메모리 교체방식을 적용하여, 추가적인 확장장치의 구매 비용 없이도 메모리 용량의 증설이 가능합니다. 이러한 파네시아의 메모리풀 프레임워크는 데이터센터의 메모리 자원뿐만이 아닌, 데이터센터의 운용 비용 효율화도 고려한 메모리 확장 솔루션으로 볼 수 있습니다.

파네시아 메모리풀의 데모영상과 성능: 파네시아는 풀-시스템으로 구현한 CXL 메모리풀 프레임워크에서 대표적 대규모 AI 응용인 메타 사의 추천시스템을 실제 동작시키는 과정을 데모영상으로 공개하였으며, 기존 데이터 센터의 RDMA-기반 메모리 분리기술 대비 대규모 추천시스템의 실행 시간을 3.32배 단축시킬 수 있음을 보였습니다. 이번 ‘플래시 메모리 서밋 2023’을 통해 파네시아가 공개한 CXL IP와 멀티-테라바이트 메모리풀 프레임워크는 성능, 메모리 확장 및 관리 그리고 데이터센터 운용의 비용 효율 모두를 향상시킬 수 있는 미래지향적 데이터센터 솔루션이며 CXL 동작의 단편이 아닌 실제적용을 위한 프로세서, 스위치 기술, 메모리 확장장치 등의 CXL 장치와 운영체제에 이르기까지 실 시스템을 공개한 것은 파네시아가 유일하다는 점에서 다양한 기존 데이터센터 솔루션대비 상당한 차별성이 돋보였습니다.

파네시아의 출품 소식은 전자신문 지면 기사, 블락스앤파일스(Blocks & Files), 스토리지뉴스레터(Storage Newsletter) 기사를 포함하여 다수의 국내외 언론에서 소개되었습니다. ‘플래시 메모리 서밋’에서 공개된 CXL 메모리 풀의 데모 영상은 하단의 유튜브 링크에서 다시 시청할 수 있습니다.

데모 영상 링크(유튜브)

파네시아, Flash Memory Summit 2023 전시회 참여

Panmnesia July 30, 2023

파네시아는 올해 8월 8일부터 3일간 미국 캘리포니아에서 열리는 Flash Memory Summit(플래시 메모리 서밋, FMS) 2023 전시회에 참여합니다.

삼성전자, 하이닉스, 키옥시아(KIOXIA), ARM 등 국내외 유수 기업이 대거 참여하는 이번 전시회에서, 파네시아는 자체적으로 개발한 풀-시스템 CXL(Compute Express Link) 프레임워크를 출품할 예정입니다.

CXL CPU, CXL 스위치, 그리고 CXL 메모리 확장장치로 구성된 해당 프레임워크는, 멀티-레벨 스위치 구조를 활용함으로써 다수의 메모리 장치를 CPU에 연결시킬 수 있습니다. 결과적으로, 파네시아의 프레임워크를 활용하는 사용자는 수 테라 바이트 이상의 메모리 공간을 제공받을 수 있습니다. 뿐만 아니라, 사용자들은 파네시아 CXL 프레임워크의 DIMM(Dual In-line Memory Module) 단위 풀링 기술을 통해 운영 비용 절감 효과 또한 누릴 수 있습니다.

파네시아의 풀-시스템 프레임워크는 리눅스 운영체제 기반의 소프트웨어 스택 또한 포함하기 때문에, 일반적인 워크로드들이 별다른 수정 없이 동작할 수 있습니다. 실제로, 이번 FMS 전시회에서 파네시아는 대표적인 대규모 AI 응용인 추천시스템을 CXL 프레임워크 상에서 실행하는 데모를 보여줄 예정입니다.

파네시아의 출품 및 데모는 655번 부스에서 진행됩니다. FMS 전시회 관련 보다 자세한 정보는 아래의 링크에서 확인할 수 있습니다.

전시회 관련 정보

파네시아, SIGARCH Korea Workshop에서 초청 연설 진행

Panmnesia July 21, 2023

파네시아는 7월 21일 서울대학교에서 개최된 SIGARCH Korea Workshop 2023(SIGARCH 코리아 워크샵 2023) 행사에서 초청 연설을 진행했습니다.

‘Breaking Down CXL: Why It’s Crucial and What’s Next’라는 제목으로 진행된 해당 연설에서는 파네시아의 CXL 기술 및 관련 데모를 소개하였으며, 컴퓨터 아키텍처 분야를 전공하는 여러 연구자들과 CXL 기술에 대해 논의하였습니다.

올해 SIGARCH Korea Workshop에는 파네시아를 포함하여 메타, 삼성전자, 리벨리온 총 4개 기관이 기업으로써 초청 발표를 진행하였습니다.

파네시아, OCP APAC Tech Day에서 초청 연설 진행

Panmnesia July 04, 2023

파네시아는 7월 4일 서울 코엑스에서 열린 OCP APAC Tech Day(오픈컴퓨트프로젝트 아시아퍼시픽 테크 데이)에서 초청 연설을 진행하였습니다.

해당 연설에서, 파네시아는 CXL(Compute Express Link) 기술의 필요성을 설명하고, CXL 기술을 적용하기에 적절한 응용들에 대하여 소개하였습니다. 구체적으로, CXL을 활용하여 대규모 기계학습 응용을 가속하는 방법에 대하여 소개하였습니다.

올해 OCP APAC Tech Day에서는 파네시아 외에도 AMD, 삼성전자, SK하이닉스, SK텔레콤, ETRI 등 국내외 유수 기업/기관이 발표를 진행하였습니다. 행사 관련 자세한 내용은 아래의 링크를 통해 확인할 수 있습니다.

행사 관련 정보

파네시아의 CXL 3.0 기반 AI 벡터 검색 시스템, 해외 언론에서 소개

Panmnesia June 21, 2023

파네시아가 개발한 AI 벡터 검색 시스템, CXL-ANNS가 다수의 해외 언론에서 소개되었습니다.

CXL-ANNS는 CXL 3.0(Compute Expreses Link 3.0) 기반 메모리 풀을 활용하여 AI 벡터 검색을 가속하는 시스템으로써, 오는 7월 미국 보스턴에서 열리는 USENIX ATC 학회에 발표될 예정입니다. 파네시아가 개발한 CXL-ANNS 시스템은, 수십 테라바이트에 달하는 벡터 검색 데이터를 대규모 CXL 메모리 풀에 온전하게 저장하며, 데이터 근처 연산 기법을 활용하여 검색 동작을 가속합니다.

산업계가 주목하는 기술인 CXL을 활용하여, 최근 글로벌 IT기업들이 본격적으로 활용하기 시작한 AI 벡터 검색 응용을 가속한 이번 연구는 여러 해외 언론에 의해 소개되었습니다. 특히 메모리/스토리지 관련 기술을 전문적으로 다루는 블락스앤파일스(Blocks & Files)와 뉴일렉트로닉스(New Electronics)에서 가장 먼저 기사 형태로 파네시아의 연구 내용을 다루었습니다. 관련 기사 원문은 아래 링크를 통해 각각 확인할 수 있습니다.

파네시아, 차세대 CXL-SSD를 위한 프리페칭 기법 개발

Panmnesia May 20, 2023

메모리 및 스토리지 솔루션을 선도하는 기업, 파네시아는 SSD(Solid-State Drive) 관련 신기술인 ExPAND를 개발하였습니다. 해당 기술은 올해 7월 미국 보스턴에서 열리는 ACM HotStorage 학회에서 발표될 예정입니다.

파네시아가 개발한 ExPAND는 차세대 인터페이스 기술인 CXL(Compute Express Link)을 SSD에 접목시키는 것을 가능하게 하는 기술입니다. 해당 기술을 활용하면, SSD를 대용량 메모리처럼 사용할 수 있게 됩니다. 물론 DRAM보다 훨씬 느린 SSD 장치를 단순히 메모리로써 사용하면 기존의 DRAM 기반 메모리 시스템보다 성능이 크게 저하된다는 문제가 있습니다. ExPAND는 라스트-레벨 캐시(Last-Level Cache, LLC)의 프리페칭(prefetching, 추후 접근할 데이터를 캐시로 미리 옮겨두어 지연을 최소화하는 기법) 동작을 CXL-SSD가 주관하도록 하여 이러한 성능 저하 문제를 최소화하였습니다.

파네시아가 개발한 ExPAND 기술은, 프리페치할 데이터를 적절하게 선정하는 다양한 알고리즘을 포함합니다. 어떤 데이터를 프리페치할 지뿐만 아니라, 언제 데이터를 프리페치하는 것이 적절한 지 또한 판단하여 예상치 못한 지연 상황을 최소화합니다. ExPAND는 CXL 멀티-레벨 스위치 구조를 고려하여 설계되었다는 점에서 또한 차별화됩니다. 스위치를 활용한 이상적인 확장 환경에서, CXL-SSD를 접근하는 데 걸리는 지연시간을 보다 정확하게 예측할 수 있습니다.

결론적으로 파네시아의 ExPAND 기술을 활용하면 프리페칭 동작의 효과로, 느린 SSD가 아니라 빠른 호스트 캐시에 직접 접근하는 빈도가 크게 증가하게 됩니다. ExPAND의 성능을 측정한 결과, 그래프 응용의 성능을 2.8배 향상시킬 수 있음을 확인하였습니다.

ExPAND가 HotStorage 학회에 선정된 것은 해당 기술이 기존의 데이터 접근/관리 방식을 크게 뒤바꿀 잠재력이 있음을 시사합니다. 파네시아는 "이번에 공개한 ExPAND 외에도 다양한 메모리/스토리지 솔루션을 개발하여 산업계를 선도하는 위치를 고수할 것"이라며 포부를 밝혔습니다.

파네시아, CXL 기반 AI 응용 가속 솔루션 'Hearst' 개발

Panmnesia May 11, 2023

파네시아는 CXL(Compute Express Link) 기반의 대규모 AI 응용 가속 솔루션 Hearst를 공개하였습니다.

최근 추천시스템, 벡터 검색, 그래프 신경망과 같은 AI 기반 응용 서비스가 널리 활용되고 있습니다. AI 기반 응용의 정확도는 일반적으로 학습 데이터 혹은 모델의 크기에 비례하며, 따라서 최근 기업 데이터센터에서 실제로 동작하는 AI 기반 응용들의 경우에 수 테라바이트, 혹은 수십 테라바이트에 달하는 대규모 데이터를 활용하는 경우가 많습니다.

이처럼 대규모 AI 응용 가속에 대한 수요가 증가하였으나, 현재 상용화된 GPU 가속기의 경우 DRAM 기술의 한계로 내부 메모리 용량이 수십 기가바이트 수준에 머물러 있어 대규모 AI 모델 응용을 지원하기에는 현실적인 어려움이 있습니다.

파네시아는 CXL 기반 메모리 확장 기술을 활용하여, 대규모 AI 응용 가속 시 발생하는 메모리 용량 문제를 해결하는 솔루션, Hearst를 개발하였습니다. Hearst를 활용하면 단 몇 대의 가속기/연산장치 만으로도 추천시스템, 벡터 검색과 같은 대규모 AI 응용을 가속할 수 있습니다.

Hearst의 특징을 요약하면 다음과 같습니다.

1. 고확장성: Hearst는 포트-기반 라우팅 (Port-Based Routing, PBR) CXL 스위치를 활용합니다. 이를 통해, 수백 개 이상의 메모리 장치를 연결하여 대용량 메모리 풀(memory pool) 구성이 가능하며, 대용량 데이터를 온전히 저장할 수 있습니다.

2. 고성능: Hearst는 데이터 근처 연산 기법 (Near Data Processing, NDP)을 활용합니다. 즉, 처리해야 하는 데이터가 저장된 메모리 풀에서, 간단한 연산을 통해 데이터의 크기를 줄인 후 호스트 CPU로 이동시킵니다. 이를 통해 데이터 이동 오버헤드를 줄임으로써 처리 성능을 향상시키고, 전력 소모 또한 절감할 수 있습니다.

3. 저비용: Hearst는 DIMM(Dual In-line Memory Module) 단위 풀링 기술을 활용합니다. 즉, 메모리 풀의 용량을 늘리거나 메모리 장치를 교체하고 싶을 때, 메모리 확장장치 단위가 아닌 DIMM 단위로 교체함으로써 소모/관리 비용을 절감합니다.

Hearst와 관련된 보다 자세한 정보는 아래 링크를 통해 확인할 수 있습니다.

기술백서 읽기 PDF 다운로드

파네시아, CXL 3.0 기반의 ANNS 응용 가속 기술 개발

Panmnesia KAIST April 29, 2023

파네시아는 CXL 3.0(Compute Express Link 3.0)을 활용해, 대규모 AI 응용인 ANNS(Approximate Nearest Neighbor Search, 근사 근접 이웃 탐색) 응용을 가속하는 기술을 개발하였습니다. 해당 기술은 올해 7월 미국 보스턴에서 열리는 USENIX ATC 학회에서 발표될 예정입니다.

ANNS란?

최근 각광받고 있는 이미지 검색, 데이터베이스, 추천 시스템, 광고 등의 서비스들은 마이크로소프트, 메타, 알리바바 등의 글로벌 IT 기업들에서 활발히 제공되고 있습니다. 이 서비스들은 직접적으로 비교하기 힘든 종류의 데이터의 유사점을 찾아야 하는 어려움이 있습니다. 예를 들어 이미지 검색의 경우, 기존의 텍스트 기반 검색들과는 다르게, 서로 간의 유사도를 구하기가 힘들어 비슷한 이미지를 찾는 데 어려움이 있습니다. 게다가 커다란 데이터셋에서 사용자가 요구하는 데이터를 높은 정확도로 짧은 시간 안에 찾아내야 하는 요구사항을 가지고 있습니다.

이러한 서비스에서 주로 사용되는 알고리즘이 바로 ANNS입니다. AI의 발전으로 우리는 어떤 데이터든지 특성 벡터로 표현할 수 있게 되었습니다. 특성 벡터란 데이터가 가지는 특성들 각각을 숫자로 표현해 나열한 것으로, 이들 사이의 거리를 통해 우리는 데이터 간의 유사도를 구할 수 있습니다. ANNS 알고리즘은 특성 벡터로 표현되는 수많은 데이터 중 주어진 쿼리 벡터와 가장 가까운 특성 벡터들을 찾아내는 작업을 수행합니다.

ANNS의 특성 및 기존의 연구들

하지만 실제 서비스에서 사용되는 데이터 셋은 매우 커, 많은 양의 메모리를 요구하는 단점이 있습니다. 기존 시스템에서는 추가할 수 있는 메모리 용량에 제한이 있어 이러한 요구사항을 만족할 수 없었습니다. 그래서 벡터 데이터를 압축하여 메모리에 적재하는 압축 기반 방식과 메모리보다 큰 용량과 느린 속도를 가지는 저장 장치를 사용하는 스토리지 기반 방식(마이크로소프트에서 사용 중)이 사용되어 왔습니다. 하지만 이들 각각은 낮은 정확도와 성능을 가지는 문제가 있었습니다.

파네시아의 제안: CXL 기반 가속 기술

이에 파네시아는 메모리 확장의 제한이라는 근본적인 문제를 해결하기 위해 CXL이라는 기술에 주목하였습니다. CXL은 PCIe 인터페이스 기반의 CPU-장치 간 연결을 위한 프로토콜로, 가속기 및 메모리 확장장치의 고속 연결을 제공합니다. 또한 CXL 스위치를 통하여 여러 대의 메모리 확장장치를 하나의 포트에 연결할 수 있는 확장성을 제공합니다. 하지만 CXL을 통한 메모리 확장은 로컬 메모리와 비교하였을 때, 메모리 접근 시간을 증가시킨다는 단점을 가지고 있습니다.

데이터를 책으로 비유하자면 기존 시스템은 집(CPU) 크기의 제한으로 서재(메모리 용량)를 무한정 늘릴 수 없어, 보관할 수 있는 책 개수에 제한이 있는 것입니다. 이에 압축 기반 방식은 책의 내용을 압축하여 더 많은 책을 보관하는 방법이고, 스토리지 기반 방식은 필요한 책들을 거리가 먼 도서관에서 구해오는 것과 비슷합니다. CXL을 통한 메모리 확장은 집 옆에 창고를 지어 책을 보관하는 것으로 이해될 수 있습니다.

파네시아가 개발한 가속 기술은 CXL 스위치와 CXL 메모리 확장장치를 사용해 ANNS 응용에서 필요로 하는 모든 데이터를 메모리에 적재할 수 있으며, 이를 통해 정확도와 성능 감소를 없앴습니다. 또한 ANNS 응용의 특징을 고려하여 설계된 '데이터 근처 처리 기법'과 '데이터 배치 기법'을 적용하여, 성능을 한 단계 더 향상시켰습니다. 구체적으로, 여러 특성 벡터와 쿼리 벡터 사이의 거리를 계산하는 가속기를 CXL 메모리 확장장치에 배치했습니다. 이에 따라 CXL 메모리 확장장치는 계산의 결과만을 CPU로 전송하여 데이터 이동량을 감소시킬 수 있습니다. 또한 그래프를 사용하는 ANNS 응용에서, 탐색을 시작하는 진입 노드와 근접한 노드들이 더 자주 접근된다는 점을 활용하여, 근접 노드들을 로컬 메모리에 배치하는 것으로 CXL 메모리 확장장치로의 접근을 최소화하였습니다. 이는 마치 창고 스스로가 필요한 책들의 내용을 요약/정리해 전달하고, 자주 보는 책들은 서재에 배치하여 집과 창고를 오가는 시간을 줄이는 것과 유사합니다.

파네시아는 개발한 기술의 프로토타입을 자체 제작하여 실효성을 확인하고, 성능을 기존 연구들과 비교하였습니다. 마이크로소프트, 메타, 얀덱스 등의 글로벌 IT기업에서 공개한 검색 데이터 셋을 사용하여 ANNS 응용의 성능을 비교한 결과, 파네시아가 개발한 가속 기술은 기존 연구들보다 평균적으로 111배 뛰어난 성능을 보였습니다.

해당 연구 내용은 다수의 기사를 통해 소개되었습니다. 관련 내용은 아래의 링크를 통해 확인할 수 있습니다.

파네시아의 CXL 3.0 기반 AI 가속 프레임워크, 포브스 등 해외 언론에서 소개

Panmnesia April 25, 2023

파네시아가 개발한 AI 가속 프레임워크, TrainingCXL이 포브스 등 다수의 해외 언론에서 소개되었습니다.

TrainingCXL은 GPU와 CXL 3.0(Compute Express Link 3.0) 기반 비휘발성 메모리 풀을 활용하여 대규모 AI 응용을 가속하는 프레임워크로써, 올해 초 IEEE Micro에 논문 형태로 공개되었습니다. 해당 기술을 활용하면 GPU가 대용량 CXL 메모리 풀에 낮은 지연으로 접근 가능하며, 결과적으로 단 몇 대의 GPU만으로도 추천시스템과 같이 수십 테라바이트 수준의 데이터를 활용하는 대규모 AI 응용을 가속할 수 있게 됩니다.

최근 산업계와 학계에서 많은 관심을 받고 있는 CXL 기술을 적절히 활용하여 대규모 AI 응용을 가속하는 획기적인 연구이기에, 다수의 해외 언론이 관심을 보였습니다. 특히 해외 유수 언론인 포브스(Forbes), 그리고 메모리/스토리지 관련 기술을 전문적으로 다루는 스토리지뉴스레터(Storage Newsletter)와 블락스앤파일스(Blocks & Files)에서 가장 먼저 기사 형태로 파네시아의 연구 내용을 다루었습니다. 관련 기사 원문은 아래 링크를 통해 각각 확인할 수 있습니다.

파네시아, 국내 언론 인터뷰 진행

Panmnesia March 06, 2023

파네시아는 CXL(Compute Express Link) 등 캐시 일관성 보장 인터커넥트(Cache Cohrerent Interconnect, CCI) 관련 기술 개발을 선도하는 기업으로써, 최근 산업계, 특히 메모리 및 컴퓨팅 관련 업계에서 많은 주목을 받고 있습니다. 국내 언론사, 서울 파이낸스는 이러한 파네시아의 비전, 그리고 CXL 기술과 관련된 인터뷰를 진행하였습니다.

해당 인터뷰에서, 파네시아는 먼저 CXL 기술에 대해 간략히 소개하였습니다. CXL은 고성능 대용량 메모리를 실현하는 데 있어 핵심이 되는 인터커넥트 기술이며, 대규모 응용 처리를 위해 더욱 더 많은 메모리를 원하는 빅테크 업체(구글, 메타 등)의 니즈를 충족시킬 수 있는 대안이라고 설명하였습니다.

인터뷰에서는 파네시아의 발빠른 행보에 대해서도 다루었습니다. 카이스트 교원창업기업인 파네시아는 업력이 2년차 밖에 되지 않았지만, 이미 CXL 표준 지식재산권(IP)을 포함해 수십 건의 IP를 확보하였고, 이를 통해 국내외 유수 기관으로부터 협업 제의를 받고 있다고 설명하였습니다.

보다 구체적인 내용은 아래의 링크를 통해 확인할 수 있습니다.

파네시아, CXL 관련 비공개 워크샵에서 초청 연설

Panmnesia KAIST February 16, 2023

파네시아는 2월 16일 열린 CXL(Compute Express Link) 관련 비공개 워크샵에서 AMD, 삼성전자, SK하이닉스 등 CPU 및 메모리 산업을 선도하는 글로벌 기업들과 함께 초청 연설을 진행하였습니다.

'Why CXL? Why Does It Matter? and Where Are We?'라는 제목으로 진행된 해당 연설에서, 파네시아는 메모리 확장의 필요성과 기존 메모리 확장 솔루션의 비용/성능 측면 한계에 대해서 설명하고, CXL 기술이 관련 문제를 해결할 수 있음을 설명하였습니다. CXL 관련 기술 개발 동향, 그리고 파네시아의 CXL 기반 하드웨어/소프트웨어 통합 솔루션에 대해서도 설명하였습니다.

해당 행사에서는 CXL 관련 기술 개발 방향과 관련 연구 주제에 대한 논의도 진행되었습니다. 파네시아는 데이터 근처 연산 (Near Data Processing, NDP), AI 응용 가속 등 데이터 중심 응용을 가속하는 최신 연구 주제에 관한 의견을 공유하였습니다.

파네시아는 "산업계를 선도하는 유수의 기업들과 기술 개발 내용을 공유하고, CXL과 관련된 깊은 논의를 할 수 있는 좋은 자리였다"며 감회를 밝혔습니다.

파네시아, CXL 3.0 기반 AI 가속 시스템 개발

Panmnesia January 08, 2023

파네시아는 CXL 3.0(Compute Express Link 3.0)을 활용해, 확장가능한 메모리와 높은 성능을 제공하는 AI 가속 시스템을 개발하였습니다. 개발한 시스템은 GPU에 최대 4페타바이트(10^15 byte)의 확장가능한 메모리를 제공함과 동시에, 기존 PCIe 기술을 기반으로 대용량 메모리를 연결한 시스템 대비 AI 모델의 학습시간을 5.3배 단축할 수 있습니다. 해당 기술은 IEEE Micro에 논문의 형태로 공개되었습니다.

대규모 AI 가속 시스템에 대한 수요와 기존 시스템의 한계

보유한 AI의 품질이 기업의 경쟁력을 좌우하는 요소로 떠오르며, 글로벌 기업들은 앞다투어 자사 AI의 정확도를 높이기 위해 모델의 크기를 키우고 있는 추세입니다. 이에 따라, 테라바이트(10^12 byte) 수준 이상의 대규모 AI를 처리할 수 있는 컴퓨팅 시스템에 대한 업계의 관심이 높아지고 있습니다. 한편, 대표적인 AI 가속장치인 GPU는 DRAM 기술의 한계로 인해 내부 메모리 용량이 수십 기가바이트(10^9 byte)에 머물러 있어 대규모 모델을 지원하기에는 그 용량이 턱없이 부족한 실정입니다. 이를 위해 기존 시스템은 GPU의 메모리를 저장장치인 솔리드 스테이트 드라이브(SSD)를 이용하여 확장하는 방법을 시도했으나, SSD의 느린 임의읽기 성능과 SSD-GPU간 데이터 이동으로 인해 그 성능이 제한적이었습니다.

파네시아의 제안: CXL 3.0 기반 AI 가속 시스템

파네시아는 학술공동연구를 통해 CXL 인터페이스를 통해 대용량의 메모리 공간을 제공하는 메모리 확장장치를 GPU와 연결한 AI 가속 시스템을 개발했습니다. 개발한 시스템 TrainingCXL은 대용량 뉴메모리를 탑재한 메모리 확장장치와 GPU를 레고 블락 조립하듯 자유롭게 연결하여 GPU에 대용량의 메모리 공간을 제공합니다.

제안하는 시스템의 핵심: CXL 인터페이스

시스템의 핵심은 차세대 메모리 인터페이스인 CXL입니다. CXL은 시스템의 장치 간 연결을 위한 프로토콜로, 이 프로토콜을 지원하는 시스템은 CPU, GPU, 메모리 확장장치와 같은 다수의 장치를 자유롭게 연결하면서도 장치 간에 고속으로 데이터를 주고받을 수 있는 것이 특징입니다. 이러한 특징 덕분에, CXL은 글로벌 빅테크 기업의 데이터센터나 고성능컴퓨터에서 사용자 응용에 대용량 메모리를 제공할 방법으로 부상하고 있습니다. 파네시아는 CXL을 통해 메모리 확장장치를 GPU와 연결하여 GPU에 대용량 메모리를 제공하면서, 장치 간 데이터 이동으로 인한 실행시간 지연을 최소화했습니다. 특히, 이번 연구는 CXL 프로토콜이 정의하는 여러가지 서브프로토콜 중 cxl.cache를 사용하여 GPU 및 메모리 확장장치가 능동적으로 데이터를 주고받을 수 있도록 설계한 것이 특징입니다. cxl.cache를 통한 능동적인 고속 데이터 이동은 데이터 이동시간이 장치의 계산시간에 가려져 사용자에게 드러나지 않도록 하고, 추가적인 소프트웨어의 개입을 제거하여 높은 성능을 보입니다.

메모리 확장장치에서의 연산을 통한 추가적인 가속

파네시아는 대용량의 메모리를 제공할 뿐 아니라, 메모리 확장장치에 목표 응용을 위한 처리 능력을 부여하여 실행시간을 단축했습니다. 목표 응용은 유튜브, 인스타그램과 같은 서비스에서 사용자에게 알맞은 콘텐츠를 추천해주는 역할을 해주는 추천시스템입니다. 추천시스템은 각 사용자에게 맞는 추천을 위해 수억 명의 사용자 및 콘텐츠 각각에 대한 정보(임베딩 벡터, embedding vector)를 AI 모델에 포함하여 모델의 크기가 수십 테라바이트에 이릅니다. 이는 최근 주목받고 있는 생성형 AI 모델 ChatGPT의 수 배에 달하는 크기로, 실행을 위해 대용량의 메모리가 꼭 필요합니다. 파네시아는 추천시스템 모델의 임베딩 벡터를 메모리 확장장치에 저장하고, 메모리 확장장치 내부에 임베딩 벡터를 처리할 수 있는 가속모듈을 탑재했습니다. 가속모듈은 모델 학습 시 임베딩 벡터를 빠르게 처리할 뿐 아니라, 시스템이 원본 임베딩 벡터 대신 처리를 통해 크기가 작아진 벡터를 GPU에 전송하도록하여 데이터 이동량과 시간을 줄여줍니다. 원본 임베딩 벡터가 거대한 원석이라면, 처리한 벡터는 가공된 반지라고 비유할 수 있습니다. 고객에게 반지를 전달하고자 할 때, 고객 근처까지 거대한 원석을 모두 운송한 다음 가공하는 대신 원석의 산지 근처에서 원석을 반지로 가공한다음 반지만을 전달하는 것이 운송에 필요한 노력과 운송량을 줄일 수 있는 것과 같습니다.

개발된 시스템은 기존 PCIe 기술을 기반으로 대용량 뉴메모리를 연결한 최신 시스템 대비 다양한 종류의 추천시스템 모델을 이용한 평가에서 학습시간을 5.3배 단축하여 그 효과를 보였습니다. TrainingCXL은 대규모 AI를 위한 차세대 시스템 설계에 CXL을 활용할 방향을 제시할 수 있을 것으로 기대됩니다.

파네시아는 “메모리 반도체의 미래 먹거리인 CXL 기술을 선도하여 관련 시장과 환경을 활성화하기 위해 앞으로도 꾸준히 높은 수준의 연구성과를 공개하고 많은 반도체 및 시스템 회사들이 CXL을 사용할 수 있도록 관련 인프라를 제공할 것”이라며 포부를 밝혔습니다. 해당 연구 내용은 다수의 기사를 통해 소개되었습니다. 관련 내용은 아래의 링크를 통해 확인할 수 있습니다.

파네시아, CXL 기반 메모리 분리 기술 개발

Panmnesia KAIST January 07, 2023

파네시아는 CXL(Compute Express Link) 기반의 메모리 분리(memory disaggregation) 기술을 개발하였습니다. 해당 기술은 IEEE Micro에 논문의 형태로 공개되었습니다.

CXL은 프로세서, 가속기, 메모리 장치 등 다양한 시스템 장치에 대하여 효율적인 자원 분리를 가능케 하기에 산업계에서 많은 관심을 받고 있습니다. 현재는 실제로 상용화된 CXL 장치가 충분하지 않아 일반 기업이 활용하기 어려우나, 근 미래에는 가장 실용적인 메모리 자원 분리 솔루션으로써 널리 활용될 것으로 기대됩니다.

파네시아는 해당 논문에서 '호스트가 직접적으로 원격 메모리에 접근할 수 있는 형태의 CXL 기반 메모리 분리 기술'을 제안하였습니다. 이 기술을 통해, 기존의 메모리 분리 기법 활용 시 발생하던 성능 저하 문제와 비용 효율성 문제를 해결할 수 있습니다. 제안하는 기술을 통해 최종적으로 구성 가능한 고효율, 고성능, 저지연 메모리 분리 솔루션은 산업계에 큰 변화를 일으킬 잠재력을 갖추고 있습니다.

해당 논문에서는 CXL 3.0에 새롭게 추가된 기능이 무엇이며, CXL 3.0의 새로운 기능을 활용하여 어떻게 '필요에 맞게 구성 가능한 서버 구조(composable server architecture)'를 구축할 수 있는지에 대해서도 소개하고 있습니다.

관련하여 보다 자세한 내용은 아래 링크에서 확인할 수 있습니다.

논문 다운로드

파네시아, CXL 관련 초청 세미나 진행

Panmnesia December 13, 2022

CXL(Compute Express Link) 기술에 대해 산업계/학계의 관심이 집중되고 있습니다. 파네시아는 CXL 및 메모리/스토리지 솔루션 선도 기업으로써, 최근 반도체공학회, 서울대학교, 한국정보과학회, IITP(정보통신기획평가원) 등 다수 기관의 초청을 받아 CXL 세미나를 진행하였습니다.

가장 최근 행사로써, 올해(23년) 5월 30일에는 반도체공학회의 초청을 받아 'ChatGPT와 인공지능반도체의 미래기술 워크숍' 행사에서 CXL 관련 세미나를 진행하였습니다. 'CXL을 활용한 대규모 AI 가속 솔루션'이라는 제목으로 진행된 해당 발표에서는 CXL 기술을 활용하여 대규모 AI 응용인 추천시스템의 학습 과정을 가속하는 솔루션에 대하여 소개하였습니다.

올해(23년) 5월 23일에는 프렌들리에이아이(FriendliAI)의 대표이자 서울대학교 교수인 전병곤 대표님의 초청을 받아 서울대학교에서 단독 세미나를 진행하였습니다. ‘Unlocking the Power of CXL: Navigating the Future of Cutting-Edge Technology’라는 제목으로 진행된 해당 세미나에서는 CXL에 대한 개념, 그리고 CXL 기술을 활용하여 응용을 가속한 두 가지 연구 사례를 소개하였습니다.

올해(23년) 2월 7일에는 한국정보과학회의 초청을 받아 ‘2023 컴퓨터시스템소사이어티 동계학술대회’에서 CXL 관련 세미나를 진행하였습니다. ‘CXL의 필요성, 그리고 최신 CXL 기반 기술’이라는 제목으로 진행된 해당 발표에서는 CXL 기반 메모리 확장의 필요성, 그리고 파네시아가 생각하는 실질적인 CXL 기반 시스템 구성 방식에 대하여 소개하였습니다.

작년(22년) 12월 13일에는 IITP의 초청을 받아 서울 코엑스에서 개최된 '2022 PIM인공지능반도체 전략기술 심포지엄' 행사에서 기조연설을 진행하였습니다. 'Compute Express Link를 이용한 스케일러블한 고성능 메모리 자원 세부화'라는 제목으로 진행된 해당 연설에서는 CXL을 활용하여 고성능/고확장성 메모리 솔루션을 구축하는 방법, 그리고 파네시아가 개발한 CXL 기반 솔루션에 대해 소개하였습니다. 이 날 행사에서는 파네시아 외에도 삼성전자 (연설자 손교민 마스터), SK하이닉스 (연설자 전준현 부사장) 등 국내 대표 메모리 반도체 기업들의 기조연설도 진행되었습니다.

이 외에도 파네시아는 오픈컴퓨트프로젝트(Open Compute Project, OCP), 한국정보과학회 등 다양한 기관들로부터 세미나를 요청 받아 진행할 예정입니다. 각 세미나와 관련된 보다 자세한 정보는 아래 링크를 통해 확인할 수 있습니다.

반도체공학회 세미나(5/30) 서울대학교 세미나(5/23)

한국정보과학회 세미나(2/7) IITP 기조연설(12/13)

파네시아, 인텔, 마이크로소프트, LBNL과 함께 SC'22 CXL 패널 참여 및 기조연설 진행

Panmnesia KAIST November 21, 2022

파네시아는 SC(SuperComputing)'22 학회에 CXL(Compute Express Link) 패널로써 참여하였습니다. AMD, 인텔 주관하에 진행된 CXL 패널 미팅에는 파네시아 외에도 마이크로소프트, 인텔, LBNL(Lawrence Berkeley National Laboratory, 미국 로렌스버클리국립연구소)의 대표인사들이 참여하였습니다. 패널 미팅에서는 고성능컴퓨팅(High Performance Computing, HPC) 환경에서 CXL을 어떻게 활용할 것이며, 이 때 발생하는 챌린지들을 어떻게 해결할 지에 대한 논의를 나누었습니다.

파네시아는 해당 행사에서 개회 기조연설(opening distinguished lecture) 또한 진행하였습니다. 'Putting Memory and Computing in a Single Pool over CXL'라는 제목으로 진행된 해당 연설에서는, CXL 스위치와 CXL 3.0 기술을 활용하여 '필요에 맞게 구성 가능한 시스템 구조(true composable architecture)'를 구성하는 방법에 대해 중점적으로 소개하였습니다. CXL 3.0 표준의 기능들을 활용하여, 서버 랙 수준(rack-scale)의 연결이 가능하다는 사실 또한 강조하였습니다.

파네시아는 '해외 유수 기업 및 연구소와 의미있는 논의를 나눌 수 있는 기회였으며, 앞으로도 기술 개발을 선도하는 입장에서 서로 많은 교류를 나누기를 희망한다'며 감회를 밝혔습니다. 행사와 관련된 보다 자세한 내용은 아래 링크에서 확인할 수 있습니다.

프로그램 정보

파네시아, CXL 포럼 2022에 연사로써 초청

Panmnesia KAIST July 22, 2022

파네시아는 CXL(Compute Express Link) 컨소시엄 및 멤버지(MemVerge)가 주관하는 CXL 포럼 2022(CXL Forum 2022)에 연사로써 초청되었습니다. 해당 행사는 플래시메모리서밋(Flash Memory Summit)에서 가장 인기 있는 세션 중 하나로, CXL 기술 개발을 선도하는 연구자나 기업인들이 한 데 모여 CXL 기술 개발 방향을 논의하는 행사입니다. 파네시아 이외에도 ARM, 키옥시아, 시놉시스 등의 기업이 연사로 참여하였습니다. 파네시아는 해당 행사에서 두 가지 서로 다른 주제로 발표를 진행할 예정입니다.

'CXL-SSD: Expanding PCIe Storage as Working Memory over CXL'이라는 제목으로 진행될 첫번째 발표에서는, CXL을 활용하여, SSD와 같은 블락 스토리지를 시스템 메모리처럼 활용하는 방법에 대해 다룹니다. 구체적으로, SSD를 시스템 메모리처럼 활용하고자 할 때 가장 적합한 CXL 서브프로토콜, SSD를 시스템 메모리처럼 활용할 때 발생하는 문제, 해당 문제를 해결하는 솔루션 등의 내용을 다룰 예정입니다.

'CXL 2.0-based End-to-End System for High-Performance Memory Disaggregation'이라는 제목으로 진행될 두번째 발표에서는, CXL 2.0 CPU, CXL 2.0 스위치, CXL 2.0 메모리 확장장치를 활용하여 구성 가능한 고성능 메모리 분리(memory disaggregation) 시스템에 대하여 다룰 예정입니다.

프로그램과 관련된 보다 자세한 내용은 아래 링크를 통해 확인할 수 있습니다.

프로그램 정보

파네시아의 CXL 2.0 기반 단대단 시스템 프로토타입, 해외 유수 언론 더넥스트플랫폼에서 소개

Panmnesia KAIST July 20, 2022

파네시아가 세계 최초로 공개한 CXL 2.0 단대단 시스템 프로토타입, DirectCXL이 해외 언론 더넥스트플랫폼(The Next Platform)에 소개되었습니다. 참고로, 더넥스트플랫폼은 메모리 및 컴퓨팅 분야 유수 언론으로, 관련 분야의 선도적인 기술을 깊이 있게 다룹니다. 삼성전자, LG전자를 제외하면, 국내 기업의 기술이 해당 언론에서 중점적으로 다루어진 경우가 없습니다.

해당 기사에서는 파네시아의 CXL 2.0 기반 단대단 시스템 프로토타입에 대해 소개하면서, 파네시아가 메타, 마이크로소프트와 동일한 수준에서 CXL 관련 기술 개발을 선도하게 되었다고 언급하였습니다.

원문: ... have joined the ranks of Meta Platforms (Facebook), with its Transparent Page Placement protocol and Chameleon memory tracking, and Microsoft with its zNUMA memory project ...

더넥스트플랫폼 기사 원문은 아래 링크를 통해 확인하실 수 있습니다.

파네시아, SSD 기반의 메모리 확장 기술, 'CXL-SSD' 개발

Panmnesia KAIST June 20, 2022

파네시아는 CXL(Compute Express Link) 기술을 활용하여 SSD를 일반적인 시스템 메모리처럼 활용하는 기술, CXL-SSD를 개발하였습니다. 해당 기술은 올해 6월 열리는 ACM HotStorage 학회에서 발표될 예정입니다.

CXL-SSD의 개요

CXL은 다양한 프로세서, 가속기, 메모리 장치를 캐시 일관성을 보장하는 형태로 연결하는 인터커넥트 프로토콜로, CXL.io, CXL.cache, CXL.mem, 세 가지 서브프로토콜을 포함하고 있습니다. 파네시아는 CXL 프로토콜이, SSD와 같은 블락 스토리지 장치를 일반적인 시스템 메모리처럼 활용하는데 쓰일 수 있다고 생각하였습니다. 이에 '어떻게 하면 SSD를 메모리처럼 노출시킬 수 있을지', 'SSD를 메모리처럼 노출시켰을 때 발생 가능한 문제는 무엇인지', '이 때 발생한 문제는 어떻게 해결할 수 있을지' 탐구하였으며, 관련 내용을 논문 형태로 공개하였습니다. 각각에 대해 탐구한 내용을 간단히 요약하면 다음과 같습니다.

어떻게 하면 SSD를 메모리처럼 노출시킬 수 있는가?

파네시아는 우선 SSD를 CXL 장치(CXL-SSD)로 활용함으로써, 기존의 블락(수백 혹은 수천 바이트) 단위가 아닌 바이트 단위로 접근할 수 있도록 만들었습니다. 또한, CXL의 세 가지 서브프로토콜 중 CXL.cache 프로토콜을 활용할 경우, CXL-SSD 장치의 성능이 저하될 수 있다는 것을 발견하였습니다. 다수의 CXL-SSD 장치와 다수의 호스트(CPU)가 있을 때, 어떤 식으로 CXL-SSD의 메모리 공간을 호스트에게 할당하는 것이 합리적인지에 대해서도 탐구하였습니다.

SSD를 메모리처럼 노출시켰을 때 발생 가능한 문제는 무엇인가?

파네시아는 CXL-SSD를 메모리처럼 활용할 경우, SSD의 내부 동작으로 인해 예상치 못한 지연이 발생할 수 있음을 발견하였습니다. 예를 들어, SSD에서 용량을 확보하기 위해 주기적으로 수행하는 가비지컬렉션(garbage collection) 동작이 진행되는 도중에 호스트가 SSD에 저장된 데이터를 로드(load)하는 명령을 보낼 경우, 호스트가 예상치 못한 지연이 발생할 수 있습니다.

이 때 발생한 문제는 어떻게 해결할 수 있는가?

앞서 언급한 '예상치 못한 지연'을 방지하기 위해, 파네시아는 호스트 측에서 CXL-SSD에게 일종의 힌트를 건네 주는 기법을 제안하였습니다. 예를 들어, 호스트가 판단하기에 긴급하게 처리되어야 하는 메모리 접근 명령이 있을 경우, 해당 명령을 보낼 때 '긴급하게 처리가 필요하다'는 힌트를 함께 보내면, CXL-SSD에서 내부 동작을 일시 중지하고 긴급한 명령부터 우선적으로 처리하도록 설계하였습니다.

해당 연구 내용은 해외 언론 테크타겟(TechTarget)에서, CXL-SSD 기술을 선도하는 연구 내용으로써, 삼성, 키옥시아 기술과 함께 소개되었습니다. 자세한 내용은 아래의 링크를 통해 확인할 수 있습니다.

파네시아, 세계 최초 CXL 2.0 단대단 프로토타입 공개

Panmnesia KAIST April 30, 2022

파네시아는 CXL 2.0(Compute Express Link 2.0) 기반 차세대 메모리 확장 플랫폼 DirectCXL을 개발하였습니다. 파네시아는 또한 세계 최초로 운영체제가 실장된 단대단(End-to-end) CXL 2.0 프레임워크를 제작하여 공개하였습니다. 해당 기술은 올해 7월 미국 칼스배드(Carlsbad)에서 열리는 USENIX ATC 학회에서 발표될 예정입니다.

기존 메모리 확장 방식

오늘날 빅데이터 분석, 그래프 분석, 인메모리 데이터베이스 등 대규모 데이터에 기반한 응용처리가 증가함에 따라, 데이터센터에서는 이를 더 빠르고 효율적으로 처리하기 위해 시스템의 메모리 확장에 많은 투자를 하고 있습니다.

그러나 우리가 흔히 알고 있는 메모리 확장 방식인 더블 데이터 대역폭(DDR) 인터페이스를 통한 메모리 확장은 추가할 수 있는 메모리 개수의 제한이 있어, 대규모 데이터 기반의 응용을 처리하기에 충분하지 않습니다. 따라서 데이터센터에서는 CPU와 메모리로 이루어진 메모리 노드들을 따로 구성하고, 응용을 수행하는 호스트의 메모리가 부족하면 네트워크로 연결된 메모리 노드를 자신의 메모리 공간으로 사용하는 원격 데이터 전송 기술(RDMA) 기반의 메모리 확장을 사용합니다.

기존 메모리 확장 방식의 문제점

여러 메모리 노드를 사용하는 RDMA 기반의 메모리 확장을 통해 데이터센터는 시스템의 메모리 크기를 늘릴 수 있었지만, 여전히 해결해야 할 문제들이 남아있습니다. 우선 RDMA 기반 메모리 확장 시스템에서는 노드 간 데이터 이동 시 불필요한 데이터 복사, 소프트웨어의 개입 그리고 프로토콜 전환으로 인한 지연을 발생시켜 성능 저하가 발생합니다. 또한 시스템의 메모리 확장 시 메모리만을 추가할 수 있는 것이 아닌, 메모리와 메모리를 제어할 CPU가 하나의 메모리 노드를 이루어 시스템에 추가되어야 했기 때문에, 추가적인 비용 소모가 발생합니다.

CXL 기반 메모리 확장 방식

최근 CXL 프로토콜의 등장으로 많은 메모리 고객사와 제조사가 이러한 문제를 해결할 수 있는 가능성을 확인하고 있습니다. CXL은 PCIe 인터페이스 기반의 CPU-장치 간 연결을 위한 프로토콜로, 이를 기반으로 한 장치 연결은 기존보다 높은 성능과 확장성을 지원하는 것이 특징입니다.

국내외 유수 기업들이 모여 CXL 인터페이스 표준 규약을 제안하는 CXL 컨소시엄은 지난 2019년 CXL 1.0/1.1을 처음 제안하였고, 이후 CXL 2.0을 발표하며 CXL 1.0/1.1에서 하나의 포트당 하나의 지역 장치만을 연결할 수 있었던 확장성 문제를 스위치 네트워크를 통해 개선, 하나의 포트를 여러 포트로 확장할 수 있도록 했습니다. 따라서 CXL 1.0/1.1과 달리 CXL 2.0에서는 확장된 포트에 다수의 원격 장치를 연결하는 것이 가능해 더 높은 확장성을 지원할 수 있게 되었습니다.

그러나 CXL 2.0의 높은 확장성에도 불구하고, 아직 CXL 연구의 방향성을 제시해줄 수 있는 시제품 개발 및 연구들이 진행되지 않아, 메모리 업계와 학계에서는 여전히 CXL1.0/1.1을 기반으로 로컬 메모리 확장, 시제품 개발 및 연구를 진행하고 있는 실정입니다. 따라서 새로운 CXL 2.0을 통한 메모리 확장 연구의 방향성과 초석을 제시할 필요성이 커졌습니다.

DirectCXL: 세계 최초 CXL 2.0 단대단 프로토타입

파네시아가 전 세계 최초로 프로토타입한 CXL 2.0 기반 메모리 확장 플랫폼 ‘DirectCXL’은 높은 수준의 메모리 확장성을 제공하며, 빠른 속도로 대규모 데이터 처리를 가능케 합니다. 이를 위해 파네시아는 메모리를 확장해 줄 장치인 'CXL 메모리 장치'와 호스트 'CXL 프로세서 (CPU)', 여러 호스트를 다수의 CXL 메모리 장치에 연결해주는 'CXL 네트워크 스위치' 그리고 메모리 확장 플랫폼 전반을 제어할 'CXL 소프트웨어 모듈'을 개발하여 플랫폼을 구성하였습니다.

구성된 DirectCXL 플랫폼을 사용한 시스템에서는 확장된 메모리 공간에 직접 접근하여 데이터를 CPU의 캐시로 가져와 불필요한 메모리 복사와 소프트웨어의 개입이 없으며, PCIe 인터페이스만을 사용하여 프로토콜 전환을 없애 지연시간을 최대한 줄였습니다. 또한 추가적인 CPU가 필요 없는 CXL 메모리 장치를 CXL 스위치에 연결하는 것만으로 메모리 확장이 가능해 효율적인 시스템의 구성이 가능합니다. 국내외 소수 대기업에서 메모리 장치 일부 단품에 대한 구성을 보여준 준 사례는 있지만, CXL 2.0 기반, CPU부터 CXL 스위치, 메모리 장치가 장착된 시스템에서 운영체제를 동작시키고 데이터 센터향 응용을 실행하고 시연한 것은 이번 사례가 처음입니다.

파네시아는 자체 제작한 메모리 확장 플랫폼 DirectCXL의 성능을 검증하기 위해 4개의 호스트 컴퓨터가 CXL 네트워크 스위치를 통해 연결된 다수 CXL 메모리 장치들을 제어하는 환경을 구성하였습니다. 이후 구성된 플랫폼을 통해 CXL 메모리 장치의 성능을 기존 RDMA 기반 메모리 확장 솔루션과 비교하였습니다. 파네시아가 제안한 DirectCXL은 확장된 메모리에 대한 접근 시간 검증에서 기존 RDMA 기반의 메모리 확장 솔루션 대비 8.3배의 성능 향상을 보였으며, 많은 메모리 접근을 요구하는 그래프 응용처리 및 인 메모리 데이터베이스 응용처리에서도 각각 2.3배, 2배의 성능 향상을 이루어 냈습니다.

파네시아는 "이번에 개발된 DirectCXL은 기존 RDMA기반 메모리 확장 솔루션보다 훨씬 적은 비용으로도 뛰어난 성능과 높은 확장성을 제공하는 만큼 데이터센터나 고성능 컴퓨팅 시스템에서의 수요가 클 것으로 기대한다. 세계 최초로 개발된 CXL 2.0 기반의 단대단 프토타입 플랫폼을 활용하여 CXL이 적용된 새로운 운영체제(OS)는 물론 시제품 고도화를 통해 향후 CXL을 활용한 시스템 구축에 초석을 제공할 것이다ˮ라고 밝혔습니다.

해당 연구 내용은 다수의 기사를 통해 소개되었습니다. 관련 내용은 아래의 링크를 통해 확인할 수 있습니다.