한국과학기술원(KAIST)은 9일 전기및전자공학부 정명수 교수, 교원창업기업인 파네시아, 메타 연구진이 공동으로 CXL(CPU·가속기·메모리를 빠르게 연결하고 자원을 공유하는 국제표준 기술)을 활용해 CPU와 AI 가속기, 메모리를 하나로 묶고 이를 데이터센터 전체로 확장하는 구조를 제시했다고 밝혔다.

기존 데이터센터는 여러 컴퓨터가 네트워크를 통해 협업하는 방식이라면, 이번 구조는 서버 간 경계를 낮춰 CPU·가속기·메모리를 긴밀하게 연결한다. 데이터센터 전체를 '하나의 거대한 컴퓨터'처럼 움직이게 하는 것이 핵심이다.

현재 엔비디아의 NVLink나 UALink 등도 여러 가속기를 빠르게 연결하지만 주로 랙(rack·여러 서버와 장비를 층층이 설치하는 구조) 내부 연결에 초점을 둔다.

반면 이번 구조는 가속기뿐만 아니라 CPU와 메모리까지 CXL로 연결하고 그 범위를 데이터센터 전체로 확대한다.

연구진이 제시한 구조에서는 하나의 연결 영역에 최대 960개의 가속기를 연결할 수 있다. 이는 현행 NVLink 기반 랙보다 약 13배 큰 규모라고 연구진은 설명했다.

데이터 이동 시간도 기존 네트워크 기반 구조의 마이크로초(μs, 100만분의 1초) 수준에서 수백 나노초(ns, 10억분의 1초) 수준으로 줄일 수 있다.

AI 데이터센터에서는 이러한 작은 지연도 반복되면 전체 성능에 큰 영향을 미친다고 연구진은 부연했다.

운영도 유연해질 수 있다.

CPU·가속기·메모리를 각각의 자원처럼 연결해 문제가 생긴 부품만 교체하거나, 남는 연산·메모리 자원을 필요한 곳에 활용할 수 있기 때문이다.

이번 연구는 AI 데이터센터의 기본 단위를 '서버'에서 '데이터센터 전체'로 확장하는 설계 방향을 제시한 것으로, 수많은 컴퓨터의 집합에서 한발 더 나아가 데이터센터 자체가 하나의 거대한 컴퓨터처럼 작동하도록 하는 개념이라고 연구진은 강조했다.

정명수 교수는 "AI가 거대해질수록 개별 가속기의 성능만큼 수많은 가속기와 메모리를 얼마나 빠르고 효율적으로 연결하느냐가 중요하다"며 "이번 연구는 CXL을 기반으로 데이터센터 전체를 하나의 컴퓨팅 시스템처럼 동작시키는 차세대 AI 인프라의 방향을 제시했다는 데 의미가 있다"고 말했다.