최근 인공지능(AI) 열풍을 타고 주목받는 분야가 있다. AI를 개발하고 관련 서비스를 제공하기 위한 초고사양 컴퓨터 서버 수십만 대를 모아놓은 데이터센터다. AI 시대를 주도하는 마이크로소프트(MS) 등 미국 빅테크들은 최소 10만 대 이상 서버를 운영하는 ‘하이퍼 스케일 데이터센터’를 보유하고 있다. 데이터센터가 제대로 기능해야 AI 개발 속도가 빨라져 기술 경쟁력을 갖출 수 있다.

지금까지는 장치별로 속도를 올리는 경쟁이었다. 메모리, 중앙처리장치(CPU), 그래픽처리장치(GPU) 각각의 성능을 개선해 합치는 방식이다. 하지만 최근 처리해야 할 데이터 양이 크게 늘면서 상황이 급변했다. 대규모 언어모델(LLM) 개발에 필요한 엔비디아 GPU가 개당 6000만원까지 가격이 올라 비용 부담이 대폭 늘어난 것. 이 때문에 데이터센터 수준을 유지하면서 총소유비용(Total Cost of Ownership·TCO)를 줄이는 일이 IT업계 공통 과제가 됐다.

 

칩 실시간 연결, 동시 협업 가능
탑재하면 검색 속도 100배까지
중국 기술력 낮아 시장 선점 가능

 

“기술 공개 후 메타가 미팅 요청”

지난달 26일 대전 KAIST 연구실에서 만난 정명수(45) 전기·전자공학부 교수는 데이터센터의 TCO문제를 ‘컴퓨트 익스프레스 링크(CXL)’ 기술로 해결하려 한다. CXL은 각각의 칩을 실시간으로 연결해 저비용으로 데이터센터의 최적화 성능을 이끌어내는 기술이다. 핵심은 공유와 협업이다. 사용자 요청을 받은 AI가 정보를 검색한다고 가정해보자. 기존 시스템은 메모리→CPU→GPU→CPU를 오가며 연산을 계속 반복한다. 장치마다 성능을 개선해 속도를 높여도 순차·반복 구조 탓에 병목 현상과 발열 문제가 생긴다. 추가 장치를 구매할 수밖에 없는데 이 경우 비용이 문제다.

하지만, CXL을 탑재하면 장치 간 통신이 가능해져 데이터 처리 순서를 기다리지 않고도 동시다발적으로 협업이 가능하다. 정 교수는 이 CXL 기술을 개발 및 사업화를 위해 2022년 파네시아를 창업했다. 그는 “도서관에서 누군가 책을 빌려 가면 반납할 때까지 기다려야 한다. 파네시아가 개발한 CXL 3.0은 내가 읽고 있는 책을 남도 동시에 읽을 수 있는 전자책이라 보면 된다. 대기 시간이 없고 장치마다 어떤 작업을 하고 있는지 실시간 공유된다”고 설명했다.

파네시아가 기술을 공개할 때마다 빅테크들은 큰 관심을 보여왔다. 정 교수는 2022년 6월 미국에서 열린 유즈닉스 연례회의에서 세계 최초로 CXL 2.0을 발표했다. 행사 직후 메타(페이스북 모회사)에서 미팅 요청을 받았다. 정 교수는 “미국 빅테크들도 기술이 필요해 업계를 뒤졌는데 실제 작동하는 시스템을 못 찾았다더라”며 “메타에서는 직접 데이터센터에 적용해서 어떻게 바뀌는지 보고 싶다고 했다”고 말했다.

CXL은 기술 개발이 시작된 지 얼마 되지 않은 초기 시장이다. 인텔이 주도해 2019년 CXL 컨소시엄이 꾸려진 뒤, 본격적으로 개발속도에 불이 붙었다. MS, 엔비디아, 삼성전자, SK하이닉스 등이 가입된 컨소시엄은 산업 현장 요구를 취합해 CXL 표준을 만들고, 1.0부터 3.1단계까지 기술 수준을 구별해 놨다.

 

데이터센터 필수재 CXL

파네시아는 지난 1월 최신 단계인 CXL 3.1 시연에 들어갔다. 잠재 고객은 메모리 제조사(삼성전자·하이닉스·마이크론)부터 AI칩 제조사(엔비디아·AMD), 네트워크 회사(브로드컴·멜라녹스)까지 다양하다. 메타와 AMD의 경우 파네시아로 먼저 연락을 해와 현재 기술 수준 및 개발 방향에 대한 회의를 진행했다. 지난 1월엔 글로벌 서버업체 HPE(휴렛팩커드 엔터프라이즈)와도 만났다. 현재까지 누적 투자 유치액은 170억원이다. 정 교수는 “앞으로는 CXL을 탑재한 메모리, AI칩이 깔린 데이터센터와 그렇지 않은 데이터센터로 나뉠 것”이라며 “시장 참여자 모두 갈 수밖에 없는 길이 될 것”이라고 주장했다. 다음은 일문일답.

Q. 왜 시장 참여자 모두가 CXL로 갈 것이라 보나.

A. “AI기반 이미지 검색 서비스를 통해 우리가 자체실험을 했다. 최신 CXL 탑재 여부에 따라 속도 성능 격차가 최대 100배까지 벌어졌다. 챗GPT같은 서비스 정확도를 2%포인트 올리려면 메모리를 10배 늘려야 한다. 정확도가 2%포인트 증가하면 해당 기업의 매출이 4%포인트 오른다는 통계가 있다. CXL이 ‘메모리 반도체의 미래’라고 불리는 이유다.”

Q. CXL에 뛰어든 계기는.

A. “필요한 상황인데 없으니까 만들게 됐다. 자본력을 갖춘 글로벌 기업들이 이 기술에 관심을 가지면서 주목 받기 시작했다. 지금도 각국에서 CXL 기술들이 나오고 있는데 2015년부터 연구를 진행한 우리와 기술 격차가 있다.”

Q. 수요가 있는데 시장 형성이 더딘 이유는.

A. “데이터 센터를 보유한 회사 입장에서 보면, 본인들 설비의 교체 시점이 올 때까지 기다려야 한다. 막대한 돈을 들여 컴퓨터 서버와 부대설비를 설치해 놨는데, 얼마 안 돼 모두 새것으로 바꾸는 건 쉽지 않다. 전기차가 나왔다고 해서 모두가 한꺼번에 전기차로 바꾸지 않듯이, CXL도 한 세대가 바뀌는 시점에 크게 확산될 것이다. 이제 막 전환 시점에 접어들었다.”

Q. 파네시아 기술력은 어느 수준인가.

A. “전 세계 반도체 업계들이 모인 CXL 컨소시엄에서 정한 기준선이 있다. 현 시점에서 최신 기술은 3.1이고, 이를 개발한 곳은 아직 우리가 유일하다. 진정한 의미에서 장치 간 실시간 공유·협업은 3.0부터 가능한데, 기술력으로 앞서간다는 자부심이 있다. 지금 업계에서는 CXL 1.1 기반 반도체들이 출시될 정도로 수준 차이가 있다.”

Q. ‘CXL 생태계’를 강조하는 이유는.

A. “이해관계가 다른 기업들이 서로 케미가 맞아야 CXL이 시장에 빠르게 깔릴 수 있다. 파네시아와 협업하는 로렌스 버클리 국립연구소의 담당 부문장이 ‘미국의 AI가속기(AI작업을 빠르게 처리할수 있게 해주는 소프트웨어 또는 하드웨어) 업체가 200개가 넘는다. 저마다 지원 체계가 달라서 이를 뒷받침하는 소프트웨어도 제각각이다’라고 현 상황을 설명하더라. 통일된 CXL이 들어가면 표준화시킬 수 있다. 시장 규모가 거대하다는 점을 강조하고 싶다.”

 

일에 몰입하기 위해 매일 똑같은 옷

정 교수는 거의 매일 같은 옷을 입는다고 한다. 이날도 파네시아 로고가 찍힌 흰 티셔츠에 청바지, 검은색 재킷 차림이었다.



Q. 왜 매일 같은 옷을 입나.

A. “민망한 말이지만, 바쁠 때는 옷을 고민해서 고르는 일이 무의미하게 느껴진다. 스스로를 의심하면서 살고 있다. 어떤 이유에서든 회사를 시작했다면 기술 개발과 자금 운용이 최우선 순위다. 흐트러지지 않고 나부터 떳떳하고 싶다.”

Q. 삼성전자에서 일하다 학계로 왔다.

A. “삼성전자 메모리사업부에서 일을 시작했다. 미국으로 건너가 텍사스 주립대 교수를 거쳐 KAIST에 임용됐다. 산업계에서 학계로 넘어온 터라 ‘회사를 할 거면 제대로 해야 한다’고 생각한다. 무엇보다 나를 믿어주는 사람들의 돈을 투자받지 않았나. 능력이 부족하니 더 많이 노력하는 편이다. 이가 없으면 잇몸으로라도 씹어 먹어야 하는 성격이다.”

Q. 창업한 이유는.

A. “처음에는 ‘교수는 창업하면 안 된다’는 생각이 있었다. 학교는 가르치는 곳이니까 산업계와 적절한 거리를 유지하는 역할분담이 필요하다고 생각했다. 하지만, 지금 CXL 시장은 악화(저품질)가 양화(고품질)의 확산을 더디게 하는 상황이다. 특히 중국 업체들이 높지 않은 기술력으로 CXL을 알리다 보니, 진정한 의미에서 장치 간 실시간 공유·협업이 가능한 기술이 나온 지금도 상용화하는 데 시간이 걸리고 있다. 제대로 된 CXL 수요가 점점 커지면서 ‘우리가 해야겠다’ 싶었다.

Q. 함께 연구한 학생들이 창업에도 동참했는데.”

A. “CXL 초창기부터 지도했던 대학원생 15명이 모두 회사로 와줬다. 이들에게 특별히 고마운 이유는 ‘회사와 학교의 구분을 확실히 하자’는 내 의견에 동의해줬기 때문이다. 파네시아 합류가 결정된 이후, 여러 지원을 해주는 학교 프로그램을 그만두고, 파네시아를 통해 독립적으로 학교에 재등록했다. 교수 연구실에서 시작한 창업이지만 엄연한 회사로서 독립성을 갖추기 위해서였다.”

김철웅 기자 kim.chulwoong@joongang.co.kr