한국의 엔비디아 워너비, AI 칩 스타트업 레벨스, 삼성 지원으로 NPU 양산 시작

이 기사의 버전은 원래 South China Morning Post와 협력하여 The Korea Times에 게재되었습니다.

서울 남부의 한 사무실 건물에는 12개의 칩이 선반에 나란히 늘어져 있고, 각 칩은 작동하는 동안 냉각시켜 주는 자체 선풍기 옆에 놓여 있습니다.

차세대 AI 칩으로 평가되는 NPU는 소위 매트릭스 연산을 동시에 수행하도록 최적화되어 있으며, 이는 범용 중앙처리장치(CPU) 및 GPU에 비해 ​​딥러닝이라는 AI 방식이 한 단계 발전된 것입니다.

2020년 5명의 한국 엔지니어가 공동 설립한 전설적인 AI 칩 회사인 Rebellions는 훈련이 아닌 AI 모델을 통해 실시간 데이터를 실행하는 프로세스인 AI 추론 분야에서 Nvidia와 경쟁할 수 있는 국내 최고의 희망으로 간주됩니다.

Atom은 올해 상반기에 삼성전자의 5나노미터 기술로 양산될 것이라고 Rebellions CEO이자 공동 창업자인 박성현이 최근 The Korea Times와의 인터뷰에서 말했습니다.

아톰은 국내 최초로 개발, 양산되는 칩이기 때문에 이는 한국 칩 산업에 중요한 이정표가 될 것이다.

박씨는 “우리는 AI 추론에서 엔비디아의 GPU보다 에너지 효율성이 더 높다”고 말했다. Atom은 Nvidia의 A100보다 전력 효율이 5배 더 높지만, 언어 모델 가정 벤치마크 테스트에서 Atom의 대기 시간(칩 성능 속도 측정)은 Nvidia A2의 절반에 불과하다고 Park 씨는 말했습니다.

실제로 이는 Atom 칩이 팬에 의해서만 냉각될 수 있는 반면 Nvidia 칩은 더 많은 전기를 사용하고 더 높은 운영 비용을 발생시키는 에어컨이 설치된 방에서 작동해야 함을 의미합니다.

이번 시위는 삼성, 통신업체 KT, 인터넷 대기업 카카오 등 한국 기술 업계의 일부 대기업들의 지지를 이끌어냈다.

지난 1월, Agitators는 KT가 주도한 자금 조달 라운드에서 1억 2,400만 달러를 모금했습니다. KT는 지금까지 이 스타트업에 5천만 달러 이상을 투자하여 기업 가치를 6억 5천만 달러로 끌어올려 가장 많은 자금을 지원받은 칩 스타트업이 되었습니다. 국가.

박씨는 프로토타입 단계에서 몇 년이 지난 후 대량 생산에 들어가면 회사 수익에 큰 도움이 될 것이라고 말했습니다.

한국 2위의 통신 사업자이자 최대의 데이터 센터 기업인 KT는 Atom의 대량 생산이 시작된 후 Rebels의 첫 번째 고객이 될 것입니다. 이는 통신사가 AI 칩의 최고의 고객이라고 믿습니다.

그는 “AI 산업의 미래는 인프라 게임이 될 것”이라고 말했다. “통신회사들은 데이터센터 구축을 위해 막대한 자금을 투자할 의향이 있습니다.”

박 대표는 KT와의 파트너십이 특히 Rebellions가 IBM과 같은 데이터 처리 거대 기업과 협상하고 있는 미국 시장에서 글로벌 확장에 도움이 되기를 바라고 있습니다.

박씨는 2014년 MIT에서 전기공학과 컴퓨터공학 박사학위를 취득한 뒤 미국에서 6년 동안 삼성의 미국 연구기관인 인텔, 스페이스X 등에서 근무하며 칩을 개발했다.

미국 칩 산업에서의 경험에도 불구하고 박씨는 한국에서 반도체 회사를 시작할 수 있는 좋은 기회를 보았습니다. 그는 “반도체 하드웨어 생태계에서 아시아가 차세대 대세가 될 것”이라고 말했다. “한국과 대만이 전진하고 있다.”

박씨는 반란을 일으키기 위해 고국으로 떠났고, 미국에서 경력을 쌓은 또 다른 한국인 AI 칩 전문가인 오진욱과 다른 사람들도 합류했습니다.

박씨는 당시 자신의 전문 네트워크가 주로 미국에 있었기 때문에 물러나는 것이 쉬운 결정이 아니었다고 말했다. Rebels의 초기 팀원에는 IBM, Intel, Apple 및 Samsung US의 전직 직원이 포함되었습니다. 그러나 그룹이 확장되면서 현지 배경을 가진 전문가들이 모여들었습니다.

현재 Agitator에는 엔지니어 100명을 포함해 약 120명의 직원이 있습니다. 박 대표에 따르면 직원의 거의 70%가 한국의 대형 반도체 회사 출신이다.

2021년에 이 스타트업은 첫 번째 제품인 Ion을 출시했습니다. TSMC가 제조한 NPU는 금융 부문의 AI 작업을 위해 설계되었습니다. 그러나 금융기관보다 데이터센터 기업의 수요가 더 많다는 사실을 확인한 반란군은 AI 모델용 칩에 집중하기로 결정했습니다.

한국 최대의 칩 제조업체인 삼성은 Rebellion의 Atom 제품 파트너입니다.

중국, 한국, 미국과의 모바일 메모리 칩 격차 해소

양사는 지난해 10월 아톰(Atom)에 이어 스타트업의 차세대 NPU인 레벨(Rebel)을 대규모 매개변수 크기의 대형 언어 모델(LLM)과 엔비디아의 하이엔드 GPU인 '리벨(Rebel)'을 대상으로 공동 개발하겠다는 계획을 밝히며 협력을 심화했다. H200, 가상 작업.

박 대표는 회사가 한국에서 LLM에 사용되는 가상 칩의 시장 점유율이 2년 반 안에 30% 증가하고 글로벌 시장 점유율이 “최소 3~5%”에 이를 것으로 기대한다고 말했습니다. 분석가에 따르면 엔비디아는 현재 전 세계 AI 칩 시장의 최대 90%를 장악하고 있습니다.

“LLM 시장에서 작은 점유율을 차지하더라도 이미 엄청난 규모입니다.”라고 박씨는 말했습니다.