스타트업 분석 - [FuriosaAI] 글로벌 AI 반도체 스타트업 | AI 반도체의 미래

 

AI 반도체의 미래 - 퓨리오사AI

Background

AI 서비스가 현재와 미래를 구성하는 기본적인 요소가 될 것이라는 전망은 어렵지 않게 받아들일 수 있게 된 것 같습니다. 어느 산업 분야이건 인공지능을 접목하려는 시도들이 쏟아지고 있으며, 많은 이들이 기대하는 삶의 모습에는 AI를 기반으로한 서비스가 포함되어 있을 가능성이 높습니다.

 

그러나 고도화 된 AI 서비스를 운영하기 위해서는 높은 연산능력을 보유한 하드웨어 자원이 필수적입니다. 실시간 AI 서비스, 자율주행 등 빠른 시간내에 매우 복잡하고 많은 양의 연산을 처리해야하는 상황에 기존의 Processing Unit과는 차별화된 하드웨어 자원에 대한 수요가 생겨나고 있습니다.

퓨리오사AI의 백준호 대표

FuriosaAI의 백준호 대표는 미국 조지아공대에서 학/석사를 마치고 AMD의 GPU 설계팀, 삼성전자 메모리사업부 설계를 담당했습니다. 퓨리오사AI의 핵심 개발진도 삼성전자, AMD, 퀄컴 등 국내외 유수 반도체 업체에서 10년 이상 일하며 상용 CPU, GPU, 스토리지 솔루션, 시스템온칩(SoC) 등 반도체 개발 전 과정에 걸친 역량을 보유하고 있습니다.

Problem

기존에는 단순계산을 위해 CPU, AP 등의 자원을 활용하였고, 그래픽 기술, 병렬 연산 등에는 대규모 연산 처리를 위해 GPU가 활용되고 있었습니다. 인공지능과 관련된 기술들이 발전해감에 따라  GPGPU등의 GPU를 이용하는 체계나 FPGA등을 이용하는 시스템등이 널리 쓰이고 있었으나, 기존 용도(단순계산의 병렬처리)가 아닌 복잡한 다수의 연산을 빠른 시간내에 처리하기 위해서는 에너지 소모가 심하고 데이터 지연문제까지 발생하여 새로운 하드웨어 자원에 대한 필요성이 대두되었습니다.

Solution

인공지능에서의 학습 및 연산을 위한 NPU(Neural Processing Unit, 신경망 처리장치)는 위와 같은 문제를 해결하기 위해 고안된 차세대 반도체 칩이며, AI 반도체, AI 칩 등으로도 불리고 있습니다.

퓨리오사AI 홈페이지 - 'WARBOY'

NPU는 전력대비 AI 연산능력이 기존 칩들에 비해 우월하다고 합니다. 현재는 기존 프로세서에 AI연산용 NPU를 추가하거나 AI 연산기기에 특화된 프로세서로써 사용되는 중입니다.

 

적용 예시로는 데이터센터나 자율주행차에 집중 적용할 수 있는 고성능 칩을 AI 반도체라고 이해하면 됩니다.

 

NPU의 기술적 특성과 필요성 및 기존 프로세싱 유닛의 문제점에 대해 잘 정리된 글이 있기에 이를 공유합니다. 이해를 높이고자 하시는 분들은 한 번 읽어 보심이 좋을 듯 합니다.

GPU vs NPU 구조 및 NPU 목적 - voidint.com

 

Market

“거의 모든 서비스와 관련된 칩에는 AI가 핵심적으로 도입될 것이다.” 

네이버 클로버 이동수 책임리더는 2023 ICT 산업전망컨퍼런스에서 ‘지능형반도체의 새로운 패러다임’을 발제로 위와 같이 전망했습니다. 해당 컨퍼런스에서 이승우 유진투자증권 리서치센터장은 2021년 기준 GPU 시장 규모는 약 240억 달러, FPGA는 약 65억 달러 규모라고 언급했다. 이어 AI 반도체 시장규모는 343억 달러로, 이는 전체 반도체 시장 규모 대비 AI 칩의 비중이 6.2% 수준이라고 설명했다.(산업일보 기사 中 발췌)

 

정보통신정책연구원은 2030년에는 전체 시스템 반도체 시장규모의 30%(대략 1000억 달러 규모)가 인공지능 반도체가 차지할 것이라고 추정하였습니다. 이러한 비중 확대는 인공지능 서비스가 우리의 일상적인 삶에 얼마나 더 깊숙히 침투될 수 있는지에 대한 전망 & 기대치를 반영한다고 할 수 있습니다.

AI 반도체 시장 규모 전망

같은 시장에 참여하고 있는 플레이어로는 KT가 낙점한 국내 AI반도체 스타트업 리벨리온, 영국의 그래프코어(Graphcore), 미국의 세레브라스(Cerebras Systems) 등 다양한 팹리스 스타트업등이 있고, 기존 반도체 시장의 대장(?)격인 엔비디아, 인텔, AMD 또한 자체개발 및 M&A를 통해 AI반도체 시장 진출을 준비 중입니다. FuriosaAI의 브로셔를 보면 주로 NVDIA의 칩과의 성능 비교를 통해 기술 우수성을 드러내고 있습니다.

 

DOJO 설명 화면

또한, 자율주행 기술과 관련해 주목을 받고 있는 테슬라 또한 자율주행을 위한 자체 반도체 'DOJO'를 공개하였는데, 어찌보면 실제 구현 서비스(자율주행)과 그를 위한 칩 연구 개발을 수직계열화함으로써 자율주행기술용 반도체 개발 분야에서 유리한 위치에 있다고 생각합니다.

 

위의 내용을 포함한 AI반도체 시장의 경쟁상황은 아래 기사를 통해 잘 확인하실 수 있습니다.

AI반도체 주도권 누가 쥐나…빅테크부터 스타트업까지 경쟁 활발 - 테크월드뉴스

 

BM(Business Model)

퓨리오사AI는 팹리스 설계 기업입니다. 팹리스(Fabless)는 Fabrication+less의 합성어로, 반도체 제품을 직접 생산(fabrication)하지 않고 반도체 설계를 전문적으로 하는 반도체 회사(나무위키)입니다. 주로 제품 생산은 삼성전자 파운드리를 통해 양산하고 있는 것 같습니다.

워보이

현재 퓨리오사의 '워보이'를 활용하고 있는 대표적인 곳으로는 이팝소프트의 영어 교육 앱 ‘말해보카’에 구현되고 있는 AI 기능의 OCR 기능 쪽이다. OCR은 광학식 문자판독장치로 종이에 적힌 문자를 컴퓨터에 입력하는 장치이다. 책 페이지의 내용을 촬용하면 이를 텍스트로 전환해 휴대폰에 표출해주는 것입니다.

 

또한 퓨리오사AI는 카카오 엔터프라이즈의 서버와 데이터센터에서 AI 성능을 극대화할 수 있는 반도체를 개발 중인 것으로 알려져 있습니다.

퓨리오사AI 홈페이지 자료

백준호 대표는 “워보이의 경우 ‘말해보카’ 외에도 CCTV 등 사진이나 영상을 활용한 AI 서비스에 특히 강점을 갖고 있지만, 클라우드 데이터센터, 자율주행, 라이브스트리밍 등 AI 서비스에 다양하게 활용될 수 있다”, “이미 양산에 들어갔고 내년(2023년)에는 상당한 매출을 일으키는 볼륨 생산에 나설 계획”이라고 설명했습니다.

 

Distinction

서울대AI연구원 유튜브 영상에서 백준호 대표는 성능 비교와 관련된 내용을 소개하며 WARBOY의 성능을 비교하는 측면에서 NVIDIA A100와 비교할 수 있지만 실리콘 사용량이 압도적으로 차이가 나서 객관적인 비교가 어려움이 있기에, 그 대신 T4를 비교대상으로 삼았다고 합니다. NVIDIA T4는 FuriosaAI의 WARBOY에 비해 그나마 2배 정도 실리콘이 들어가서 적합하다고 판단하였고, 성능 측면에서는 크게 차이나지 않으며 Performance/Prices(=가성비) 측면에서는 4배의 성능을 기록했다고 합니다.(2021년 MLPerf)

 

2022 MLPerf 추론분야에서 결과를 제출한 유일한 스타트업이었으며, 전년대비 2배 성능으로 향상된 것을 확인할 수 있었습니다. 정말 대단하다고 생각이 드는 스타트업입니다.

2022년 MLPerf Inference 제출 결과

 

 

 

우리는 칩 설계에 소프트웨어(SW)를 운용하며 자체 플랫폼까지 가져간다.
글로벌 기업이 우리를 보고 놀라는 이유다.

 

반도체 설계도 잘해야 하지만, 이 반도체를 잘 활용하는 능력도 갖춰야 하고, 더 창의적인 AI 개발자들이 제품을 더 잘 쓸 수 있는 도구도 완벽하게 지원해야 한다. 이제 테슬라까지 자율주행에 필요한
AI 반도체(DOJO) 개발에 나서고 있는데, 여기서 돋보이는 건 천재급 SW 개발자가 포진해 있다는 점이다.
퓨리오사AI는 두 영역 모두를 이해하면서 개발하기에 글로벌 벤치마크에서 우수한 성적을 낼 수 있었다.

 

 

 

위의 내용은 백준호 대표의 2021년 Forbes 인터뷰 내용의 일부입니다. 테슬라의 경우 자체 칩을 생산하는 과정에서 실제 주행 데이터를 활용하여 기술 개발의 시너지를 낼 수 있을 것입니다. 이러한 수직계열화 구조를 갖추게 되면 효과적인 연구개발 & 시장 지배력 강화의 이점을 취할 수 있을 것입니다. 퓨리오사AI는 이러한 점을 인지하고 SW 및 알고리즘 연구에도 힘을 쓰고 있는 정말 대단한 스타트업입니다.

 

FuriosaAI Algorithm - Algorithm Engineer Job Description

 

이러한 노력들은 협업 행보에서도 드러납니다. NeurlPS, AAAI, ACL, EMNLP 등 국제AI 학회에 다수의 우수 논문 발표하며 기대를 불러 일으키고 있는 업스테이지와 지난 2022년 5월 27일  AI 솔루션 공동 개발 영업협약을 체결하였습니다. 우수한 스타트업 간의 연계가 또 어떤 훌륭한 결과를 보여줄지 기대가 됩니다!

백준호(왼쪽) 퓨리오사AI 대표와 김성훈(오른쪽) 업스테이지 대표

 

마무리

처음으로 스타트업 분석 글을 적어보았는데 FuriosaAI라는 훌륭한 기업에 대해서 정리해보게 되어 너무 흥미로웠고 만족스럽네요. 저도 언제가 될지는 모르겠지만 꾸준히 기술 Stack과 역량을 쌓아가면서 발전에 기여하는 사람이 되고 싶네요. 아직은 스스로 부족함을 많이 느껴서 계속 훈련하고 공부해야겠습니다.

 

FuriosaAI 응원합니다. 너무 멋있어요 준호 형!

 

자료 출처

https://www.furiosa.ai

FuriosaAI

http://jmagazine.joins.com/forbes/view/333064

[‘초격차’ 기술 주도할 10인] 백준호 퓨리오사AI 대표

 

네이버 기사 - 업스테이지-퓨리오사AI, 국대급 AI 스타트업 맞손…"AI칩에 AI팩 심는다"

 

서울대학교 AI연구원 유튜브 - [Vision AI Workshop] FuriosaAI 백준호 대표 - FuriosaAI Warboy

 

산업일보 기사 - AI 반도체, 2030년이면 시스템반도체시장에서 30% 차지

Tech World 기사 - AI반도체 주도권 누가 쥐나…빅테크부터 스타트업까지 경쟁 활발

"데이터센터향 AI반도체 글로벌 리더 꿈꾼다"