엔비디아는 어떤 회사인가
반도체 기업 최초 1조 달러 클럽 가입: 2023년 5월, 엔비디아는 시가총액 1조 달러를 돌파한 기업이 되었다. 그로부터 약 1년 후 엔비디아의 시총은 3조 달러를 넘어섰으며 한때 전 세계의 모든 기업을 제치고 정상에 등극하기도 했다. 그동안 시총 1위 자리를 지키던 기업은 마이크로소프트였다. 마이크로소프트는 최근 들어 클라우드 서비스에 주력하며 높은 시가총액을 유지하고 있었다. 그런데 이런 마이크로소프트를 누르고 세계 정상에 올라선 엔비디아는 도대체 어떤 기업일까?
2007년경 필자는 도쿄 아카사카의 엔비디아 일본 법인에서 열린 게임기용 GPU 신제품 발표회에 처음 참석했다. 이것이 엔비디아와의 첫 대면인데, 당시 엔비디아는 게임기 영상용 그래픽 반도체 칩을 만드는 회사였다. 그랬던 엔비디아가 2016년에 들어서자 인공지능(AI)으로 방향을 전환했다.
AI에 필요한 알고리즘을 실행하려면 클라우드 컴퓨터나 슈퍼컴퓨터 같은 고성능 컴퓨터가 꼭 필요하다. 이런 고성능 컴퓨터를 움직이게 하는 기술을 따라가다 보면 반도체라는 결론에 도달하는데, 거기에 있는 기업이 바로 엔비디아다.
TSMC가 보는, 일하지 않는 일본인: 2016년 AI로의 전략 전환은 엔비디아의 기업 문화에 커다란 영향을 끼쳤다. 이를 계기로 경영진과 직원들 간의 관계가 대등해졌다. 젠슨 황은 말한다. “우리 회사에는 보스가 없다. 프로젝트가 우리의 보스다.” 이 말은 수평적이고 대등한 관계를 의미한다. 엔비디아는 이렇듯 수평적 조직 문화를 중요하게 여겼고, 약 3만 명의 직원이 일하는 기업으로 성장한 지금도 변함없이 이어지고 있다.
“프로젝트가 우리의 보스”라는 말은, 직원 한 사람 한 사람이 책임을 갖고 업무에 임하며 꽤 많은 재량권도 부여받는다는 사실을 잘 보여준다. 직원 개개인을 믿어주니 일하는 사람의 의욕이 달라지고, 근무시간에 얽매이지 않고 집중해서 원하는 만큼 일할 수 있다는 뜻이기도 하다. 이 같은 엔비디아의 기업 문화는 일본의 기업 문화와 전혀 다르다는 점에서도 꽤 흥미롭다. 엔비디아에는 장시간 근무를 하는 사람도 많은데, 누가 시켜서 하는 게 아니라 모두가 스스로 업무를 할당하고 재량권을 가지기 때문에 설령 일이 힘들다 하더라도 악덕 기업과는 큰 차이가 있다.
야근과 밤샘 근무도 마다하지 않는다는 대만의 반도체 기업 TSMC가 최근 일본에 현지법인을 만들면서 일본인과 함께 일하게 되었는데, TSMC 관계자에게서 “일본 사람들은 일하지 않는다”라는 푸념이 나온다고 한다. 그렇다고 TSMC가 악덕 기업인가 하면 그렇진 않을 것이다. 직원들을 일하게 만들고 싶다면 야근 여부도 포함해 스스로 결정하게 하는 것이 중요하다. 재량권을 주는 것과 책임을 지우는 것은 엄연히 다르다. 엔비디아에서는 책임은 어떻게 지게 할까?
벌거벗은 임금님이 되지 않도록: 엔비디아에는 프로젝트가 보스이고 책임은 팀 전체가 함께 진다는 수평적인 문화가 존재한다. 몇 개월 전 순수 일본 기업에서 엔비디아에 입사한 어느 직원은 엔비디아의 조직 문화에 놀라움을 금치 못했다고 했다. 우선 황 CEO에게는 사장실이 없다. 디지털 시대의 유목민처럼 건물 안에서 돌아다니기를 좋아하기 때문이란다. 미국 다국적 기업 내쇼날인스트루먼트(NI)의 공동 창업자 제임스 트루차드 역시 사장실을 따로 만들지 않는다고 했다. 그는 NI는 항상 미래 기술이 향하는 쪽으로 방향을 정해야 하기 때문에 사장실에 틀어박혀 있으면 ‘벌거벗은 임금님’이 되기 쉬워 방향을 놓치고 만다고 했다. 엔비디아의 젠슨 황도 이와 같은 생각으로 직원들과 같은 층에서 일하며 끈끈한 관계를 이어가고 있는 게 아닐까?
수많은 제휴와 협업으로 완성되는 엔비디아의 세계: 엔비디아 사내에서의 대등한 관계는 회사 밖에서도 마찬가지인 듯하다. 엔비디아에 자재와 기술을 제공하는 공급사와 고객사도 모두 대등한 파트너 관계다. ‘손님은 왕’이라는 인식이 없어 사회 문제가 되는 고객 갑질과는 무관한 세계다. 엔비디아에 제품이나 기술을 제공하는 공급사가 있는가 하면 엔비디아가 제품을 납품하는 고객사도 있다. 그렇기에 분야에서의 관계 구축, 다시 말해 파트너십이 꼭 필요하다. 대등한 관계의 파트너십을 맺는 협업 체계에서는 수평 분업 체제가 원활하게 이루어지기 쉽다. 엔비디아의 본업인 팹리스 반도체 설계 회사는 수평 분업 시스템 속에서 일해왔다.
AI 기술 개발과 각국 기업
2016년, AI 기업으로의 방향 전환: 2016년 4월 미국 산호세에서 열린 엔비디아 주최 개발자 콘퍼런스 ‘GTC 2016’에서 젠슨 황은 엔비디아가 AI 기업으로 크게 방향을 전환할 것이라고 발표했다. 발표 이후 엔비디아는 AI의 계산에 필요한 반도체 GPU의 개발뿐만 아니라 AI 활용에 빼놓을 수 없는 학습 기능을 강화하기 위한 소프트웨어 라이브러리를 보강하거나 병렬처리 연산을 실행하기 쉽게 해주는 소프트웨어 ‘쿠다(CUDA)’를 정비하는 등, 소프트웨어 측면도 꾸준히 강화해나갔다. 그리고 IT 기업이나 인터넷 서비스 사업자 이외의 업종에 속한 기업과도 적극적으로 제휴를 추진했다. 예컨대 제조 관련 소프트웨어를 개발하는 기업 지멘스, 그리고 영국 원자력청(UKAEA)과도 제휴했다. 이렇게 다양한 업종과 연결고리를 만듦으로써 꾸준히 고객을 늘릴 수 있었다.
독일 지멘스와 만드는 디지털 트윈 공장: 제조 관련 소프트웨어를 개발하는 독일의 글로벌 그룹 지멘스는 엔비디아의 GPU에 주목했다. 지멘스의 소프트웨어는 CAD(컴퓨터 지원 설계)로 영상을 만들어 낼 수는 있었으나, 컴퓨터 그래픽 영상이라는 티가 너무 많이 나서 사실적이지 않았다. 소프트웨어를 아무리 파고들어도 시뮬레이션 속도에 한계가 있기 때문이었다. 그러자 지멘스는 계산 속도가 빠른 하드웨어, 즉 GPU를 컴퓨팅 리소스로 만드는 편이 더 빠르겠다고 판단했다.
마침 그즈음 지멘스는 엔비디아와 제휴를 맺고 협업하면서 엔비디아가 단순히 GPU라는 하드웨어만 설계하는 것이 아니라 사실적인 그림을 그리는 옴니버스라는 소프트웨어도 제공한다는 사실을 알게 되고 이걸 사용하면 산업용 메타버스라 할 만한 디지털 트윈을 만들어 낼 수 있을 거라고 본 것이다.
디지털 트윈이란, 실제 제품이나 서비스 혹은 공장을 시뮬레이션으로 완전히 똑같이 재현하는 기술을 말한다. 이를테면 제품을 생산하기 전에 컴퓨터로 가상의 제품을 만들고 실제 환경과 같은 상태를 구현해 시뮬레이션하면 시제품 제작부터 대량생산까지 이르는 개발 기간을 단축할 수 있다. 지멘스는 3차원 CAD와 시뮬레이터 등의 종합 디지털 플랫폼 ‘액셀러레이터’에 엔비디아의 옴니버스를 집어넣었다. 이를 통해 더욱 현실적인 제품 정보를 고객 및 잠재 고객과 공유할 수 있게 되었다.
세계 반도체 업계의 왕좌에 오르다
뱅크 오브 아메리카의 매그니피센트 7: ‘매그니피센트 7(The Magnificent Seven)’은 1960년대에 공개된 미국 영화 <황야의 7인>의 원제다. ‘매그니피센트 7’은 뱅크 오브 아메리카의 애널리스트가 처음 사용한 표현으로, 시장 지배력과 기술적 영향력 등을 고려해 선정한 7대 기업을 가리킨다. 구글과 아마존, 페이스북(현재는 Meta), 애플, 마이크로소프트 모두 시가총액 1조 달러를 넘는 빅테크 기업이다. 여기에 테슬라와 엔비디아를 더해서 총 7개 기업이 되었다. 테슬라는 최고점일 때 시총 1조 달러를 넘었고, 엔비디아도 시총 1조 달러를 훌쩍 뛰어넘었다.
126%라는 파괴적인 급성장: 엔비디아의 가파른 성장세는 전 세계 반도체 기업 가운데서도 단연코 돋보인다고 할 수 있다. 특히 2023년부터 2024년에 걸쳐 그 성장이 두드러진다. 2023 회계연도의 매출액은 269.7억 달러였는데 2024 회계연도에는 609.2억 달러의 매출을 기록했다. 무려 2.26배, 126%나 증가했다. 이것은 비정상적일 정도의 수치다. 스타트업처럼 규모가 작은 기업이 아니라 270억 달러나 되는 매출을 올리는 대기업이, 대규모 인수합병도 없이 1년 만에 매출이 126%나 급증했다는 이야기는 일찍이 들어본 적이 없다.
반도체와 AI, 양쪽을 다 갖춘 것이 성장 요인: 엔비디아의 성장 요인은 뭐니 뭐니 해도 AI다. 2012년, 캐나다 토론토대학의 신경망 연구자 제프리 힌턴 교수팀이 합성곱 신경망(CNN) 방식을 사용한 고도의 이미지 인식 기술 알렉스넷(AlexNet)을 개발했다. 젠슨 황은 알렉스넷을 ‘오늘날의 AI 빅뱅’이라 표현했다. 그만큼 획기적인 기술이었다.
알렉스넷은 2012년에 개최된 이미지 인식 국제대회에서 압도적인 차이로 우승했다. 그 전까지는 이미지 인식 기술에서 인식 오류율은 가장 낮은 기술조차 25~30%를 넘었다. 이에 비해 알렉스넷은 인식 오류율이 16%로, 이는 기존보다 10%나 낮은 수치였다. 그러자 알렉스넷이 사용한 딥러닝 기술에 이목이 쏠렸고, 이후 딥러닝, 기계학습 관련 논문이 봇물 터지듯이 쏟아져나왔다. 알렉스넷이 우승한 뒤 2015년에는 중국의 바이두가 인식 오류율 5.98%라는 결과를 내놓았고, 한 달 뒤에는 마이크로소프트가 4.94%, 그 5일 후에는 구글이 4.82%를 기록하며 계속해서 기록을 갈아치웠다.
사실 알렉스넷의 딥러닝에는 엔비디아의 GPU와 소프트웨어 쿠다가 쓰였다. 대학과 기업의 연구원들이 딥러닝을 연구하는 과정에서 CPU로 계산하는 것보다 GPU로 계산하면 학습이 더 빨리 진행된다는 사실을 알게 된 힌턴 교수팀이 이 내용을 논문으로 발표했다. 논문을 읽은 엔비디아의 엔지니어가 신경망을 사용해 GPU를 동작시켰더니 이미지 인식 정밀도가 높아진다는 점을 확인했다.
엔비디아는 그동안 게임기용 이미지 처리 GPU를 중심으로 개발해왔는데, 알렉스넷의 등장 이후 AI 관련 연구도 시작했다. 그 결과 게임기에 사용하던 GPU를 AI의 기본 모델인 신경망 연산에 사용할 수 있다는 사실을 알아냈고, GPU로 AI의 학습과 추론 성능을 향상시키기 위한 기술 개발에 나섰다.
AI 기술 개발의 결실: 그리고 마침내 엔비디아의 AI 기술 개발이 마침내 성과를 거두게 된다. 2018년 AI 슈퍼컴퓨터용 GPU인 볼타(Volta)로 기존에는 며칠이 걸리던 학습 시간을 크게 단축하는 데 성공하면서, 새로운 텐서 코어 아키텍처를 채택하여 본격적으로 AI 사업에 뛰어들었다. AI용 GPU인 볼타 기반의 테슬라 V100 액셀러레이터(전용 프로세서)는 여러 데이터센터에 배치되기 시작했다.
다만 엔비디아의 전체 매출액에서 보면 AI 매출액은 게임기용 매출액보다 아직 많지 않았다. 2022년 엔비디아의 전체 매출액은 전년도 대비 61% 증가한 269.14억 달러를 기록했다. 이 시점에서도 아직 게임기용의 매출액이 더 높았다. 2023년 매출액은 전년도에 비해서 거의 차이가 없는 269.74억 달러였다. 그런데 AI 학습 칩을 사용하는 데이터센터용 매출액은 전년도 대비 41% 늘어난 150.1억 달러를 기록했고, 게임기용 매출이 27% 감소한 90.7억 달러로, 이때 처음으로 AI 매출액이 게임기용 매출액을 앞질렀다.
2023년 반도체 업계 전체 매출액은 전년 대비 8.2% 줄어든 5,269억 달러로 하향 추세였다. 그런데 엔비디아만 전년도 대비 2.26배라는 큰 폭의 수익 증가를 이뤄냈다.
엔비디아가 주력해온 GPU란 무엇인가
다각형 조합으로 곡선도 자연스럽게: 엔비디아는 창업 이래 게임기용 그래픽을 자연스럽게 그리기 위한 프로세서 GPU를 개발해왔다. 오로지 GPU에 주력해왔다고 해도 과언이 아닐 정도다. GPU를 통해 만들어진 선명하고 사실적인 영상을 사용하면 게임에 몰입감이 한층 더해진다.
GPU를 사용해 컴퓨터의 고속화가 가능하다는 사실을 알게 된 엔비디아는 이후 신경망 모델을 바탕으로 한 AI 분야에도 진출했다. GPU 1대로 게임기부터 고속 컴퓨터 그리고 AI까지 구현한 것이다. 그렇다면 이 GPU란 무엇일까? 영상을 그리는 프로세서가 어떻게 AI 프로세서로 변신할 수 있을까? 이것은 GPU의 구조를 알면 이해가 가능하다.
GPU(Graphics Processing Unit)란 컴퓨터상에서 그림을 그리기 위한 전용 프로세서를 말한다. 컴퓨터상에 그림을 그리려면 직선은 물론 곡선도 정확하게 그려야 한다. 이를 위해 펜 대신 폴리곤(다각형)이라는 작은 요소를 사용해서 곡선을 표현했다. 보통은 삼각형을 기본 단위로 해서 그리는데, 삼각형 변의 길이를 여러 종류로 바꿔가면서 곡선을 그려낸다. 2차원뿐만 아니라 입체감 있는 3차원 물체도 폴리곤 구조로 표현이 가능하다. 3차원 화면에서는 물체의 뒤쪽을 보여주는 경우가 많은데 뒷면은 물체를 회전시켜서 표현한다.
이때 좌표축이나 점을 중심으로 회전시키기 때문에 좌표 변환 작업을 하기 위한 계산이 필요하다. 게임 등에서는 다양한 장면을 각각 다른 각도에서 보여줄 때가 있는데, 이것 역시 좌표 변환 처리로 해결한다. 우리가 보는 게임 영상 이면에서는 좌표 변환과 같은 아주 복잡한 계산이 이루어지고 있다.
좌표는 (x, y) 또는 (x, y, z)라는 점으로 표현하는데, 이 좌표가 어느 정도 움직이는지에 따라서 물체(이를테면 돌고래의 머리나 꼬리)가 얼마나 회전 이동하는지를 계산한다. 이런 계산은 행렬 연산식으로 나타낸다. 다시 말해 곱셈 누적(MAC; Multiply-Accumulate) 연산으로 표현할 수 있다. 곱셈 누적이란 곱셈한 후에 그걸 계속 덧셈해나가는 계산법이다.
색깔 섞기도 결국 곱셈 누적 연산: 우리는 그림을 그릴 때 먼저 스케치를 한 다음 색칠을 한다. 이와 마찬가지로 그래픽에서도 삼각형의 폴리곤을 사용해 대충 밑그림을 그리고 나서, 이것을 정밀하게 완성해나간다. 즉 커다란 삼각형을 잘게 쪼개면 미세한 부분을 표현할 수 있다. 형태를 그렸다면 다음은 색칠하기다. 이때 색깔을 섞는 작업이 필요한데, 이 작업 역시 색의 각 요소를 곱셈 누적 연산하는 것과 같다.
컴퓨터로 그림을 그리는 경우, 인간이 그릴 때와 달리 큰 장점이 있다. 바로 화면을 수십 개, 수백 개로 쪼개어 각각의 부분을 동시에 그릴 수 있다는 점이다. 인간은 한 장의 그림을 한쪽 구석 혹은 가운데에서부터 차례로 완성해나가지만, 컴퓨터는 전체를 잘게 나누고 그것을 동시에 병렬로 그리는 일이 가능하다. 어떻게 보면 캔버스 위에 수많은 인간이 자신이 담당한 부분을 함께 동시에 그리는 느낌이다. 그래서 고속으로 그림을 그릴 수 있는 것이다. GPU에는 MAC 연산기가 대량으로 집적되어 있는데, 이것을 동시에 계산하게 작동시켜 한 장의 그림을 단시간에 완성해낼 수 있다.
게임에서는 영화처럼 사실적인 영상이 필요하다. 영상을 만들려면 30fps(1초당 30장의 프레임)가 필요하다고 한다. 30장의 사실적인 그림을 1초 만에 움직이게 하면 사실적인 영상이 된다. 여기에는 대량의 사실적인 그림을 그려낼 초고속 칩 성능이 요구된다.
미분 방정식과 복잡한 수치 계산에 강점: 게임뿐만이 아니다. 슈퍼컴퓨터나 고성능 컴퓨팅(HPC) 분야에서도 고속 계산이 필요하다. 엔비디아는 슈퍼컴퓨터나 HPC에서 다양한 미분 방정식과 복잡한 계산식을 풀기 위해 곱셈 누적 연산을 이용한 수치 계산이 쓰이고 있으며 GPU가 컴퓨터를 고속화하는 데에도 쓰일 수 있다는 점을 알게 된 것이다.
AI에도 활용 가능한 MAC 연산기: AI(기계학습/딥러닝)의 기반이 되는 신경망은 신경세포(뉴런) 하나에 다른 신경세포로부터 받은 데이터가 여러 개 들어오는 모델로 도식화할 수 있다. 하나의 뉴런에는 여러 개의 뉴런에서 보낸 데이터가 입력되는데, 이 데이터는 각각 ‘가중치’를 부여해 조정된 값이 입력된다. 각 뉴런에서는 이전 뉴런에서 보내온 복수의 데이터에 각각 가중치를 부여해 계산한다. 즉 ‘(데이터) X (가중치)’를 곱셈 누적해서 최종적으로 1 또는 0을 출력한다. 1 또는 0 어느 한쪽의 데이터가 그다음에 이어져 있는 뉴런에 보내져 계속해서 곱셈 누적 연산이 이루어지는 셈이다. 이런 뉴런 네트워크 모델에서는 뉴런이 죽 늘어서서 곱셈 누적 연산을 거의 동시에 병렬로 처리한다.
Al 모델은 신경망을 구성하고 있으며 최종적으로 결과를 출력한다. 예를 들어 고양이 그림을 입력했는데 최종 결과가 고양이라고 판단되지 않을 때는, 신경망 중간에 가중치를 바꾸어 결과가 고양이가 되도록 조정한다. 이때 가중치 조정이 바로 ‘학습’이다.
이렇게 엔비디아는 게임기용 GPU를 그래픽 처리는 물론이고 컴퓨터의 고속화, 심지어는 신경망을 이용한 AI 연산에 활용할 수 있다는 사실에 주목했다. 이 점이 바로 엔비디아의 뛰어난 발상이다. 엔비디아에는 GPU의 성능에 철저하게 매달리는 뚝심이 있었다. 일본의 후지쯔는 GPU를 반도체 중 하나일 뿐이라고만 생각했다. 다른 반도체 기업들도 GPU에 대해서는 검토조차 하지 않았다.
창업 이후 엔비디아가 AI에 도달하기까지의 여정
3인의 엔비디아 창업자: 엔비디아는 1993년 4월 5일, 세 명의 창업자에 의해 설립되었다. 그중 한 명은 지금도 CEO로 활동하고 있는 대만계 미국인 젠슨 황이다. 그는 AMD에서 마이크로프로세서 설계를 담당했고 이후 LSI로직에서 코어웨어 제품 디렉터로 일했다. 두 번째는 선마이크로시스템스의 엔지니어였던 크리스 말라초스키, 다른 한 명은 IBM과 선마이크로시스템스에서 그래픽 칩 설계자로 일했던 커티스 프리엠이다.
이들은 실리콘밸리에 있는 레스토랑 데니스에 모여 PC에서 사실적인 3차원 그래픽을 그리는 칩에 관한 아이디어 회의를 했다. 말라초스키는 현재도 엔비디아의 특별 연구원으로 경영진에 남아 있으며, 프리엠은 2003년까지 10년간 최고기술책임자(CTO)를 맡은 뒤 은퇴했다.
데니스의 CEO와 젠슨 황: 젠슨 황을 비롯한 3인은 선명한 3D 그래픽을 그리자는 아이디어를 바탕으로 엔비디아를 설립했다. 그들은 항상 데니스에 모여서 토론했다. 15세 때 오리건주의 데니스에서 아르바이트로 일했던 황 CEO에게 데니스는 친숙한 장소였다. 그는 “데니스는 많은 것을 가르쳐 주었다”라고 말하며 데니스에 남다른 애정을 드러낸 바 있다.
데니스의 켈리 발라드 CEO는 젠슨 황의 성공이 시작된 실리콘밸리의 데니스에 큰 자부심을 느끼며 제2, 제3의 엔비디아가 또다시 이곳에서 탄생하기를 바라고 있다. 그런 의미에서 2023년 9월, 데니스는 1조 달러 기업을 꿈꾸는 창업자들을 대상으로 인큐베이터 경진대회 참가자를 모집한다고 발표했다. 우승 상금은 2만 5천 달러이다. 혁신가에 대한 이 같은 자금 제공은 참으로 실리콘밸리답다.
힌트가 된 일본의 커다란 파도: 엔비디아의 창업자 3인은 왜 그래픽 칩을 개발하려고 했을까? 공동 창업자인 크리스 말라초스키는 《포브스》와의 인터뷰에서 “다음에 찾아올 ‘커다란 파도’가 일본에서 일어나고 있다고 느꼈기 때문이다”라고 답했다. 일본에서 일어나고 있는 ‘커다란 파도’란 게임기를 말하는 것이었다.
1990년대 초반, 일본에서는 소니의 플레이스테이션, 세가의 세가새턴, 닌텐도의 닌텐도64 등 가정용 게임기 시장에서 하드웨어 성능 경쟁이 치열했다. 엔비디아의 창업자 3인은 머지않아 가정용 게임기에 3D 그래픽 기능이 탑재될 것이라고 확신했다. 당시 게임의 인기가 대단했기 때문에 ‘게임기용 그래픽 칩을 만들면 대량으로 팔릴 것’이라는 계산도 있었다.
당시 일본 게임에 나오는 인물이나 배경은 너무 단순한 일러스트뿐이었다. 이들 3인은 더 고속으로 움직이고 더 사실적인 영상을 비디오 게임에 도입하고 싶었다. 그들은 머지않아 가정용 PC에서 사용할 3D 그래픽 카드의 등장을 많은 사람들이 학수고대하고 있을 거라 믿었다. 당연한 말이지만 1993년에는 그런 그래픽 칩도 카드도 존재하지 않았다.
TSMC CEO에게 보낸 편지: 그들은 다음에 찾아올 ‘커다란 파도’를 미리 내다봤는데, ‘미래를 바라본다’라는 사고방식은 회사명에도 나타난다. 엔비디아의 영문인 NVIDIA는 라틴어 ‘invidia’에서 따왔으며, 이는 영어의 ‘envy’에 해당하는 뜻이라고 한다. envy의 발음이 ‘NV’와 같아서 NV로 시작하는 이름을 생각했고, 미래를 향한 동경이라는 의미에서 NVIDIA라는 이름을 지었다고 한다.
창업자 세 명은 데니스에서 나누었던 아이디어 회의를 바탕으로 1993년, 자본금 4만 달러로 엔비디아를 창업하기에 이른다. 자본금이 4만 달러밖에 없었던 엔비디아는 공장을 짓지 않고 팹리스로 살아가는 길을 택했다. 팹리스는 파운드리가 없으면 제품을 제조할 수 없다. 1995년, 엔비디아의 황 CEO는 칩 생산을 위탁하기 위해 TSMC의 모리스 창 CEO에게 편지를 썼다. 1987년 창업한 TSMC는 1995년경에는 매출액이 287.7억 대만 달러(약 1조 원)의 파운드리로 성장했는데 3,400명 이상의 직원을 거느린 최대 규모의 파운드리였다.
당시 엔비디아는 창업한 지 얼마 되지 않아 아직 제품도 없었기 때문에 황 CEO는 모리스 창으로부터 답장조차 받지 못할까 봐 걱정했다. 그런데 모리스 창이 편지를 받자마자 전화를 걸어와 젠슨 황은 너무 놀랍고 반가웠다고 한다. 이날 이후로 엔비디아와 TSMC의 오랜 파트너십이 시작되었다.
그리고 1997년, 드디어 엔비디아는 최초로 본격적인 제품 GPU ‘RIVA128’을 세상에 내놓게 된다. 엔비디아의 GPU는 PC 마더보드에 삽입하는 도터보드로서 게임용 카드에 탑재된다. 이 제품은 경쟁사보다 약 4배나 뛰어난 그래픽 성능을 보였다. 이를 바탕으로 엔비디아는 1998년에 처음으로 흑자를 달성했다. 이후 엔비디아는 게임기용 GPU의 성능을 한층 더 끌어올리며 게임기용 GPU로서 입지를 확고히 했다.
저소비전력을 실현하는 테그라2: 엔비디아의 GPU는 ‘성능은 뛰어나지만 소비전력이 10와트(W)를 훌쩍 넘는다’라는 평가를 받았다. 이런 우려를 불식시킨 것이 선구적인 모바일 프로세서라 할 수 있는 테그라2였다. 테그라2에는 1080p(해상도 1920x1080픽셀)의 HD 비디오를 압축하고 해제하는 인코더와 디코더가 탑재되어 있다. 이를 통해 1080p의 비디오를 400밀리와트(MW) 이하의 소비전력으로 재생할 수 있었다. 비디오 재생이나 녹화를 하지 않을 때는 인코더와 디코더를 꺼서 칩 전체의 소비전력을 낮춘다. 테그라2는 모든 회로를 다 써도 3와트 이하의 전력밖에 소모되지 않았다. 이처럼 엔비디아는 소비전력을 낮추려 노력했다.
소프트웨어 쿠다의 생태계 구축: GPU에는 병렬 연산기가 대량으로 집적되어 있는데, 이것을 프로그래밍하기는 쉽지 않은 일이다. 이 때문에 엔비디아는 2006년에 쿠다(CUDA)라는 GPU 프로그램 개발 환경을 개발했다. C언어 같은 표준 프로그램 언어를 사용해서 GPU에 집적된 다수의 연산기를 이용한 병렬 처리 프로그래밍을 실행하는 것이다. GPU 프로그래밍 소프트웨어로는 ‘다이렉트X’ 등도 있었지만 이건 컴퓨터 그래픽 전용이었다. 엔비디아는 범용 언어를 지원해 그래픽 외에도 이용 가능하도록 쿠다를 개발한 것이다.
엔비디아의 GPU가 AI 분야에서 독점적인 지위를 차지하게 된 것도 쿠다가 있었기 때문이다. AI의 신경망 모델에는 GPU에서 사용되는 다수의 MAC 연산 회로가 가득하다. 병렬처리 프로그래밍이라는 공통점이 있으므로 엔비디아의 GPU를 쿠다로 프로그래밍함으로써 AI(머신러닝)를 움직이게 할 수 있다.
GPU는 대량의 MAC 연산기를 가지고 있어 이 기능의 활용 분야가 넓어지고 있다. GPU가 슈퍼컴퓨터나 데이터센터 등에서 쓰이게 된 것은 GPU를 계산 전용 가속기로 활용해 CPU의 부하를 막고 계산 속도를 높이기 위해서다. 예를 들어 날씨 예보에는 슈퍼컴퓨터가 쓰이는데 전국의 기압 분포를 지도상에 거듭해서 그리고 시간적 변화도 추가해나가면 계산량이 엄청나게 많아진다. CPU만으로는 부담이 크기 때문에 이때 GPU를 가속기로 활용할 수 있다.
위력을 발휘하는 슈퍼컴퓨터로의 응용: 슈퍼컴퓨터에 많은 수의 GPU가 쓰인다는 것은 GPU의 계산 능력이 얼마나 높은지를 나타낸다. GPU를 연산 전용기로 수치 연산에 사용하면 성능이 올라가고 CPU의 계산 작업 부하도 줄어든다. GPU를 확장하면 슈퍼컴퓨터 시스템 성능이 크게 향상된다는 사실도 알려져 있다. 새로운 고성능 슈퍼컴퓨터일수록 최신 반도체를 사용하는 추세다. 스위스의 신형 슈퍼컴퓨터 알프스는 반년 전만 해도 전 세계 슈퍼컴퓨터 순위에서 10위권 밖에 있었는데, 엔비디아의 최신 GPU인 GH200을 사용하면서 6위로 뛰어올랐다. 새로운 고성능 반도체 칩을 사용하면 전례 없는 성능을 갖추게 된다는 사실을 알 수 있다.
확장되는 기술, 각국 기업과 폭넓은 연계
필요한 모든 솔루션 제공: 엔비디아는 게임용 그래픽으로 시작해 거기에서 만들어 낸 GPU를 수치 연산 전용 컴퓨팅 가속기로 발전시켰고, 더 나아가 신경망 모델을 사용해서 AI를 구현하게 되었다.
그렇다면 엔비디아의 강점은 무엇일까? 게임 분야, 컴퓨팅 분야, AI 분야에 모두 해당하는 강점은, GPU 그래픽 프로세서와 같은 하드웨어, 병렬 연산을 쉽게 만들어 주는 쿠다와 같은 소프트웨어, 여기에 커스터마이징 및 검증을 위한 개발 환경 등 시스템화하는 데 필요한 기술을 담은 솔루션을 모두 제공할 수 있다는 점이다. 이를 통해 엔비디아는 AI를 활용한 자율주행차, 의료·헬스케어, 메타버스 등 다양한 분야에서 엔비디아만의 강점을 보이고 있다. 엔비디아는 스스로를 ‘플랫포머’라 부른다. 최근 들어 젠슨 황은 ‘AI 파운드리’라 부르고 있다.
많이 보급될수록 더 잘 팔리는 GPU: 엔비디아의 옴니버스로 시뮬레이션하고 시각화하려면 GPU를 사용한 컴퓨터가 꼭 있어야 한다. 칩 설계를 넘어서 그 칩을 사용하게 만드는 소프트웨어 기반(플랫폼)을 구축하고, 그것을 모든 제조 디자이너들이 쓸 수 있도록 한다. 이것이 엔비디아의 전략이다.
옴니버스 플랫폼을 대중화시키면 소프트웨어뿐만 아니라 고성능 컴퓨터인 하드웨어도 팔리게 되고 그 핵심을 이루고 있는 GPU도 팔리는 셈이다. 옴니버스는 다양한 소프트웨어 모듈을 짜 넣을 수 있도록 확장성을 갖추고 있다. 증강현실(AR)과 가상현실(VR)과 같은 몰입형 그래픽을 사용해 아바타를 만들고, 그 아바타와 대화를 통해 시뮬레이션 등의 작업을 수행할 수도 있다. 예를 들면 엔비디아에는 ‘옴니버스 아바타’라는 서브 플랫폼이 있다. 여기에는 자동차 주행 중에 아바타가 디지털 비서로서 길을 안내하고 도로 혼잡 상황을 알려주는 ‘드라이브 컨시어지’와 자율주행을 강화하는 ‘드라이브 쇼퍼(전용 운전기사)’가 쓰인다.
엔비디아의 강점은 플랫포머: 이처럼 엔비디아는 단순한 팹리스 반도체 기업이 아니다. GPU와 AI 칩 등 반도체 칩이라는 하드웨어를 갖고 있지만, 다양한 용도로의 개발을 지원하는 소프트웨어 라이브러리나 소프트웨어 개발 툴 등의 플랫폼이 있는 플랫포머(플랫폼 개발자)이기도 하다. 엔비디아는 고객이 원하는 것을 구현하기 위한 ‘하드웨어’와 ‘소프트웨어’, 그리고 ‘소프트웨어 개발 환경’도 제공한다. 이 모든 것이 제공 가능하며 고객의 솔루션을 지원한다는 점이 엔비디아의 최대 강점이다.
엔비디아의 토털솔루션 제공: 지금까지 살펴봤듯이 엔비디아의 강점은 개발 환경을 포함한 토털솔루션 제공이 가능하다는 데 있다. 토털솔루션이란 그 기업의 시스템 전체를 보고 종합적으로 문제를 해결하는 것을 말한다. 과거에는 게임 분야가 중심이었지만 컴퓨터 연산(가속 컴퓨팅), 계산 결과의 비주얼화(아름다운 시각화), AI 등이 추가되면서 폭넓은 분야에 걸쳐 솔루션을 제공할 수 있게 되었다. 결국 엔비디아의 강점은 더욱 강력해지고 있다.
엔비디아는 AI와 반도체라는 두 개의 성장산업에 토털솔루션을 제공하고 있다. 그리고 앞으로 다가올 미래에는 더 성장해나가리라는 큰 기대를 받고 있다. 이러한 성장성을 인정받아 주가가 급등했고 창업한 지 31년 만에 세계 1위로 발돋움했다.
과거의 AI, 현실의 AI, 미래의 AI
젠슨 황, 10년 단위로 생각하는 사람: 1993년 창업 당시 공동 창업자인 젠슨 황과 크리스 말라초스키, 커티스 프리엠도 엔비디아가 AI까지 오게 되리라고는 생각조차 못했던 것 같다. 엔비디아의 최초 입사자이자 현재 수석 부사장인 제프 피셔는 “처음엔 작은 사무실에서 시작했다. 화장실은 다른 회사와 공동으로 썼고 탁구대에서 점심을 먹었다”라고 당시를 회상한다. 1995년에 첫 제품 3차원 그래픽 카드 NV1을 출시했으나 잘 팔리지 않았다. 제프 피셔에 따르면, 회사를 더 키우기 위해서는 PC 부품을 교체하는 것 이상의 부가가치가 필요하다고 모두가 느끼고 있었다. 범용 제품보다는 부가가치가 높은 제품을 개발해야 했던 것이다.
엔비디아는 1999년 나스닥 상장 때 세계 최초의 본격적인 GPU라 할 수 있는 지포스256을 발표했다. 그리고 2006년에는 병렬처리 컴퓨팅 아키텍처의 소프트웨어를 도입해 연구자들이 수천 개나 되는 GPU를 동작시킬 수 있게 했다. 물론 시련도 있었다. 모바일 태블릿용 SOC 프로세서인 테그라를 개발했을 당시, 모바일용으로 모토로라를 채택했으나 폭발적인 인기는 끌지 못했다. 그래서 차량용으로 방향 전환을 시도하게 된다. 그리고 영역을 넓혀 국방산업과 에너지, 금융산업, 헬스케어, 제조업, 보안 등의 분야로 확대해나갔다.
그렇다면 엔비디아가 시장의 침체에도 견뎌내는 힘을 기르게 된 열쇠는 무엇일까? 엔비디아 옴니버스 및 시뮬레이션 기술 부문 부사장인 레브 레바레디언은 다음과 같이 말한다. “그래픽 기술의 가능성에 강한 확신을 가졌던 젠슨 황이라는 리더가 있었기 때문이다. 그는 10년 단위로 생각하는 능력을 갖고 있다. 당시엔 자율주행 차량을 예상하지 못했고 AI 시대가 오리라는 것도 몰랐겠지만, 그래픽 컴퓨팅에는 강한 확신이 있었다.”
정말로 거의 10년마다 상황이 크게 변하고 있다. 지금의 AI 기술은 2012년의 알렉스넷을 계기로 발전했고, 10년 뒤인 2022년에는 생성형 AI 챗GPT가 등장했다. 그렇다면 다음 10년 후에는 또 어떤 미래가 기다리고 있을까?
캘리포니아공대 졸업식 축사에서 말한 미래 지향: 2024년 6월, 젠슨 황은 캘리포니아공대(칼텍)에서 졸업식 축사를 했다. 연설에서 젠슨 황은 다가올 시대에 중요한 과학기술은 AI이며 그 변화의 속도는 놀라울 정도로 빠를 것이라고 말했다. 또한 “CPU의 스케일링(미세화) 속도는 더디어졌으나 컴퓨터 연산 능력 고도화에 대한 수요는 기하급수적으로 늘었다”라고도 말했다. 이제 반도체 미세화 기술의 발전 속도는 상당히 느려져, 한 칩당 성능도 포화 기미를 보이고 있다.
사회가 AI화 되기 시작하면서 컴퓨팅 능력에 대한 수요가 높아지는데, 반도체 미세화 기술은 한계 상태에 이른 것이다. 젠슨 황은 이처럼 수요와 기술의 간격이 벌어지는 상황을 가리켜 컴퓨팅 인플레이션이 일어나고 있다고 표현했다. 그러면서 젊은이들을 향해 “앞으로는 대량의 GPU를 사용해 컴퓨터를 만들어야 한다. 향후 10년 안에 딥러닝 기술은 재발명될 것이다”라는 메시지를 보냈다. 반도체 미세화 기술 수준과 컴퓨팅 파워 요구 수준의 간극을 메우기 위해 당분간은 GPU를 대량으로 사용하게 될 테지만, 그런 힘겨운 방식이 아닌 전혀 새로운 AI 전용 기술이 탄생하리라고 젠슨 황은 기대한다.
그가 칼텍 졸업생들에게 보낸 축사는 미래를 향한 메시지라 해도 좋다. 젊은 학생들은 앞으로 번뜩이는 아이디어를 내어 사회를 새롭게 변화시킬 가능성을 품고 있다. 칼텍 졸업생들에게 이를 실현해달라는 기대감을 표한 것이다.
이날의 연설에서 젠슨 황은 물리학자 리처드 파인먼이 말한 ‘지적인 정직함과 겸손함’이 회사를 살렸다고 전했다. 지적인 정직함이 있어야 문제가 생겼을 때 솔직하게 상황을 받아들이고 불량을 확인해 개선하는 일로 이어지기 때문이다. 거짓말을 하거나 숨기려 하면 문제 상황을 정확히 파악하기 힘들다는 사실을 잘 알기에 그런 일을 만들지 않겠다는 자세가 엔비디아의 기업 문화로 이어졌는지도 모른다. 마지막으로 그는, 새로운 무대에서 활약할 학생들을 위해 지적 정직함이 중요하다는 점을 강조하고 앞으로의 인생을 즐기라고 조언했다.
가족에 감사하고 깊은 애정을 가져라: 마지막으로 황 CEO의 개인적인 면도 언급하겠다. 그는 일만 생각하는 사람이기는 하지만 가족에게도 깊은 애정을 나타내는 모습이 여러 강연을 통해 드러난다. 앞서 언급한 칼텍 연설에서도 “졸업을 축하한다. 다만 부모님과 가족의 희생도 잊지 않았으면 한다. 감사의 마음을 담아 부모님과 가족에게 사랑을 표현하라”라고 말했다.
황 CEO는 1963년 대만에서 태어나 태국에서 유년 시절을 보내고 아홉 살 때 형과 함께 미국으로 건너갔다. 그 후 그의 부모님도 뒤따라 미국으로 향했다. 에어컨 제조사인 캐리어에서 근무했던 그의 아버지가 뉴욕에서 직원 연수를 받은 뒤 아이들을 미국에서 교육하고 싶다고 생각했기 때문이다. 젠슨 황 CEO는 “부모님의 꿈과 야망이 나를 만들었다”라고 말했다고 한다.
중학생 시절에는 탁구에 빠져, 15세가 된 1978년에는 전미 탁구선수권대회 주니어 복식 3위에 오르기도 했다고 전해진다. 고등학생이 되었을 때부터 컴퓨터에 열중하면서 오리건주립대학에서 컴퓨터과학과 반도체 칩 설계를 공부했는데, 대학 시절에 지금의 아내 로리와 만났다. 두 사람은 대학 졸업 후 실리콘밸리로 갔고, 젠슨 황은 AMD에서 반도체 칩 설계 일을 했다. 공부를 더 하고 싶었던 그는 스탠퍼드대학 대학원에 들어가 1992년 전기공학 석사 과정을 마치고 LSI로직에 입사했다. 이때 말라초스키와 프리엠을 만나 그래픽 칩 회사인 엔비디아를 창업하기에 이른다.