엔비디아의 AI 도약은 젠슨 황과 과학자들의 공명 [마음을 여는 인맥관리 71]

젠슨 황이 운이 좋았다는 세간의 평가에 대해서 TSMC의 모리스 창은 “젠슨은 지적 능력이 탁월했다”라고 평가했다. 모리스 창은 젠슨 황을 첫 만남부터 마음에 들어 했다.”그들은 아주 작은 회사였어요. 사실 거의 파산 직전이었죠. 하지만 젠슨은 너무 솔직하고 개방적이고 거침이 없는 사람이었어요! 대화 내내 정말 편안 했죠”. 결국 두 사람은 파운드리 계약을 체결하고 젠슨 황은 그래픽카드 생산을 안정적으로 할 수 있게 되었다.

젠슨 황의 전 직장 LSI로직의 동료로 시작해 오랫동안 함깨 한 앤스 호르스트만은 이렇게 말했다. “젠슨이 하는 일은 단순히 집중을 넘어섭니다. 나는 그것을 공명 Resonance 라로 부르고 싶어요”.
젠슨 황 스스로는 성공의 원인을 ‘비전이 만든 운’이라고 말한다.

공명을 이루기 위해 젠슨 황은 과학자, 고객 그리고 직원들과 끊임없이 소통하고 비전을 공유했다. 엔비디아가 주최하는 콘퍼런스에서는 기자들을 뒷자리로 배치했고 과학자들을 맨 앞에 앉혔다. 발표에서도 언론보다는 과학자들에게 더 많은 관심을 기울였다. 눈앞의 성과보다는 과학자 들이 마음껏 연구 개발할 수 있는 환경을 조성해주었고 기다렸다.

문제점을 인식하고 공유하기 위한 ‘젠슨 황의 전략적 분노’는 직원들을 긴장시켰지만 그로 인해 누구도 해고되지 않았다. 엔비디아에서 쫓겨나는 건 정말로 용납할 수 없는 행동을 했을 때 뿐이었다. 그래서 많은 직원들은 수십 년간 근속했고 떠났다가 돌아온 직원들도 많았고 이는 엔비디아의 기술력 축적으로 이어졌다.

CUDA를 개발하여 빅 데이터 시대를 연 존 니콜스

1999년 엔비디아는 세계 최초로 변환과 조명처리를 단일 플랫폼에서 병렬처리가 가능한 Graphic Processing Unit ‘지포스’를 출시했고 그때부터 그래픽처리장치는 ‘GPU’라고 불리게 되었다. 2달러짜리 칩이 2,000달러짜리의 워크스테이션이 하던 일을 할 수 있게 된 것이다. 엔비디아는 창립된 지 6년도 채 되지 않아 기업가치를 6억불로 평가받으며 상장했고 초기에 엔비디아를 6백만불로 평가한 세콰이아캐피탈은 투자수익율 100배를 기록했다.

지포스를 활용하여 쿠다를 발명한 엔지니어는 존 니콜스다. 쿠다 (CUDA: Compute Unified Domain Architecture)는 비디오게임에 활용되던 병렬 컴퓨팅 회로를 과학자들이 활용할 수 있도록 전환하는 것이었고 아키텍처는 그 자체로 개방되었다. 한쪽에 비디오게임 카드가 있는데 스위치를 켜 카드를 뒤집으면 갑자기 슈퍼컴퓨터가 되는 것이다.

존 니콜스는 병렬 컴퓨팅 스타트업인 ‘마스터 코퍼레이션’을 공동 창업하여 망했지만 병렬컴퓨팅에 대한 신념을 꺽지 않았다. 그는 젠슨 황에게 편지를 보내 ‘무어의 법칙’이 끝나고 반도체산업에서 인텔의 장기 지배가 멀지 않았다고 밝혔다. 젠슨 황은 존 니콜스를 채용해 지포스의 과학적 응용프로그램을 개발하는 파일럿 프로젝트를 맡겼다. 그런데 그는 첫 출근 후 2주만에 악성 흑색종 진단을 받았다. 그는 암치료를 받으면서도 주 72시간씩 일했다.

인텔의 CPU는 아름답고 다용도로 사용할 수 있는 도구로 어떤 모양으로도 자를 수 있다. 하지만 이 칼은 한 번에 하나의 채소만 자를 수 있다. 쿠다는 트럭 한 대 분의 채소를 상하기 전에 빠르게 자를 수 있다. 이 비유에서 트럭 한대분의 채소는 빅데이터를 의미한다. 엔비디아가 빅데이타 시대의 주인공으로 출발한 것이다. 슈퍼컴퓨터는 너무 비싸 활용이 어려웠던 많은 게이머와 과학자들은 쿠다칩을 활용하여 슈퍼컴퓨터를 대체할 수 있게 되었고 이는 신경망 연결프로그램 개발이 가능한 환경으로 이어졌다.

젠슨 황은 존 니콜스에게 과학자 고객을 적극적으로 포용하라고, 그 들을 단단히 붙잡고 절대 놓지 말라고 지시했다. 이런 방식으로 엔비디아는 소프트웨어 개발자들이 쿠다스테이라고 부르는 구조를 구축하여 아이디어를 전기로 변환하고 다시 전기를 결과로 변환하며 발전했다.

존 니콜스는 회복이 되었다가 2000년대 후반에 다시 한번 흑색종 진단을 받고 2011년에 세상을 떠났다. 존 니콜스는 암 투병 중에도 끝까지 일을 놓지 않았고 그의 아들은 “아버지가 엔비디아에서 가장 뛰어나고 생산적인 시기를 보냈다”고 말했다. 엔비디아는 그를 기리기 위해 일리노이 대학교 이배더-샘페인 캠퍼스에 장학기금을 출연했다.

엔비디아리서치를 맡아 기술력을 확장한 빌 댈리

존 니콜스의 친구로서 2000년에 MIT에서 스탠퍼드대학교로 옮겨 학과장이 된 빌 댈리는 2003년 젠슨의 요청으로 쿠다 비밀프로젝트에 자문을 맡기 시작했다. 2009년 엔비디아에서 정규직 입사 제안을 받았을 때 엔비디아는 2년 연속 적자였으며 <비즈니스위크>의 ‘세계에서 가장 혁신적인 기업’ 목록에도 없었다. 당시 엔비디아보다 10배 정도 규모가 큰 인텔에서 더 높은 보수를 주며 입사제안을 했지만 그는 엔비디아의 주가가 한 자릿수로 떨어진 시점에 수석과학자로 합류했다. 스탠퍼드에서 엔비디아로 옮기는 것은 경력의 후퇴를 의미하기도 했다. 스탠퍼드 대학교 공대학장이자 인텔 이사회 위원이었던 짐 플러머는 빌 댈리의 결정을 이해할 수 가 없었다. 그러나 빌은 동요하지 않았다. “젠슨은 그냥 타고 난 리더예요. 그가 어디로 가든 따라가고 싶게 만드는 리더죠”. 빌 댈리는 연구 인력을 300명 이상 늘리면서 엔비디아 리서치를 완전히 탈바꿈시켜 컴퓨팅성능을 향상시키는 연구 프로젝트를 진행하였다. 그 영역은 로보틱스, 자동차, 기후 모델링, 생화학 등으로 확장되었으며 학계 고객들과 더욱 밀접한 협력관계를 이루어 인공지능, 신경망 모델로 발전하는 계기를 만들었다.

엔비디아를 그래픽회사에서 AI회사로 바꾼 주역 브라이언 카탄자로

브라이언 카탄자로는 앤비디아 엔지니어 중 유일하게 인문학 학위를 가진 사람이었다. 그는 컴퓨터공학도 공부하여 박사학위를 받았으며 인텔에서 마이크로칩을 설계하는 인턴십을 진행하면서 ‘무어의 법칙’이 한계에 다다르고 있는 것을 알았으나 인텔은 이를 무시했다. 그는 결국 병렬 컴퓨팅의 결정적인 활용분야는 AI가 킬러 앱이라고 결론을 내렸다. 그러나 지도교수들은 AI연구를 선뜻 지지하지 않았다. 당시 많은 컴퓨터 과학자들에게 AI는 마지 전설 속 괴물을 찾는 것처럼 터무니없는 것이었다. 결국 브라이언 카탄자로는 박사학위를 받은 후 빌 댈리의 엔비디이 리서치팀에 합류했다. 빌 댈리가 추구하는 최고의 과학자를 끌어 들이는 선택 중 한 명이었다.

그는 쿠다플랫폼에서 신경망 개발을 가속하는 cuDNN을 혼자서 풀타임으로 개발하여 프로토타입을 엔비디아 소프트웨어 팀에 선보였지만 혹평이 쏟아졌다. 브라이언 카탄자로는 결국 직접 젠슨 황에게 자신의 연구를 설명하기로 결심했다. 그런데 의외로 젠슨은 브라이언의 이야기에 즉각 흥미를 보였다. 첫 회의 이후 젠슨은 예정된 일정을 취소하고 AI관련 자료를 읽는데 주말을 할애했다. 그동안 쿠다에 대한 젠슨의 도박은 재무적 성과없이 회사를 미지의 바다로 깊숙하게 이끌었는데 이제 새로운 땅, 아틀란티스를 발견한 듯했다.

젠슨은 브라이언을 불러서 선언했다. “cuDNN은 엔비디아 20년 역사상 가장 중요한 프로젝트다”. 그리고 O.I.A.L.O(Once in a Lifetime Opportunity)라고 정의했다.
브라이언은 cuDNN을 신경망으로 연결되는 행렬 곱셈까지 적용을 하여 신경망 커뮤니티가 쿠다를 중심으로 형성되도록 만들고 AI에 필요한 조건인 함수 라이브러리를 최적화하여 시간이 지날수록 cuDNN의 핵심 기능 중 하나로 자리잡게 했다.

그 시점부터 엔비디아는 더 이상 그래픽회사가 아닌 A. I회사가 되었다.
원래 젠슨은 새로운 아이디어를 받아들이는데 시간이 걸리는 사람이었다. 병렬컴퓨팅을 도입할 때도, 쿠다를 도입할 때도 그랬다. 젠슨 황의 포용적 리더십에 과학자들이 창의적으로 움직여서 변화를 선제적으로 이끌어왔지만 AI에 대해서는 이해의 속도가 더 빨랐다. 엔지니어, 과학자를 존중하는 젠슨 황의 인간관계가 GPU, 쿠다, 신경망, cuDNN으로 점진적으로 발전하면서 엔비디아를 AI 회사로 만들었다.
월 스트리트의 한 애널리스트가 말했다. ”AI분야에서 전쟁이 벌어지고 있는데 엔비디아는 유일한 무기상이다”

출처 및 인용: 생각하는 기계 (엔비디아 젠슨 황)

윤형돈 칼럼리스트/마음을 여는 인맥관리연구소 대표