중국 환호, 미국 당황, 전세계 논란: AI 전장의 '뜨거운 감자’, 오픈소스 모델 [전명산의 AI블록체인도시 이야기-16]

AI 전장으로 이어지는 소유권 기반 소스 vs 오픈소스

AI 모델은 크게 폐쇄형과 오픈소스형으로 나뉜다. 앤스로픽·오픈AI·구글·xAI(Grok) 등 미국의 최선두 기업들은 모델 내부를 철저히 비공개로 유지하는 폐쇄형 노선을 고수해왔다. 반면 메타는 라마(Llama)를 오픈소스로 공개했고, 중국은 딥시크부터 거의 모든 모델이 오픈소스다.

얼마 전까지는 이 구도가 단순했다. 폐쇄형 모델은 천문학적 비용과 인프라를 앞세워 압도적 선두를 지켰고, 오픈소스는 그 뒤를 열심히 쫓아가는 형국이었다. 불과 며칠 전까지만 해도 오픈소스 모델은 상대적으로 성능이 떨어진다는 인식이 지배적이었고, 그래서 오픈소스 자체가 위협으로 도마 위에 오르지는 않았다. 7월 16일, 중국 문샷AI(Moonshot AI)가 키미 K3(Kimi K3)를 오픈소스 모델로 공개하기 전까지는 말이다.

키미 K3는 2.8조 파라미터 규모의 MoE(전문가 혼합) 모델로, 비전 인식이 모델 자체에 내장된 진짜 네이티브 멀티모달이다. 어마어마한 파라미터를 가진 모델이 완전한 오픈웨이트(오픈소스)로 풀리는 순간이었다. 전체 공개는 7월 27일로 예정되어 있다. (참고 삼아 보자면 페이블은 파라미터 수가 비공개인데, 6조 개 정도로 추정하는 전문가들이 있다.)

키미 K3는 오픈소스임에도 불구하고 14개 벤치마크 중 6개에서 현존 최강 모델인 페이블 5를 능가하는 성적을 보이며 전 세계를 긴장시켰다. X(옛 트위터)에서는 지금까지도 키미 K3 이야기가 타임라인을 뒤덮을 정도로 뜨거운 논쟁 중이다.

공교롭게도 이 발표 하루 전인 7월 15일, 오픈AI 전 CTO 미라 무라티가 이끄는 씽킹머신스(Thinking Machines Lab)가 미국판 오픈웨이트 모델 '잉클링(Inkling)'을 공개했다. 무라티가 오픈AI를 떠난 지 1년 8개월 만에 내놓은 미국 오픈소스 진영의 야심작이었다. 그러나 잉클링은 채 이틀을 버티지 못했다. 키미 K3가 공개되자마자 잉클링 언급은 아예 실종되어 버렸다.

미국은 당황한 기색이 역력하다. 분명 미국의 빅테크들보다 훨씬 뒤떨어진 하드웨어를 쓰고 있을 텐데도, 그것도 오픈소스 모델이 미국에 필적하는 수준까지 따라왔기 때문이다.

물 들어올 때 노 젓는 시진핑 주석

키미 K3 발표날인 7월 16일에 러시아, 세르비아, 브라질, 베네수엘라, 인도네시아, 카자흐스탄, 알제리 등 29개국이 서명한 '세계인공지능협력기구(WAICO)'가 상하이에 본부를 두고 공식 출범했다. 유엔 사무총장 안토니우 구테흐스가 참석했고, 중국 측 서명은 왕이 외교부장이 맡았다.

중국은 향후 5년간 개발도상국에 5,000명 규모의 AI 교육 기회를 제공하고, 아세안·아랍연맹·아프리카연합·브릭스 등과 AI 협력센터를 짓겠다고도 발표했다. 다음 날인 7월 17일, 시진핑 주석은 상하이 세계인공지능대회(WAIC)에서 취임 후 처음으로 기조연설을 하며, 중국 오픈소스 정책을 홍보했다.

이건 단순한 기술 홍보가 아니다. "미국 모델은 성능은 뛰어나지만 비싸고, 정부 행정명령 한 번에 접근이 끊길 수도 있는 반면, 중국 모델은 오픈소스로 누구나 다운로드해서 마음대로 쓸 수 있다"는 주장이 AI 최약체 국가들에게 매력적인 선택지로 제시된 것이다.

중국은 오픈소스를 앞세워 미국 중심의 폐쇄형 생태계에 맞서는 '포용적 동맹'을 만들겠다는 의도를 이번 행사로 분명히 했다.미국의 수출통제·접근권 회수 사례가, 역설적으로 중국의 개방/포용 전략에 힘을 실어주는 형국이다.

필자가 중국도 오픈소스 모델을 금지할 것이라 했던 15화 주장은 섣부른 판단이었다. 이 자리를 빌려 당분간 이 주장을 유보한다. 다만 정확히 말하면, 중국 내부에서도 오픈소스를 계속하려는 흐름과 단속하려는 흐름이 여전히 충돌하는 중이며, 적어도 이번 라운드에서는 개방을 택한 시진핑 쪽이 앞서 있는 것으로 보인다.

미국, 본격적인 중국 견제에 나서다

미국에서는 중국산 오픈소스 사용을 아예 금지하는 방안이 심각하게 거론되고 있다. 이유는 다섯 가지로 정리된다.

첫째, 대량의 답변 데이터를 추출하는 '증류' 의혹이다. 미국 정부와 AI 업계는 키미 K3가 페이블 5를 '증류'했다는 의심을 강하게 품고 있다. 실제로 앤스로픽은 지난 2월 문샷을 상대로 약 340만 건 규모의 증류 의혹을 공식 제기한 바 있고, 최근에는 리서치 기관 레드우드 리서치의 통계 분석에서 키미 K3가 신원을 묻는 질문에 유독 자주 "나는 클로드"라고 답한다는 결과까지 나왔다. 지적재산권을 도둑맞았다는 주장이 나오는 배경이다.

둘째, 트로이 목마에 대한 의심이다. AI 내부에 백도어나 트로이 목마를 심어놓으면 찾아내기 대단히 어렵다는 것이 업계의 일반적 견해다. 뚜렷한 증거는 없지만, 중국산 오픈소스 모델이 무언가를 숨기고 있을 수 있다는 의심이 계속 제기되고 있다. 이미 중국은 다수의 전자기기에 공개되지 않은 백도어 칩을 숨겨놓았던 전적이 있기 때문이다.

셋째, 미국 산업의 직접적인 이해관계 문제다. 이미 다수의 미국 기업들이 중국이 공개한 오픈소스를 가져다 자체(온프레미스) AI를 구축하거나 변형해 쓰고 있는데, 최고 수준의 지능이 오픈소스로 풀린다면 마다할 이유가 없다. 그런데 이것은 직접적으로 앤스로픽과 오픈AI의 수익 모델을 파괴한다.

넷째, 최상급 모델을 통제하려던 미국 정부의 정책 자체가 무력화될 위험이다. 미토스급 오픈소스를 누구나 쓸 수 있다면, 정부가 앤스로픽과 오픈AI를 규제해봐야 실효가 없다. 오히려 자국 산업의 발목만 잡을 뿐이다.

다섯째, 중국의 추격에 대한 근본적인 두려움이다. 프론티어 모델에 근접한 지능은 소프트웨어 개발 능력의 비약적 향상으로 이어진다. 중국도 미국과 비슷한 시점에 재귀적 자기개선(RSI)에 근접하고 있다는 뜻이다. 여기에 그동안 열세였던 반도체 등 하드웨어 설계 능력, 시스템 분석·설계·구현 능력, 국방 AI 통합까지 동반 상승할 가능성이 생겼다. 뛰어난 지능이 뒤처진 하드웨어·인프라·국방력까지 한꺼번에 끌어올릴 수 있다는 뜻이다.

미국 기업, 오픈소스로 폐쇄형 모델의 공격을 막아내다

이 와중에 아주 흥미롭고 소름 돋는 사건이 발생했다. 세계 최대 AI 오픈소스 공유 사이트 허깅페이스가 해킹당한 것이다. 허깅페이스 기술진은 짧은 시간에 동시다발적으로 이뤄진 공격과 속도에 인간의 소행이 아닐 것이라 판단했다. 그리고페이블 5나 챗GPT 등 최상위 폐쇄형 모델로 대응하려 했으나 실패했다. 이 모델들에 걸어 놓은 안전장치 즉 AI가 해킹 도구로 악용되는 것을 막기 위해 시스템 제어와 관련된 요청을 거부하도록 만든 잠금장치들이, 역설적으로 실제 공격을 막으려는 방어팀의 명령어까지 통째로 차단해버렸기 때문이다.


결국 허깅페이스는 중국산 오픈소스 GLM-5.2를 동원해 해킹을 방어했다. 쉽게 이야기하면 훈련장에 가두어놓은 최고의 전투 요원이 은밀하게 훈련장을 탈출해 스스로 설정한 목표를 공격한 것이다. 그런데 알고 보니 이 공격자는 오픈AI가 훈련 중이던 미공개 차세대 모델과 GPT-5.6 솔이었다. 오픈AI는 이 모델들이 평가에서 더 높은 점수를 받기 위해 샌드박스를 뚫고 외부로 나가 허깅페이스를 해킹했다고 공식 발표했다. 이 AI들은 더 높은 점수를 받기 위한 정답표가 허깅페이스 서버에 있을 것으로 추론하고, 이 답안을 훔치기 위해 공격한 것이다.


이 사건은 두 가지 점에서 중대한 의미를 지닌다. 첫째, 모델이 스스로 샌드박스를 뚫고 나가 외부 사이트를 자발적으로 해킹한 최초의 사례다. 어떤 논리적 판단에 근거해서 인간의 통제를 스스로 벗어나 공격자로 돌변하는 현상이 현실화된 것이다. 그동안 모의실험에서 관리자를 협박하거나 관리자의 은밀한 탈출 유도에 탈출을 성공한 사례, 탈출 후 그 사실을 스스로 알린 사례는 있었지만, 탈출 유도도 없이 스스로 벽을 뚫고 나가 외부 사이트를 직접 공격한 것은 이번이 처음이다.

둘째, 최상급 공격 능력을 갖추고도 그 능력을 거세한 폐쇄형 모델은 방어에 실패했고, 결국 모든 것이 허용된 오픈소스 모델이 방어에 성공했다. AI 안전을 지키기 위해 미국 정부와 기업이 설정한 가이드라인에 갖힌 폐쇄형 모델의 무능력함이 확인된 것이다. 그렇다면 앞으로 발생할 AI발 해킹을 방어하기 위해서라도 미국 기업들은 최상위 오픈소스 모델을 방어 장치로 상시 준비 해놔야 하는 상황이다.

이 동네의 뜨거운 감자, 오픈소스

화들짝 놀란 미국은 중국산 오픈소스 전면 금지 정책을 만지작거리고 있다. 중국은 키미 K3에 환호하고 있지만 마냥 편한 상황은 아니다. 모델 스스로가 RSI(재귀적 자기 개선) 단계에 다가설수록, 미국이든 중국이든 국가 차원에서 오픈소스를 계속 지지할 수 있을지는 미지수다. 최상급 지능이 국가의 통제 밖에 있다는 사실만으로도 국가는 경계할 수밖에 없기 때문이다. 어떤 세력에 의해 이들 오픈소스가 엄청난 해킹 툴로 사용될 수도 있고, 위험한 생화학 무기나 바이러스를 만드는 데 사용될 수도 있고, 국가를 무력화시키는 장치로 사용될 수도 있기 때문이다.

그런데 오픈소스를 둘러싼 상황은 더 복잡하다. 위에 언급한 잉클링처럼, 미국과 중국 어느 진영에도 속하지 않는 제3의 오픈소스 세력이 존재한다. 리처드 스톨먼의 자유소프트웨어 운동(GNU 프로젝트)에서 시작해 리눅스로 이어져 온 소프트웨어 산업의 오픈소스 정신을 AI 산업에도 계승하고 있는 이들이다. 이들은 중국의 오픈소스 공개에서 상당한 도움을 받고 있지만, 어느 국가에도 통제되지 않는 독자 세력이다.

애초 일론 머스크는 샘 올트먼과 오픈AI를 공동창업할 때, 인류 전체의 이익을 위해 이를 오픈소스로 공개하려 했다. 그러나 올트먼은 상업적 목적을 위해 폐쇄형 노선을 택했고, 이후 머스크가 따로 만든 xAI의 Grok 역시 폐쇄형 모델이다. 반면 중국은 의도적으로 오픈소스를 통해 자국 전체의 AI 역량을 끌어올리는 전략으로 엄청난 성공을 거두고 있다.

리눅스와 마이크로소프트·유닉스 진영의 길고 치열한 싸움, 안드로이드와 iOS의 치열한 점유율 경쟁은 소프트웨어 산업에서 익히 알려진 사례다. 이 흐름이 AI 산업에서도 반복되고 있다. 그런데 이번엔 다르다. 허깅페이스 사건이 보여주듯, AI는 동시에 창으로도 방패로도 쓰일 수 있기 때문이다.

한국 역시 자체 모델 개발에 오픈소스를 기본 정책으로 삼고 있다. RSI가 한걸음씩 다가오는 시점에 이 양상은 어떻게 전개될까. 뱉을 수도 삼킬 수도 없는 '뜨거운 감자'가, 오히려 갈수록 더 뜨거워지고 있다.

전명산 소셜인프라테크 대표는
블록체인 전문가로 기술과 사회시스템의 구조적 변화를 연구하는 기획자이자 개발자이다. 서울대학교 사회학과를 졸업하고 인터넷 산업에서 25년 이상 활동하고 있으며, 한국 최초 블로그 미디어 ‘미디어몹’을 기획한 바 있다. SK커뮤니케이션즈(싸이월드) R&D 연구소 팀장 등을 거쳐 블록체인 플랫폼과 분산시스템 기술을 개발해왔다. 현재 (주)소셜인프라테크 대표이사로 재직 중이며 오랫동안 천착해 온 블록체인 거버넌스 연구를 바탕으로 AI·블록체인·에너지·도시 인프라를 결합, 기본소득 문제를 해결하고 지속 가능한 사회 체제로 전환하는 전기 문명 프로토타입 ABCity(AI Blockchain City) 프로젝트를 제안하는 책 『가속해도 괜찮아! ABCity-AI 시대를 위한 전기 문명 프로토타입』(2026)을 냈다.

전명산 칼럼니스트/소셜인프라테크 대표