다리오 아모데이: 딥시크와 반도체 수출 통제에 관하여

• 앤트로픽 CEO 다리오 아모데이는 딥시크의 저비용 모델이 반도체 수출 통제의 명분을 무너뜨렸다는 해석을 반박하고, 통제의 실질적 중요성이 일주일 전보다 오히려 더 커졌다고 못박음
• 딥시크-V3의 학습비 600만 달러는 돌파구가 아니라 연 4배로 내려가는 비용 곡선 위의 예상 지점이며, 7~10개월 앞선 미국 모델에 근접한 성능을 상당히 싸게 낸 정도로 봐야 한다는 평가
• 딥시크는 H100·H800·H20을 합쳐 호퍼 세대 5만 개, 약 10억 달러어치를 보유한 것으로 알려져 자원 제약이 혁신을 낳았다는 서사와 어긋나고, 기업 총지출도 미국 연구소와 크게 다르지 않음
• 거의 모든 분야에서 인간을 넘는 AI에는 수백만 개 반도체와 수백억 달러가 필요하고, 2026~2027년 중국의 확보 여부가 단극 세계와 양극 세계를 가르는 분기점이 됨
• 미국 기업들도 곧 비슷한 비용 절감을 보여줄 텐데, 딥시크를 모방해서가 아니라 애초에 같은 효율 곡선 위에 서 있기 때문

AI 성능을 밀어올리는 세 가지 힘

• 규모의 법칙은 학습 투입을 키우면 인지 과제 전반의 성능이 고르게 오른다는 것으로, 100만 달러 모델이 주요 코딩 과제 20%, 1,000만 달러가 40%, 1억 달러가 60%를 푸는 식으로 벌어짐
• 10배 투자 격차가 학부생과 박사급 실력 차이에 맞먹기 때문에 기업들이 단일 모델 학습에 막대한 자본을 밀어넣는 구조가 만들어짐
• 곡선의 이동은 모델 구조 개선이나 하드웨어 세대 교체가 만드는 "연산 승수"로, 2배짜리 혁신이 나오면 같은 성능을 절반 값에 얻게 됨
• 최첨단 연구소들은 1.2배짜리를 자주, 2배짜리를 가끔, 10배짜리를 드물게 발견하며 이 발전이 누적됨
• 2020년 논문에서 연 1.68배로 측정됐던 알고리즘 효율 개선은 현재 하드웨어까지 포함해 연 4배 수준으로 추정되고, 학습 곡선이 밀리면 추론 가격도 함께 내려감
• 값이 싸지면 반도체를 덜 쓸 것 같지만 실제로는 절감분을 즉시 더 똑똑한 모델에 재투자해 총지출이 늘어나는 방향으로 움직임
• 패러다임 전환은 2020~2023년 사전학습 확장에서 2024년 사고의 연쇄를 만드는 강화학습으로 축이 추가된 흐름이고, 이 두 번째 단계는 아직 투자 초기라 10만 달러를 100만 달러로 올리는 것만으로도 성과가 크게 나옴

딥시크 V3와 R1이 실제로 한 일

• V3는 한 달 전 공개된 순수 사전학습 모델로, 키-밸류 캐시 관리 개선과 전문가 혼합 방식의 진전 같은 공학적 효율화가 성과의 핵심
• 일부 중요 과제에서 미국 최첨단 모델에 근접했지만, 실제 코딩과 사용자 상호작용 설계에서는 클로드 3.5 소넷이 여전히 뚜렷하게 앞선다는 것이 아모데이의 주장
• R1은 V3 위에 강화학습 단계를 얹은 모델로, 오픈AI가 o1으로 한 작업을 비슷한 규모와 결과로 재현한 성격이 강함
• 강한 사전학습 모델만 확보하면 여러 기업이 이 유형을 만들 수 있는 구간이라, R1의 기술적 새로움은 V3보다 작다고 평가
• R1이 유독 화제가 된 이유는 성능이 아니라 모델의 사고 과정을 사용자에게 처음 보여준 인터페이스 선택 쪽에 가까움
• 그럼에도 엔비디아 주가가 17% 빠진 반응에 대해 아모데이는 근거가 약하다고 보고, 이 글의 목적은 어디까지나 수출 통제 옹호라고 선을 그음

600만 달러라는 숫자 뜯어보기

• 600만 달러는 딥시크 논문에 실린 단일 모델 학습비이고 기업 전체 연구개발비와는 층위가 다른 숫자라, 수십억 달러와 나란히 놓는 비교 자체가 성립하지 않음
• 클로드 3.5 소넷도 수천만 달러대의 중간 규모 모델이며, 더 크고 비싼 모델을 활용해 학습됐다는 소문도 사실이 아니라고 반박
• 소넷은 9~12개월 전, 딥시크 모델은 11~12월에 학습돼 세대 차가 있고 소넷은 내외부 평가에서 여전히 우위를 유지 중
• 연 4배 효율 개선을 감안하면 지금 시점에 소넷·GPT-4보다 3~4배 싼 모델이 나오는 게 정상이고, 성능이 곡선상 2배쯤 뒤처진 점까지 넣으면 8배 절감은 추세선 위이거나 그에도 못 미치는 수준
• 최초 GPT-4에서 클로드 3.5 소넷으로 넘어올 때 벌어진 추론비 10배 하락보다도 완만한 변화폭
• 진짜 새로운 사실은 이 예상된 절감을 처음 보여준 곳이 중국 기업이라는 점이고, 아모데이는 이것이 전례 없고 지정학적으로 중요하다고 인정

반도체 재고가 말해주는 것

• 세미애널리시스 집계 기준 딥시크의 호퍼 세대 보유량은 5만 개로, xAI "콜로서스" 클러스터의 2~3배에 해당하는 규모
• 아모데이는 과거 인터뷰에서 "H100 5만 개"라고 말한 것을 H100·H800·H20 합산이라고 직접 정정
• H100은 출시 직후 수출이 막힌 제품이라 보유가 사실이면 밀수 가능성이 높고, H800은 2023년 10월 규제 강화 이전에 확보된 물량으로 추정
• H20은 학습 효율이 낮고 추론에 유리한 제품으로 현재는 허용 상태인데, 아모데이는 이것도 막아야 한다는 입장
• 재고가 미규제·규제 이전·밀수 추정으로 쪼개진다는 사실 자체가 통제가 작동하며 허점이 순차로 메워지고 있다는 증거라는 해석
• 통제가 없었다면 최고급 H100만으로 구성된 장비를 갖췄을 텐데 그렇지 않다는 점, 그리고 딥시크가 미국 연구소 대비 실질적 자원 제약을 겪지 않았다는 점을 함께 지적

2027년, 단극이냐 양극이냐

• 미국 기업들의 수백만 개 반도체 확보는 사실상 확정 사안이라 남은 변수는 중국이 같은 물량을 모을 수 있느냐 하나뿐
• 양극 세계에서는 양쪽 모두 아모데이가 "데이터센터의 천재들의 나라"라 부른 역량을 갖게 되지만, 균형이 유지될 이유는 없음
• 중국이 군사적 활용에 인재와 자본을 더 집중할 가능성이 크고 여기에 산업 기반이 겹치면 AI를 넘어 전 분야 주도권으로 이어질 수 있다는 우려
• 단극 세계에서는 미국과 동맹만 최상위 모델을 갖고, AI가 더 나은 AI를 만드는 구조 탓에 일시적 우위가 장기 우위로 굳을 수 있음
• 10억 달러 규모 거래는 숨길 수 있어도 100억이나 1천억 달러 규모는 은폐가 어렵고, 반도체 100만 개는 물리적으로도 밀수가 쉽지 않다는 점이 통제의 설계 근거
• 아모데이는 딥시크 연구진 개인에게 적의가 없다고 밝히면서도, 이들이 권위주의 정부 통제 아래 있다는 점을 통제 유지의 핵심 근거로 제시
• 기술이 더 강력해지고 비용 효율이 좋아진다는 사실은 통제를 완화할 이유가 아니라 오히려 유지할 이유라는 것이 글의 결론