오픈AI 한국 상륙 1년.. 무슨 일이 있었나

2026.9.11 | 1069호 | 구독하기 | 지난호

지난 9일 오픈AI가 한국 지사 설립 1주년 기자 간담회를 열었습니다. 저는 여기에 다녀오지 않았구요. 기사만 읽었습니다. 🤣

하지만 이 기사를 읽어보니 문득 1년전 생각이 나더군요. 오픈AI가 한국 지사를 설립한지 얼마 안된 10월1일 샘 올트먼 오픈AI CEO가 한국을 찾았습니다. 그는 이재명 대통령을 만났고, 그 자리에는 이재용 삼성전자 회장과 최태원 SK그룹 회장이 동석했습니다. 그는 두 회사들에게 이렇게 말했죠. 

“앞으로 D램이 웨이퍼 기준으로 월 90만장이 필요하니까, 우리에게 팔지 않겠어?”

메모리 반도체 업체의 생산능력은 월 웨이퍼 투입량으로 평가됩니다. 반도체를 피자에 비유한다면 웨이퍼는 피자 토핑이 올라가는 도우에 비유할 수 있고, 화덕에 얼마나 많은 웨이퍼를 넣어서 꺼낼 수 있느냐가 생산능력을 보여줍니다.

2025년 말 기준으로 삼성전자는 월 70만장, SK하이닉스는 50만장, 마이크론은 35만 정도의 생산능력을 가지고 있는 것으로 평가되고 있었습니다. 오픈AI가 요구한 월 90만장은 그래서 전세계 D램 생산능력의 약 50%에 해당하는 어마무시한 양이었습니다.

당시 샘 올트먼은 2029년까지 5000억달러(약 700조원)를 들여 세계 곳곳에 AI 데이터센터를 짓겠다는 이야기를 하고 있었고, 이 700조원 규모 데이터센터에 필요한 D램의 양이 그정도일 것이라고 삼성전자와 SK하이닉스에게 이야기한 것이었습니다. 

당시의 이야기를 들어보면 삼성도, SK도 월 90만장의 수요에 대해서 반신반의하는 분위기였다고 합니다. 

당시 반도체 담당 기자로 기사를 쓰면서 저는 몇 가지 점에서 의문이 들었는데요.

첫 번째는 오픈AI가 말한 메모리 반도체 수요와 엔비디아가 말한 메모리 반도체 수요가 서로 중복되는 것 아니냐는 점이었습니다. 결국 오픈AI는 엔비디아로부터 GPU를 구매할텐데 그 안에 메모리 반도체가 포함되어있을테니까요. 만약 중복 계산이 된다면 메모리 수요가 이중으로 계산돼 실제보다 부풀려질 수 있다고 생각했던 것이죠.

AI 컴퓨팅 산업에서 돈의 흐름은 대략 이렇습니다.

모델 회사(오픈AI, 앤트로픽, 구글) → 클라우드 회사(AWS, MS, 구글) → AI 반도체 회사(엔비디아, AMD) → 메모리 회사(삼성전자, SK하이닉스)

챗GPT와 클로드, 제미나이를 사용하는 사람이 많아질수록 클라우드 회사들의 매출은 늘어납니다. 이들은 더 많은 AI 인프라를 구축하기 위해 엔비디아 GPU를 더 많이 사고, 엔비디아는 더 많은 메모리 반도체를 삼성전자와 SK하이닉스로부터 구매합니다.

그래서 오픈AI는 어떻게 보면 공급망의 가장 하단에 있는 메모리 회사들을 직접 만나러 온 것인데요. 이것이 말이 되는 이유는 공급망의 최상단에 있는 모델 회사가 어떤 사양으로 데이터센터를 구성할지 결정할 수 있기 때문입니다.

오픈AI만 해도 여러 가지 선택지가 있습니다. 3개 클라우드 회사가 이미 구축해 놓은 AI 인프라를 사용할 수도 있고요. 오라클과 협력해 오픈AI가 원하는 AI 인프라를 직접 만들 수도 있습니다. 3개 클라우드 회사의 AI 인프라에는 엔비디아 GPU가 가장 많이 탑재돼 있지만, 거기에 있는 AMD GPU를 사용하겠다고 요청할 수도 있습니다. 뿐만 아니라 아마존이나 구글의 자체 AI 반도체를 사용해서 챗GPT를 작동시킬 수도 있습니다.

오픈AI가 자체적으로 AI 인프라를 구축하는 경우에도 선택지가 많습니다. 엔비디아나 AMD 제품을 사용할 수 있지만, 최근 공개한 자체 AI 반도체인 할라피뇨를 선택할 수도 있습니다. 오픈AI가 만든 할라피뇨에도 HBM이 들어가는데, 여기에는 삼성전자의 HBM이 사용되는 것으로 알려져 있습니다. 이처럼 오픈AI는 필요한 AI 컴퓨팅 수요를 만족하기 위해 다양한 방식을 사용하는 것으로 알려져있습니다.  

그래서 오픈AI가 한국을 찾아 메모리 반도체 공급을 요청한 것은, 오픈AI에 직접 메모리 반도체를 판매해 달라는 의미라기보다는, 오픈AI가 다양한 경로를 통해 구축하는 AI 인프라에 메모리 반도체를 안정적으로 공급해 달라고 요청한 것으로 이해할 수 있습니다.

사실 당시에는 ‘돈이 있으니 그냥 사 가면 되는 것 아니냐’는 생각이 들었습니다. 왜냐면 지금처럼 메모리 반도체 공급 부족 사태가 없었기 때문이죠. 지금처럼 전 세계적으로 메모리 반도체 공급이 부족해진 상황에서는 안정적인 공급이 무척 중요해졌습니다. 왜냐면 삼성전자와 SK하이닉스 입장에서는 자신들이 만드는 메모리 반도체를 구글이나 앤트로픽에 공급할 수도 있고, 애플에 공급할 수도 있으며, 삼성전자 갤럭시용으로 사용할 수도 있기 때문입니다. 오픈AI가 최종적으로 사용할 엔비디아 GPU, 아마존의 자체AI 반도체에 HBM을 우선 공급하면서 오픈AI와 좋은 관계를 유지하는 것도 중요한 전략이 될 수 있습니다. 

두 번째는 5000억 달러에 달하는 어마어마한 돈을 오픈AI가 대체 어디서 마련할지가 궁금했습니다. 당시 오픈AI는 수억 명에 달하는 고객을 확보하고 있었지만 막대한 손실을 보고 있었죠.

그런 궁금증은 곧 해소됐는데요. 먼저 오픈AI는 2026년 4월 1200억 달러를 유치하며 8520억 달러의 기업가치를 인정받습니다. 투자자 중에는 오픈AI에 클라우드 서비스를 제공하거나 반도체를 판매하는 아마존과 엔비디아도 포함됩니다. 

오픈AI는 엔비디아로부터 AI 데이터센터와 관련한 금융 지원도 받습니다. 오픈AI의 주주인 소프트뱅크는 SB에너지라는 AI 데이터센터 건설·운영 기업을 만들었는데요. 엔비디아는 SB에너지와 함께 오하이오주에 AI 데이터센터를 건설합니다. 이 AIDC에는 엔비디아 GPU만 들어가고, 오픈AI는 이 시설을 임대해 사용합니다.

그런데 이 AIDC를 짓는 데는 많은 돈이 필요하겠죠? 엔비디아는 SB에너지에 15억 달러(약 2조 원)를 투자하고, 프로젝트에 문제가 생겼을 때 엔비디아가 대신 돈을 갚아주는 형태의 보증도 제공합니다. 이후 AIDC가 가동되고 오픈AI가 SB에너지에 사용료를 내기 시작하면 이 보증 규모는 점차 줄어드는 구조입니다. 막대한 AIDC 건설 비용을 엔비디아와 SB에너지가 부담하고, 오픈AI는 재무적인 부담을 크게 지지 않는 구조인 셈입니다. 이미 맺은 AI 인프라 투자 계획만해도 어마어마한 오픈AI 입장에서는 합리적인 방식인 것입니다. 

오픈AI는 AI 반도체를 구매하면서 동시에 해당 기업의 주식을 낮은 가격에 매입할 수 있는 권리도 확보했습니다. 대표적인 것이 AMD와 맺은 6GW 규모의 계약인데요. 많이 구매하면 많이 구매할수록 AMD 주식을 낮은 가격에 매입할 수 있고, AMD 주가가 오르면 오픈AI도 이익을 볼 수 있는 구조입니다. 

샘 올트먼의 방한 후 1년이 지났지만 사실 AIDC나 반도체 팹은 많이 건설되지 않았습니다. 인프라가 그렇게 빨리 건설되지 않거든요. 당시 샘 올트먼은 삼성, SK와 손잡고 한국에 AIDC 두 곳을 짓기로 했는데 아직 구체적인 위치나 규모 등은 공개되지 않았습니다.

삼성전자와 SK하이닉스는 이후 대규모 반도체 생산능력 확대 계획을 발표했지만, 2025년 말과 비교하면 여전히 생산능력은 크게 늘어나지 않았습니다. 올해 청주 M15X가 완공되면서 SK하이닉스의 생산능력이 월 4만 장 규모 늘어난 것으로 알려져 있습니다.

그에 반해 삼성전자와 SK하이닉스의 매출과 주가는 엄청나게 뛰었습니다. 삼성전자의 경우 올해 매출액 전망치는 739조 원이고 순이익은 321조 원입니다. SK하이닉스는 매출 344조 원, 영업이익 252조 원이 예상됩니다. 합쳐서 매출 1000조원, 순이익 600조원에 달하는 한국 기업 역사상 나와본적없는 숫자죠. 

두 회사의 실적이 이처럼 크게 늘어나게 된 것은 결국 오픈AI가 내다봤던 월 90만 장 규모의 D램 웨이퍼 수요가 현실화하면서, 두 회사에 대한 메모리 반도체 주문이 크게 증가했기 때문입니다. 전 세계에서 가장 많은 AI 고객을 확보하고 있고 가장 앞선 AI를 개발하는 회사가 전망했던 막대한 메모리 반도체 수요가 결과적으로 맞았다고 볼 수 있는 것이죠.

2025년 10월 1일 종가 기준 삼성전자 주가는 8만6000원, SK하이닉스 주가는 36만 원이었는데요. 지금 주가는 각각 26만6000원, 185만300원으로 1년도 안 돼 각각 약 3배와 5배로 올랐습니다.

그런데 당시 샘 올트먼도 미처 예상하지 못했던 부분이 있었던 것 같습니다. 크게 네 가지가 있었는데요. 

첫 번째는 메모리 반도체 공급이 부족한 상황에서 AI 데이터센터가 기존 D램의 수요를 잠식할 수 있다는 점입니다. 결국 동일한 D램 웨이퍼를 활용해 HBM용, 서버용, 스마트폰용, PC용 D램을 만들기 때문에 HBM 쪽으로 생산 물량이 몰리면 다른 분야에서는 공급이 부족해질 수밖에 없습니다. 그 결과 지금처럼 메모리 가격이 지나치게 오르면서 스마트폰과 PC는 물론 AIDC에서조차 메모리 가격이 부담으로 작용하게 됐습니다.

두 번째는 오픈AI가 아닌 다른 회사들의 D램 수요까지 폭발할 수 있다는 점입니다. 지난해만 해도 대부분의 AI 수요는 오픈AI와 구글에서 발생했습니다. 하지만 클로드가 내놓은 코딩 에이전트가 큰 성공을 거두면서 앤트로픽에도 엄청난 컴퓨팅 수요가 발생했습니다. 문제는 앤트로픽이 오픈AI처럼 대규모 인프라를 미리 준비해 놓지 않았다는 점입니다.

전 세계 곳곳에서 클로드의 속도가 느려졌고, 앤트로픽은 부랴부랴 대규모 클라우드 임대 계약을 맺습니다. 스페이스X가 대표적입니다. 하지만 언제까지 임대에만 의존할 수는 없기 때문에 앤트로픽도 자체 AIDC 구축에 나서게 됐고, 이것이 다시 메모리 반도체 수요로 이어지고 있습니다.

뿐만 아니라 중국 AI 기업들도 오픈소스 AI 모델을 내놓으며 큰 성공을 거두고 있는데요. 이 오픈소스 AI 역시 결국 어느 데이터센터에서는 작동해야 합니다. 당장 중국 내에서 AI 사용자가 늘어나고 있고, 이는 중국 내 AIDC 건설 붐으로 이어질 것으로 보입니다. CXMT와 YMTC 같은 중국 메모리 기업들이 가장 큰 수혜를 보겠지만 삼성전자와 SK하이닉스 역시 수혜를 볼 것으로 예상됩니다

세 번째는 D램뿐 아니라 낸드플래시도 많이 필요해졌다는 점입니다. 주로 데이터 저장용으로 쓰이는 낸드플래시는 그동안 AI 추론에서 역할이 크지 않았습니다. 하지만 AI 추론 과정에서 KV 캐시의 중요성이 커지면서 이를 저장하는 수단으로 낸드 메모리가 주목받기 시작했고, 이는 전체적인 낸드 메모리 가격 상승으로 이어졌습니다. D램과 낸드를 모두 만드는 삼성전자, SK하이닉스, 마이크론의 실적이 크게 증가한 이유이기도 합니다.

네 번째는 이른바 AI 에이전트의 발전이 더 많은 D램 수요를 촉발할 수 있다는 점입니다. 이 역시 1년 전에는 충분히 예상하지 못했던 부분입니다. 최근 오픈AI가 공개한 아스트라와 같은 에이전트 특화 AI는 ‘토큰을 녹인다’는 표현이 쓰일 정도로 많은 토큰을 사용합니다. 그만큼 필요한 AI 연산량이 엄청나다는 것이죠. 더 많은 사람이 아스트라를 사용하고 AI 코딩 서비스를 이용할수록 필요한 메모리 반도체의 양도 늘어날 수밖에 없습니다.

결국 이렇게 예상하지 못했던 수요들이 겹치면서 메모리 반도체 가격의 폭등을 가져왔습니다. 그리고 앞서 레터에서도 설명드렸듯이, 이제 AI 업계는 메모리 반도체 사용량을 줄일 수 있는 방법을 본격적으로 찾아 나서기 시작했습니다.

2022년 챗GPT의 등장, 2024년 엔비디아의 부상, 2026년 메모리 반도체의 폭등. 돌아보면 이는 순차적으로 일어날 수 밖에 없었던 현상이었습니다. 혁명적인 소프트웨어 기술이 등장하면, 이를 뒷받침 하기 위한 인프라에 대한 수요는 커질수 밖에 없죠. 

동시에 2022년 이후 AI에 대한 충분한 수요가 있을지, 이를 기반으로 돈을 버는 비즈니스 모델이 나올 지에 대한 끊임없는 의심과 검증도 이어졌던 것 같습니다. 

LLM의 발전은 끝났다. LLM은 커머디티가 됐다는 얘기도 나오고 있지만, 이 LLM을 기반으로 하는 아스트라와 같은 에이전트나, AI 숏폼과 같은 새로운 컨텐츠는 계속 새롭게 등장하고 있습니다. 인스타그램에는 진짜 사람인지, AI인지 알 수 없는 계정들이 등장하고, IFA와 같은 가전 전시회는 휴머노이드 로봇들이 점령하고 있습니다.  

그런 점에서 앞으로 1년 어떤 일이 벌어질까요? 

소프트웨어의 개발 속도, 기업들의 실적과 주가는 빠르게 움직입니다. 반면 데이터센터와 반도체 팹을 짓는데는 오랜 시간이 걸립니다. 사람들이 일하고 생각하는 방식이 변하는데는 더 오랜시간이 걸립니다. 

그런 점에서 AI 인프라 투자에 따른 공급 부족 사태는 적어도 1년은 더 지속될 것 같구요. 하지만 그런 공급 부족이 끝나고, 공급과잉이 된다는 조짐이 나오기만 해도 주가는 더 빠르게 반응할 것 같습니다. 그것이 당장 1년 후가 될지 2년 후가 될지는 모르겠습니다. 그렇게 주가는 떨어지고 버블은 꺼질지 모르겠지만, AI 인프라 투자는 남기 때문에 그걸 기반으로 진짜 AI 혁명이 시작될 것 같습니다. 그것이 지금까지 기술이 세상을 변화시킨 방식이니까요.