The AI Stack's Scarce Layers

🧠Memory as the Bottleneck

메모리가 병목이 됐다

AI 가속기는 연산보다 메모리 대역폭에서 먼저 막힌다. HBM(고대역폭 메모리)은 그 병목을 푸는 부품이라 가속기마다 반드시 옆에 끼고 돈다. SK하이닉스는 세계 HBM 절반 이상을 만들어, 칩이 아니라 칩이 기다리는 메모리를 쥔 회사가 됐다.

💰Capital Concentration

자본이 메모리로 몰린다

메모리가 병목이면 자본도 거기로 흐른다. SK하이닉스의 294억 달러 나스닥 IPO는 스페이스X 다음 역대 두 번째 규모로, 1분기 매출 380억 달러(전년비 198%)·순이익률 77%라는 숫자가 그 평가를 떠받친다. 범용재였던 메모리가 분기 매출의 4분의 3을 이익으로 남기는 사업으로 재평가됐다.

open_in_new startupxo.com/ko/news/2026/06/sk-hynix-us-ipo-ai-memory-capital

🏭Capex → Capacity Loop

조달이 다시 설비로

상장으로 모은 돈은 배당이 아니라 설비로 들어간다. 용인 클러스터 첫 팹, AI 메모리용 첨단 패키징, EUV 장비 매입. 200조 원이 넘는 국내 반도체 투자 흐름의 일부로, 수요가 자본을 부르고 자본이 다시 공급을 늘리는 순환이 메모리 슈퍼사이클을 굳힌다.

🏦Who Can Afford to Build

누가 지을 수 있나

팹 한 곳이 수십조 원이고 사이클은 격렬하다. 그래서 메모리·파운드리는 자본 집약도가 극단적이고, 한 건의 딜이 시장 전체를 움직인다. 반도체 자본시장(ECM)은 IPO·팹 캐펙스 파이낸싱·ADR 상장을 동시에 읽어야 하는 별도 전문 영역이 됐다.

🧭Reasoning You Can Trust

믿을 수 있는 추론

모델을 키워도 추론 과정 자체는 검증되지 않는다. 정답만 맞으면 통과시키던 평가가, 도덕적 판단처럼 정답이 하나가 아닌 문제에선 무너진다. 추론의 '내용'이 아니라 '구조'를 받쳐야 신뢰가 생긴다.

⚠️Where Chain-of-Thought Breaks

사고 사슬이 무너지는 지점

표준 사고 사슬은 두 가지로 실패한다. 이해관계자 붕괴 — 결과에 걸린 당사자를 하나밖에 못 짚는다. 불확실성 억압 — 결정 전에 모르는 것을 드러내지 않는다. DailyDilemmas 100개 시나리오에서 각각 최대 31%, 72%까지 나타났다.

🪜Inference-Time Scaffolding

추론 시점에 받침대를 댄다

Narration-of-Thought는 학습 없이 시스템 프롬프트만으로 추론을 다섯 구획(주체·이해관계자·결과 2단계·불확실성·최종 결정)으로 강제한다. 이해관계자 붕괴를 31%에서 1% 미만으로, 불확실성 억압을 72%에서 1~24%로 낮췄다. 가중치를 건드리지 않고 추론의 형태만 바꿨다.

🔬Evaluating the Trace, Not the Answer

답이 아니라 과정을 평가

추론이 건전한지를 판단하는 것 자체가 새 기술이 됐다. 이해관계자 커버리지, 불확실성 보정, 구조화된 추론 평가, LLM-judge 하니스 설계. 모델을 쓰는 쪽에서 '무엇을 믿을지'를 가르는 평가 역량의 수요가 커진다.

🔗The Same Shape

같은 모양의 희소성

두 층은 다른 영역처럼 보이지만 구조가 같다. 가장 비싼 병목이 곧 가장 큰 가치가 되고, 그 병목을 쥔 쪽(HBM 공급, 추론 평가)이 협상력을 갖는다. 메모리는 자본으로, 추론 신뢰는 평가 역량으로 측정된다 — 둘 다 '많이'가 아니라 '병목을 누가 쥐었나'의 문제다.