2025년 6월 29일 주요 현안(U.S. Financial Market Update – June 29 2025)

 

U.S. Financial Market Update – June 26 2025

 

Strategic Diversification from Nvidia-Centric Infrastructure

OpenAI has recently started renting Google Cloud’s Tensor Processing Units (TPUs) to power ChatGPT and its related services, marking its first major foray into non‑Nvidia hardware. This signals a strategic shift aimed at reducing dependency on Nvidia GPUs and Microsoft-backed infrastructure, while also increasing bargaining leverage and resilience in its compute supply chain.

 

Cost-Efficient Inference as the Main Driver

TPUs are proving highly cost-effective for inference workloads. Analysts estimate that Google’s hardware can be up to five times cheaper than Nvidia GPUs, which often come with hefty markups known as the “Nvidia tax”. By deploying Google's TPUs, OpenAI aims to significantly reduce inference computing expenses while continuing to use Nvidia GPUs for model training.

 

Access Limited to Older TPU Versions

Though this marks a historic step for OpenAI, it still lacks access to Google’s highest-tier TPU models. These more advanced processors—used for projects like Google’s Gemini—remain reserved for internal applications. Nonetheless, the move is meaningful, demonstrating infrastructure diversification and signaling greater flexibility in hardware sourcing.

 

Hybrid Infrastructure for Future Agility

OpenAI's strategy blends Nvidia GPUs and Google TPUs, enabling a flexible hybrid infrastructure that can better meet fluctuating compute demands. While it's unclear if TPUs will be used beyond inference into model training, their adoption enhances scalability, cost control, and resilience against hardware bottlenecks.

 

Broader Implications: Market Positioning and Ecosystem Evolution

Adding Google TPUs to OpenAI’s infrastructure not only broadens its computing ecosystem but also underscores Google Cloud’s ambitions to commercialize its proprietary silicon. While some industry estimates suggest that Google’s internal use of TPUs can achieve significant cost savings compared to purchasing Nvidia GPUs—potentially operating at a fraction of the cost—public cloud pricing for TPUs and Nvidia GPUs tends to be more closely aligned and varies depending on workload and configuration. Nevertheless, this strategic shift by OpenAI could still reshape the economics of AI infrastructure and spur greater competition among cloud service providers.

 

Your thoughts would also be a great help in running the blog.

 

Please be advised that any investment decisions made based on the information provided are solely the responsibility of the investor. The content shared on this blog is intended for reference purposes only and should not be construed as financial advice.

 

 

2025년 6월 26일 주요 현안

 

 

Nvidia 중심 구조에서 벗어난 전략적 전환

로이터와 인디아타임스 보도에 따르면, OpenAI는 ChatGPT 및 관련 AI 서비스를 운영하기 위해 Google Cloud의 TPU(텐서 프로세싱 유닛) 임대를 시작했습니다. 이는 기존의 Nvidia GPU 및 Microsoft 인프라에 대한 과도한 의존에서 벗어나기 위한 전략적 움직임으로, 컴퓨팅 공급망의 민첩성을 높이기 위한 시도로 해석됩니다.

 

추론 워크로드 비용 절감이 주된 목적

TPU는 특히 추론 단계에서 뛰어난 비용 효율성을 자랑합니다. 분석에 따르면 Google TPU는 Nvidia GPU 대비 최대 4~6배 더 저렴한 단가를 제공할 수 있으며, 종종 ‘Nvidia세’로 불리는 높은 마진 부담을 줄이는 핵심 수단이 됩니다. OpenAI는 학습 단계에는 Nvidia GPU를 계속 사용하면서, 추론 단계에서는 TPU를 활용해 운영비용 절감을 노립니다.

 

제한된 TPU만 활용 가능

이번 협력에도 불구하고 OpenAI는 Google의 최신 TPU 모델에 대한 접근 권한은 받지 못한 상태입니다. Google은 여전히 자사 최상위 TPU를 내부 인프라와 Gemini 등 주요 프로젝트에 사용하고 있습니다. 그럼에도 이 조치는 인프라 다변화라는 측면에서 중요한 첫걸음으로 평가됩니다.

 

하이브리드 인프라 전략의 유연성

OpenAI는 Nvidia GPU와 Google TPU를 병행 사용하는 하이브리드 접근 방식을 통해 확장성과 비용 효율성, 리스크 대응 능력을 확보하고 있습니다. 추론에만 국한될지, 향후 학습까지 확대될지는 미지수이나, 유연한 컴퓨팅 플랜을 구성하는 의미 있는 변화입니다.

 

시장 포지셔닝 및 생태계 진화의 의미

OpenAI가 Google TPU를 인프라에 도입함으로써 컴퓨팅 생태계를 확장할 뿐만 아니라, Google Cloud가 자체 설계한 칩(실리콘)을 상업화하려는 의지를 분명히 보여주고 있습니다. 일부 업계 분석에 따르면 Google이 내부적으로 TPU를 사용할 경우 Nvidia GPU를 구매하는 것보다 훨씬 저렴하게 운영할 수 있지만, 실제 퍼블릭 클라우드에서 고객이 임대할 때의 TPU와 Nvidia GPU 가격은 워크로드와 구성에 따라 차이가 크며, 대체로 비슷한 수준에 형성되어 있습니다. 그럼에도 불구하고, OpenAI의 이러한 전략적 변화는 AI 인프라의 경제성을 재편하고 클라우드 서비스 제공업체 간 경쟁을 한층 더 심화시킬 수 있습니다.

 

여러분의 생각도 알려주시면 블로그 운영에 많은 도움이 될 것 같아요

 

제공된 정보를 바탕으로 이루어지는 모든 투자 판단은 전적으로 투자자 본인의 책임임을 알려드립니다. 본 블로그에서 제공하는 내용은 참고용일 뿐, 투자 조언으로 받아들이지 말아주시기 바랍니다.