---
title: "Google ve Meta, PyTorch'u TPU'ya taşıyan TorchTPU'yu açık kaynak yaptı"
description: "Google ve Meta, TorchTPU backend projesini açık kaynak yaptı. PyTorch kodu TPU'da az değişiklikle çalışıyor, ancak proje henüz erken aşamada."
image: "https://sezer.in/wp-content/uploads/2026/11/torchtpu-1793636927771.jpeg"
url: "https://sezer.in/haberler/torchtpu-backend-pytorch-tpu/"
date: "2026-11-02T21:26:15+03:00"
updated: "2026-11-02T21:26:15+03:00"
author: "Sezer Şanlıkan"
lang: "tr"
source: "https://sezer.in/haberler/torchtpu-backend-pytorch-tpu/"
---

# Google ve Meta, PyTorch'u TPU'ya taşıyan TorchTPU'yu açık kaynak yaptı

Google, Meta ile birlikte geliştirdiği TorchTPU backend'ini açık kaynak olarak yayımladı ve PyTorch iş yüklerinin Google TPU'larda native olarak çalışmasının yolunu açtı. Google, yaklaşık 5.000 Hugging Face modelini v5e ve sonraki TPU nesillerinde test ettiğini, 30 milyar parametreli Muse Glimmer modeliyle tek bir TPUv7 çipinde saniyede 25,7 bin token inference (çıkarım) hızına ulaştığını açıkladı.

## TPU nedir, ne işe yarar?

TPU (Tensor Processing Unit), Google'ın makine öğrenmesi iş yükleri için tasarladığı özel hızlandırıcı çiptir. Büyük modellerin eğitimi ve inference işlerinde matris hesaplarını hızlandırmak için kullanılır. Google Cloud üzerinden kiralanabilir. Yapay zekâ eğitiminde en yaygın alternatifi NVIDIA GPU'larıdır.

## TorchTPU backend'i PyTorch/XLA'dan neden farklı

TPU'da PyTorch çalıştırmak 2020'den beri mümkündü, ama PyTorch/XLA ile. O yolda derlenecek bölgeleri kodda elle işaretlemeniz gerekiyordu. Derleme süreleri uzundu, eager mod da yoktu. Yani GPU'da yazılmış bir eğitim script'ini TPU'ya taşımak başlı başına bir mühendislik işiydi.

TorchTPU backend'i önceliği eager execution'a veriyor. ML altyapısı işleten ekipler için asıl değişiklik şu: donanım seçimi koddan kopuyor. Aynı repository GPU'da da TPU'da da koşabilir hale geliyor.

## Kod tarafında ne değişiyor

Geçişte iki nokta değişiyor. `cuda` cihazı `tpu` oluyor, `nccl` distributed backend'i de `tpu_dist` oluyor. Daha temiz yol cihazı hiç yazmamak:

```
device = torch.accelerator.current_accelerator()
dist.init_process_group()
model = model.to(device)
```

Bu kalıpla yazılan kod, ortamda hangi hızlandırıcı varsa onu kullanıyor. Geçiş eforunu kestirmek için önce repository'deki sabit CUDA ve NCCL referanslarını sayın:

```
grep -rn --include="*.py" -e "cuda" -e "nccl" .
```

Çıkan satırların çoğu `.cuda()` çağrısı ya da `device="cuda"` ise iş kısa sürer. Özel CUDA kernel'leri ya da yalnız NVIDIA donanımında çalışan eklenti kütüphaneleri varsa durum farklı. O parçalar TPU'da karşılık bulmaz, ayrı bir çözüm ister.

## Eager modlar ve Google'ın rakamları

Üç eager mod var: strict, debug ve DeferAndFuse. Sonuncusu eager ile compiled çalışmayı karıştıran hibrit bir mod. Google bu modun strict moda göre "50% or more" hızlı olduğunu ve peak HBM kullanımını düşürdüğünü belirtiyor. Bu oranı kendi modelinizde ölçmeden üretim kararı vermeyin.

Performans rakamlarının hepsi Google'ın kendi testleri. Muse Glimmer, tek TPUv7 çipinde 5120 sequence length'te saniyede 25,7 bin token üretmiş. Dört çiple yapılan eğitimde aynı uzunlukta hız 5,6 bin token/s. Qwen3 MoE 235B eğitimi 1.024'ten 8.192 TPUv7 çipine ölçeklenmiş.

Ama haberde aynı modellerin GPU karşılığı yok. vLLM ile verilen performance-per-dollar iddiası da rakamsız. Bunları karşılaştırma değil, çalışabilirlik kanıtı olarak okuyun.

## Henüz hazır olmayan kısımlar

Proje erken aşamada ve yol haritası eksikleri açıkça sayıyor:

- dynamic shapes: değişken uzunluklu girdiyle çalışan inference servisleri sorun yaşayabilir
- operator coverage: modelinizin kullandığı bir operatör henüz desteklenmiyor olabilir
- quantization: quantize edilmiş modelleri servis eden ekipler beklemeli
- compilation performance ve reinforcement learning desteği

Test matrisi v5e ve sonraki nesillerle sınırlı. Daha eski TPU nesillerinde çalışan ekipler bu kapsamın dışında kalıyor.

## Nereden başlamalı

İlk adım kodu cihazdan bağımsız hale getirmek. Bu değişiklik TorchTPU backend'ini hiç kullanmasanız bile GPU tarafında bir şey bozmaz, ileride donanım değiştirmeyi ucuzlatır.

Denemeye eğitimle değil, sabit girdi boyutlu bir inference iş yüküyle başlayın. Çünkü dynamic shapes desteği henüz yolda. Hugging Face'ten alınmış standart bir mimari, Google'ın test ettiği 500'ü aşkın mimarinin kapsadığı alana daha yakın düşer.

Üretimdeki PyTorch/XLA iş yüklerine şimdilik dokunmanız gerekmiyor. Haberde PyTorch/XLA için bir deprecation duyurusu geçmiyor.