Google, PyTorch Uygulamalarını TPU’larda Çalıştıran TorchTPU’yu Açık Kaynak Yaptı

Google, PyTorch iş yüklerini kendi yapay zekâ çipleri TPU’lar üzerinde yerel olarak çalıştıran TorchTPU’yu açık kaynak olarak yayımladı. Şirket, 20 Ekim 2026’da PyTorch Conference 2026’da duyurduğu yığını Meta’nın PyTorch ekibiyle birlikte geliştirdiğini belirtti.

Kod GitHub’da erişime açıldı. Google’a göre mevcut PyTorch iş yükleri asgari kod değişikliğiyle TPU’lara taşınabiliyor. Yığın; eager modda hata ayıklamayı, torch.compile ile üretim performansını, standart PyTorch API’lerini, gelişmiş tanılama araçlarını ve yerel dağıtık işlem yapı taşlarını bir araya getiriyor.

TorchTPU hangi araçlarla çalışıyor

Google, TPU’larda eğitim, sunum ve dağıtımın vLLM, SGLang, llm-d, TorchTitan, Ray, TorchRec, Hugging Face ve LiteRT ile yapılabildiğini söylüyor. Ortak çalışmanın öne çıkan başlıkları şöyle:

• Hugging Face: Transformers v5, device_map="tpu" ayarıyla modelleri TPU’ya yüklüyor; Diffusers da TPU’da yerel olarak çalışıyor.
• vLLM (Inferact ile) ve SGLang (RadixArk ile): vllm-torchtpu ve sglang-torchtpu adlı yerel PyTorch arka uçları sunuluyor.
• TorchTitan: Llama 3 70B/405B ve Qwen 3 gibi modeller için eğitim tarifleri içeriyor; 8.000 Ironwood (TPU v7x) çipine kadar doğrulandı.
• Ray: CPU, GPU ve TPU’lar arasında veri işleme, eğitim, pekiştirmeli öğrenme ve sunum süreçlerini orkestre ediyor.

Mobil ve uç cihazlar için LiteRT güncellemesi

Eski adı TensorFlow Lite olan LiteRT de PyTorch ekosistemine katıldı. Tek bir litert-torch.convert() çağrısıyla PyTorch modelleri dönüştürülebiliyor; hedefte Android, iOS, macOS, Windows, Linux, web ve IoT cihazlar var. Önizleme aşamasındaki TPU agent suite ise modellerin TPU’ya taşınmasını, tanılamayı ve çıkarım performansı ayarını otomatikleştirmeyi amaçlıyor.

Rekabet yazılım katmanına taşınıyor

Yapay zekâ uygulamalarının büyük bölümü varsayılan olarak Nvidia GPU’larına göre yazılıyor. TorchTPU, geliştiricinin kod yazma alışkanlığını değiştirmeden başka bir donanıma geçebilmesini hedefleyerek bu bağımlılığı yazılım katmanında zorluyor. Nvidia’ya alternatif arayan çip girişimleri de aynı pazara yöneliyor; Tenstorrent’in 1,5 milyar dolarlık yatırım turu bunun son örneklerinden.

Gifi+ açısından asıl değer, seçenek sayısında: Türkiye’de model eğitimi ya da çıkarım maliyetiyle uğraşan ekipler için donanım tercihi kod yeniden yazımı gerektirmediğinde, bulut ve çip sağlayıcıları arasındaki rekabet maliyetlere daha doğrudan yansıyabilir. TorchTPU’nun bu iddiayı sahada ne kadar karşılayacağını geliştirici topluluğunun denemeleri gösterecek.