Google, Yapay Zekâda NVIDIA’nın Hakimiyetine Meydan Okuyor

Google, yapay zekâ uygulamalarında NVIDIA ekran kartlarına olan bağımlılığı azaltabilecek yeni bir hamle yaptı. Şirket, PyTorch tabanlı uygulamaların kendi Tensor Processing Unit (TPU) çiplerinde çalışmasını sağlayan TorchTPU projesini açık kaynak olarak yayımladı. Böylece geliştiriciler, mevcut uygulamalarını baştan yazmadan Google’ın çiplerine ve Google Cloud altyapısına taşıyabilecek.

Yapay zekâ modelleri geliştirmek, eğitmek ve çalıştırmak için kullanılan PyTorch, sektörün en yaygın yazılım araçlarından biri. Bazı tahminlere göre yapay zekâ uygulamalarının yaklaşık yüzde 85’i PyTorch kullanıyor. Platformun yaygınlaşmasında, NVIDIA GPU’larıyla uyumlu çalışacak şekilde şekillenmesinin de payı bulunuyor. Bu nedenle geliştiriciler, PyTorch ile hazırladıkları uygulamaları çalıştırmak için uzun süredir NVIDIA donanımlarına yöneliyor.

TorchTPU, uygulamaları yeniden yazma ihtiyacını kaldırıyor

Google’ın sunduğu TorchTPU, PyTorch uygulamalarını TPU altyapısına uyarlamayı basitleştiriyor. Geliştiricilerin mevcut kodu tamamen değiştirmesi yerine bir yapılandırma değişikliği yapması yeterli oluyor. Bu yaklaşım, uygulamaların Google Cloud’a taşınmasını da kolaylaştırıyor.

Google, TorchTPU’nun yalnızca temel PyTorch desteğiyle sınırlı kalmaması için farklı yapay zekâ geliştirme araçlarıyla uyum sağlamaya çalıştı. Şirket, Meta, Hugging Face, Inferact ve RadixArk ile doğrudan çalıştığını belirtiyor. Inferact, vLLM projesinin; RadixArk ise SGLang’in geliştiricisi olarak biliniyor. Amaç, TorchTPU’nun PyTorch ekosisteminde kullanılan kütüphaneler ve araçlarla orijinal platforma benzer bir deneyim sunması.

Google ayrıca TPU agent suite adlı özel bir araç setini de kullanıma sundu. Bu paket, geliştiricilerin uygulamalarını Google’ın çiplerine ve bulut altyapısına geçirirken karşılaştıkları hataları bulmalarına yardımcı olacak. Şirket, mobil cihazlar, dizüstü bilgisayarlar ve gömülü sistemlerde yapay zekâ çalıştıran LiteRT aracını da PyTorch uygulamalarıyla daha iyi çalışacak şekilde güncelledi.

Amazon da PyTorch için kendi çiplerine yöneliyor

Google’ın duyurusu, Amazon’un benzer bir hamlesinden kısa süre sonra geldi. Amazon, TorchNeuron adını verdiği kendi PyTorch sürümünü yayımladı. Bu proje, yapay zekâ uygulamalarının Amazon tarafından geliştirilen Trainium çiplerine ve AWS altyapısına yeniden kodlama yapılmadan taşınmasını hedefliyor.

Amazon bununla da yetinmeyerek ana PyTorch projesine kod katkısı yapmaya hazırlanıyor. Şirketin sunduğu kod, bazı özelliklerin NVIDIA donanımına olan bağlılığını azaltacak. Böylece PyTorch’un farklı donanımlarla varsayılan olarak daha uyumlu çalışması amaçlanıyor.

PyTorch’un geçmişi de NVIDIA’nın bugünkü konumunu anlamak açısından önemli. Platform, 2016 yılında Meta tarafından geliştirildi. O dönemde büyük dil modellerinin sektörü dönüştüreceği henüz öngörülmüyordu; ancak NVIDIA GPU’ları yapay zekâ araştırmalarında zaten standart donanım olarak kullanılıyordu. PyTorch’un birçok özelliği de bu donanımlarla çalışacak biçimde geliştirildi. Meta, 2022 yılında PyTorch’u Linux Foundation bünyesine devretti.

NVIDIA üstünlüğü hemen ortadan kalkmayacak

TorchTPU ve TorchNeuron, geliştiricilerin alternatif donanımlara geçişindeki yazılım engellerini azaltıyor. Ancak bu durum, yapay zekâ şirketlerinin kısa sürede topluca NVIDIA donanımlarını bırakacağı anlamına gelmiyor. Geliştiricilerin donanım performansı, mevcut araçlarla uyumluluk, maliyet ve bulut altyapısı gibi birçok unsuru birlikte değerlendirmesi gerekiyor.

Yine de Google ve Amazon’un aynı noktaya yönelmesi, yapay zekâ donanımı rekabetinin yalnızca çip üretimiyle sınırlı olmadığını gösteriyor. Geliştiricilerin kullandığı yazılım katmanına erişmek, alternatif işlemcilerin benimsenmesi için en az donanım üretmek kadar kritik. PyTorch uygulamalarını taşıma sürecinin kolaylaşması, Google ve Amazon’un kendi çiplerini daha geniş bir ekosisteme açma çabasını güçlendirebilir. NVIDIA’nın avantajı bugün sürse de rakipleri, bu üstünlüğün temelindeki yazılım bağımlılığını azaltmaya çalışıyor.