Google memperluas keluarga akselerator kecerdasan buatan (AI) Tensor Processing Unit (TPU) generasi ke-8 dengan memperkenalkan TPU 8i Max dan TPU 8tx. Kedua sistem ini dirancang untuk kebutuhan komputasi AI yang berbeda, mulai dari pemrosesan model berukuran besar hingga perlindungan data sensitif. Dengan tambahan tersebut, keluarga TPU generasi ke-8 kini memiliki empat varian.
TPU 8i Max menggabungkan dua chip TPU 8i dalam satu paket untuk menggandakan kemampuan komputasi tanpa membutuhkan ruang rak dua kali lebih besar. Google mengklaim sistem ini menawarkan dua kali lipat daya pemrosesan, kapasitas SRAM internal, dan bandwidth memori dibandingkan TPU 8i standar.
Berdasarkan estimasi Tom's Hardware, performanya berpotensi mencapai 20,2 petaflops FP4 dengan bandwidth memori 17,2TB/s. Namun, Google belum mengonfirmasi spesifikasi lengkap tersebut.
Sementara itu, TPU 8tx berfokus pada keamanan pemrosesan data. Sistem ini menggunakan isolasi berbasis perangkat keras untuk melindungi data dan parameter model selama komputasi berlangsung, sehingga menyasar pemerintah dan industri dengan kebutuhan keamanan tinggi.
Menariknya, Google mengganti prosesor host Axion berbasis Arm dengan AMD EPYC generasi kelima. TPU 8tx juga menggunakan interkoneksi Boardfly yang diklaim mampu mengurangi latensi hingga 50 persen dibandingkan TPU 8t.
Google Perkuat Ekosistem untuk Menantang Nvidia
Selain perangkat keras, Google memperluas dukungan perangkat lunak melalui TorchTPU agar aplikasi PyTorch dan model Hugging Face lebih mudah dijalankan pada akseleratornya. Dukungan framework inferensi seperti vLLM dan SGLang juga ditujukan untuk mengurangi kebutuhan pemrograman khusus. Strategi ini penting karena Nvidia tidak hanya unggul dalam perangkat keras, tetapi juga memiliki ekosistem CUDA yang telah lama digunakan pengembang.
Google mengklaim hampir 100 pelanggan telah menggunakan infrastruktur TPU miliknya, di luar kebutuhan internal untuk menjalankan Gemini. Perusahaan juga mulai menawarkan sistem akselerator secara langsung untuk pusat data pelanggan. Langkah ini menunjukkan ambisi Google mengambil bagian lebih besar di pasar yang selama ini didominasi Nvidia.
Meski demikian, Google belum mengumumkan harga, spesifikasi teknis lengkap, maupun jadwal pengiriman TPU 8i Max dan TPU 8tx. Klaim peningkatan performa dan efisiensi kedua sistem tersebut masih membutuhkan pengujian independen sebelum dapat dibandingkan secara objektif dengan akselerator Nvidia.

