ByteDance telah menggandeng TSMC untuk memproduksi dua chip GPU berbasis AI yang dirancang sendiri, dengan tujuan mengurangi ketergantungan pada Nvidia untuk perangkat keras AI sekaligus mematuhi peraturan ekspor AS.
Chip tersebut masih dalam tahap perancangan dan diharapkan memasuki produksi massal dalam waktu satu tahun. Satu chip akan digunakan untuk pelatihan AI, sedangkan yang lain untuk inferensi AI. Broadcom, yang sebelumnya pernah merancang chip AI untuk Google, diperkirakan akan merancang chip AI untuk ByteDance.
GPU ini rencananya akan diproduksi menggunakan teknologi proses N4/N5 TSMC, yang serupa dengan node yang digunakan TSMC untuk membangun GPU seri Blackwell milik Nvidia, yang dirancang untuk AI dan komputasi kinerja tinggi (HPC). GPU buatan ByteDance diproyeksikan memasuki produksi massal pada tahun 2026, sehingga penggunaannya baru bisa diharapkan pada tahun tersebut.
Tahun ini, ByteDance telah menghabiskan lebih dari $2 miliar untuk membeli lebih dari 200.000 unit GPU Nvidia H20 (sekitar $10.000 per unit, sedikit lebih murah dari kisaran harga $12.000 hingga $13.000). Namun, banyak dari GPU tersebut belum dikirimkan ke perusahaan.
Kekurangan pasokan GPU Nvidia dan harganya yang tinggi menjadi alasan utama ByteDance memutuskan untuk membangun perangkat keras AI sendiri. Nvidia telah merancang DGX H20 dan beberapa GPU lainnya khusus untuk pasar Tiongkok sebagai respons terhadap pembatasan ekspor yang diberlakukan AS tahun lalu.
HGX H20 dari Nvidia merupakan versi GPU yang sangat dikurangi (dibandingkan dengan H100), namun masih dijual seharga $10.000. HGX H20 hanya menawarkan performa 296 INT8/FP8 TOPS/TFLOPS dan 148 BF16/FP16 TFLOPS untuk komputasi AI, sementara H100 yang lengkap mampu memberikan performa hingga 3.958 INT8/FP8 TOPS/TFLOPS serta 1.979 BF16/FP16 TFLOPS untuk komputasi AI.
Meskipun demikian, dengan 96 GB memori HBM3, bandwidth memori hingga 4,0 TB/s, dan kemampuan 8-way GPU, HGX H20 dari Nvidia tetap sangat diminati oleh perusahaan-perusahaan Tiongkok untuk aplikasi dunia nyata.
Meskipun ByteDance kemungkinan tidak akan mampu membuat GPU yang jauh lebih cepat daripada Nvidia HGX H20 karena aturan kontrol ekspor AS (di mana TSMC tidak akan dapat mengirimkan GPU dengan spesifikasi tersebut), GPU yang dirancang ByteDance diharapkan akan jauh lebih murah bagi perusahaan.