Jakarta, Technologue.id — Industri chipset kembali diramaikan dengan kehadiran Tensor Processing Unit (TPU) buatan Google. Istilah ini sebenarnya sudah dikenal sejak 2015, namun baru populer setelah muncul di smartphone Pixel 11 melalui chip Google Tensor G6.

TPU adalah chip proprietary yang dirancang Google untuk menangani komputasi kompleks untuk kecerdasan buatan (AI) dan machine learning (ML). Awalnya, TPU digunakan khusus untuk aplikasi berbasis cloud di pusat data Google. Namun, kini istilah ini merambah ke perangkat mobile.

Google mengklaim chip Tensor G6 pada Pixel 11 memiliki "50 persen lebih banyak TPU compute". Hal ini tentu memunculkan pertanyaan: apakah TPU di smartphone sama dengan TPU di pusat data? Jawabannya membingungkan, tetapi keduanya berbeda.

Di seri Pixel 11, TPU pada dasarnya adalah cara Google menyebut NPU. Versi TPU ini menangani pemrosesan kamera, gambar, dan tugas AI lokal. Sementara itu, TPU untuk pusat data jelas berbeda dari versi smartphone, NPU tradisional, maupun GPU.

TPU adalah chip yang diciptakan Google untuk menangani tugas AI dan machine learning berbasis cloud di pusat data perusahaan. Dikenal sebagai akselerator AI, TPU dioptimalkan untuk melakukan jutaan perhitungan matematis dalam model AI, sesuatu yang juga dilakukan NPU dan GPU.

NPU sendiri adalah chip yang ditemukan di semua smartphone, Mac, dan PC modern. Chip ini melakukan semua pekerjaan berat untuk tugas AI generatif, mulai dari menghapus objek di foto hingga menggunakan asisten AI untuk menyusun rencana perjalanan.

Untuk Pixel 11, Google mengklaim TPU menggantikan NPU dengan "pemrosesan AI hingga 3,5 kali lebih cepat sambil menggunakan energi hingga 3,5 kali lebih hemat". Klaim ini menunjukkan efisiensi signifikan dibandingkan generasi sebelumnya.

Hal yang membedakan ketiga chipset ini sebagian besar terletak pada kasus penggunaan dan skala. TPU digunakan untuk AI berbasis cloud di pusat data Google, sementara NPU, TPU on-device, dan GPU dapat ditemukan di smartphone dan laptop.

TPU memiliki skala terbesar berkat arsitektur khusus yang disebut systolic array. Layout hardware ini memungkinkan data mengalir dari satu unit ke unit berikutnya dalam grid 2D multiplier, menghilangkan potensi bottleneck. Hasil perhitungan menjadi input untuk unit berikutnya tanpa harus menulis kembali ke memori.

Berbeda dengan GPU yang harus menangani data antara unit komputasi dan memori bandwidth tinggi. Untuk perusahaan AI besar seperti Anthropic dan Midjourney yang melayani miliaran permintaan AI setiap hari, solusi berbasis GPU bisa mahal dalam hal bottleneck, latensi, dan efisiensi daya.

Karena TPU tidak bolak-balik membaca dan menulis memori, chip ini lebih cocok untuk melatih jaringan saraf skala besar dan workload masif lainnya. Sementara NPU dan TPU on-device dioptimalkan untuk tugas berdaya rendah seperti efek kamera dan terjemahan real-time.

"Lebih baik" adalah hal yang relatif. Setiap akselerator AI paling unggul dalam kasus penggunaan tertentu. NPU dan TPU on-device lebih baik untuk menangani tugas AI mainstream yang lebih kecil karena konsumsi dayanya rendah.

Chip tersebut tidak akan terlalu membebani baterai smartphone, laptop, atau smartwatch. Namun, chip ini tetap memiliki tenaga cukup untuk terjemahan real-time, mengaburkan latar belakang saat panggilan video, atau membantu mengingat acara TV yang pernah ditonton di tahun 90-an.

TPU adalah solusi hemat biaya dan energi yang membantu menjalankan pertunjukan AI/ML/DL secara global. Memproses jutaan perhitungan matematis sambil melatih model ML dan DL pada skala masif berarti TPU murni untuk pusat data besar.

Dengan fleksibilitas bawaan, GPU dapat menangani workload AI skala kecil dan besar sekaligus menjalankan game, mengedit video, dan simulasi. Jika ingin menjalankan LLM lokal, GPU yang bertenaga adalah pilihan terbaik.

Perkembangan teknologi AI memang membawa banyak terminologi baru. Memahami perbedaan TPU, NPU, dan GPU membantu konsumen memilih perangkat yang sesuai kebutuhan, baik untuk penggunaan sehari-hari maupun kebutuhan komputasi berat.

Bagi pengguna yang tertarik dengan perangkat AI, penting untuk memperhatikan spesifikasi chipset. Sementara itu, bagi yang mencari laptop untuk produktivitas, pilihan seperti Vivobook Pro 15 OLED bisa menjadi pertimbangan. Untuk opsi lebih terjangkau, Redmi 10A menawarkan harga mulai Rp1 jutaan.