Kenapa GPU Jauh Lebih Jago Menjalankan AI Ketimbang CPU? Rahasia di Balik Paralelisme Komputasi

Pernah gak kamu iseng nyoba ngejalanin model AI (LLM) lokal di laptop sendiri? Kalau laptop kamu cuma mengandalkan prosesor (CPU) bawaan tanpa kartu grafis tambahan, kemungkinan besar kamu bakal ngerasain pengalaman yang sama kayak yang pernah aku alami: laptop mendadak panas membara, kipas pendingin berdengung kencang kayak helikopter mau lepas landas, dan teks jawaban AI-nya keluar lambat banget sehuruf demi sehuruf—kira-kira cuma dapat satu atau dua token per detik.

Tapi begitu model AI yang sama dijalankan di komputer yang punya kartu grafis (GPU) mumpuni, responsnya langsung ngalir deras tanpa jeda, mulus kayak air keran. Dari situ sering muncul pertanyaan yang bikin penasaran: kenapa prosesor sekelas Core i7 atau Ryzen yang harganya jutaan rupiah dan pintar banget mengurus sistem operasi, mendadak lemas tak berdaya kalau disuruh menjalankan AI? Padahal, bukankah kartu grafis awalnya cuma dirancang buat memproses visual game 3D?

Jawabannya ada pada perbedaan mendasar dalam filosofi rancangan arsitektur komputasi keduanya.

Analogi Sederhana: Profesor Matematika vs Ribuan Siswa Sekolah Dasar

Supaya gampang dibayangkan tanpa pusing rumus, mari kita pakai analogi dunia nyata.

CPU itu ibarat seorang profesor matematika jenius kelas dunia peraih Fields Medal. Dia bisa memecahkan rumus kalkulus yang super rumit, sanggup menganalisis logika bercabang (if/else) dengan sangat cepat, dan mampu menyelesaikan masalah berantai secara presisi. Tapi ingat, dia cuma satu orang—atau kalau di prosesor modern, ibarat ada 8 sampai 16 profesor dalam satu ruangan (8-16 core).

Sementara itu, GPU ibarat sebuah aula raksasa yang berisi 5.000 siswa sekolah dasar. Masing-masing siswa kemampuannya sangat terbatas: mereka cuma bisa melakukan operasi aritmatika dasar seperti perkalian dan penjumlahan angka sederhana. Kalau kamu kasih profesor tadi satu soal kalkulus yang butuh pemikiran abstrak bertingkat, sang profesor bisa menyelesaikannya dalam beberapa detik, sedangkan ribuan anak SD tadi bakal bingung.

Tapi coba balik skenarionya: bagaimana kalau kamu punya 500.000 lembar soal perkalian angka sederhana yang harus diselesaikan semuanya dalam waktu 1 detik? Sang profesor jenius bakal kewalahan dan kelelahan karena dia harus mengerjakan lembar soal itu satu demi satu secara berurutan (sekuensial). Sebaliknya, 5.000 anak SD di aula tadi bisa membagi lembar soal itu rata dan menyelesaikannya secara serentak (paralel) dalam sekejap mata.

Di Balik Layar: Kenapa Model AI Sangat "Rakus" Komputasi Paralel?

Analogi tadi persis menggambarkan apa yang terjadi di balik layar model kecerdasan buatan. Di balik kemampuan ChatGPT atau model bahasa lainnya yang bisa diajak mengobrol layaknya manusia cerdas, operasi internal komputer di level silikon sebenarnya tidak melakukan logika yang rumit bercabang-cabang.

Inti matematika dari sebuah neural network (jaringan saraf tiruan) pada dasarnya hanyalah operasi perkalian dan penjumlahan matriks raksasa, atau yang dalam dunia ilmu komputer sering disebut General Matrix Multiply (GEMM). Model AI modern memiliki miliaran parameter (bobot/weights). Ketika kamu memasukkan sebuah prompt, komputer harus mengalikan vektor input dengan miliaran matriks bobot tersebut di setiap lapisannya (layer).

Menariknya, jutaan operasi perkalian matriks di satu lapisan neural network ini sifatnya embarrassingly parallel—artinya, hasil perkalian di baris pertama tidak perlu menunggu hasil perkalian di baris kedua selesai. Semuanya bisa dan harus dihitung secara bersamaan.

Inilah kenapa GPU langsung cocok tanpa perlu banyak kompromi. Sejak awal kelahirannya, GPU memang dirancang untuk merender jutaan piksel di layar monitor. Piksel di pojok kiri atas tidak perlu menunggu piksel di pojok kanan bawah selesai diwarnai. Arsitektur yang memiliki ribuan inti pemrosesan kecil (seperti ribuan CUDA Core di Nvidia atau Stream Processor di AMD) adalah pasangan sempurna untuk sifat komputasi AI.

Faktor Kritis yang Sering Terlupakan: Bandwidth Memori

Banyak orang mengira keunggulan GPU hanya sebatas jumlah core komputasinya. Padahal, ada satu faktor penentu lain yang tidak kalah krusial, yaitu Bandwidth Memori (Memory Bandwidth).

CPU di komputer harian kita biasanya terhubung ke RAM sistem (seperti DDR4 atau DDR5) yang memiliki jalur transfer data berkisar antara 40 hingga 90 Gigabyte per detik (GB/s). Angka ini terlihat kencang untuk membuka browser dan mengedit video. Tapi untuk menjalankan model bahasa besar (LLM), angka segitu sangat lambat.

Ketika menjalankan inferensi AI, seluruh bobot model (yang ukurannya bisa 8 GB, 16 GB, atau puluhan GB) harus dibaca berulang-ulang dari memori ke unit komputasi untuk setiap token kata yang dihasilkan. Kalau bandwidth memorinya sempit, inti prosesor yang cepat sekalipun akan lebih banyak menganggur bengong menunggu data kiriman dari RAM—kondisi yang biasa disebut memory-bound.

Bandingkan dengan kartu grafis modern yang dibekali memori VRAM khusus berjenis GDDR6 atau bahkan HBM (High Bandwidth Memory). Pipa transfer datanya bisa mencapai 500 GB/s hingga lebih dari 1.000 GB/s! Saluran data yang super lebar inilah yang membuat GPU mampu menyuplai data bobot AI ke ribuan core komputasi secara instan tanpa hambatan leher botol.

Masa Depan Silikon: Lahirnya Tensor Core, NPU, dan Unified Memory

Melihat ledakan adopsi AI beberapa tahun terakhir, para perancang chip hardware tidak tinggal diam hanya mengandalkan arsitektur grafis biasa. Sekarang muncul inovasi-inovasi silikon baru yang makin mengaburkan batas antara prosesor konvensional dan akselerator:

• Tensor Core: Inti silikon fisik khusus di dalam GPU modern yang dirancang murni untuk menghitung perkalian matriks 4x4 atau 16x16 dalam satu detak siklus clock saja, menggunakan format presisi yang lebih hemat daya seperti FP16, BF16, atau INT8.
• NPU (Neural Processing Unit): Chip akselerator AI berdaya rendah yang mulai ditanamkan langsung di dalam prosesor laptop dan smartphone modern (sering dipasarkan sebagai AI PC). NPU bertugas menangani task AI latar belakang—seperti penghilang bising suara mikrofon, efek buram kamera, hingga transkripsi lokal—tanpa menguras baterai atau membuat kipas laptop meraung.
• Unified Memory: Pendekatan arsitektur seperti pada chip Apple Silicon (seri M) atau SoC modern lainnya, di mana CPU dan GPU berbagi satu kolam memori berkecepatan tinggi yang sama. Dengan cara ini, data model AI tidak perlu lagi disalin bolak-balik melalui jalur PCIe yang sempit, membuat eksekusi model AI berukuran besar di laptop terasa jauh lebih efisien.

Kesimpulan

Pada akhirnya, bukan berarti CPU itu kalah atau sudah ketinggalan zaman. CPU tetaplah otak utama yang tak tergantikan untuk mengoordinasikan seluruh sistem operasi, mengatur penyimpanan, dan memproses logika sekuensial rumit yang menuntut fleksibilitas tinggi. Tanpa CPU yang tangguh, GPU bahkan tidak akan tahu instruksi apa yang harus dikerjakan.

Namun, untuk beban kerja komputasi AI modern yang menuntut miliaran perkalian matriks serentak dalam hitungan milidetik, rancangan paralelisme masif GPU dan pipa data memori super lebar menjadikannya jawara yang belum terkalahkan.

Memahami perbedaan arsitektur ini bukan cuma teori seru buat dipelajari, tapi juga ngebantu kita waktu memilih hardware, memilih format kuantisasi model (seperti GGUF atau AWQ), dan memahami batasan sistem saat kita sedang bereksperimen dengan AI di perangkat sendiri.