Bandar Lampung (Lampost.co) — NVIDIA kembali memperkuat posisinya sebagai pemimpin industri kecerdasan buatan (AI) global melalui arsitektur Blackwell. Arsitektur ini mencatat performa luar biasa dalam uji InferenceMAX v1 oleh SemiAnalysis. Hasil benchmark independen itu menempatkan Blackwell di puncak semua kategori kinerja. Juga menunjukkan efisiensi biaya komputasi untuk model AI populer di dunia nyata.
Salah satu hasil paling mencolok datang dari sistem GB200 NVL72, yang mencatat pengembalian investasi (ROI) hingga 15 kali lipat. Dengan modal sekitar USD5 juta, sistem ini mampu menghasilkan nilai token senilai USD75 juta. Hal ini menjadikannya solusi paling hemat biaya untuk skala pusat data AI (AI datacenter).
Efisiensi Biaya dan Performa Tinggi
GPU B200 yang menjadi tulang punggung arsitektur Blackwell juga menunjukkan peningkatan efisiensi yang signifikan. Optimalisasi perangkat lunak terbaru membuat biaya komputasi hanya USD0,02 per satu juta token. Ini sekitar lima kali lebih murah dibandingkan generasi sebelumnya.
Dari sisi performa, B200 mampu memproses hingga 60.000 token per detik per GPU, dengan interaktivitas 1.000 token per detik per pengguna melalui TensorRT-LLM. Inovasi seperti speculative decoding pada model gpt-oss-120b-Eagle3-v2 meningkatkan throughput. Hasilnya hingga 30.000 token per detik per GPU.
Untuk model padat seperti Llama 3.3 70B, Blackwell mencatat lebih dari 10.000 token per detik per GPU, atau empat kali lipat lebih cepat dari GPU H200. Efisiensi energi pun melonjak signifikan. Dengan throughput per megawatt meningkat 10 kali dan biaya per juta token turun 15 kali dibandingkan generasi sebelumnya.
Kunci Sukses: Sinergi Hardware dan Software
NVIDIA menjelaskan bahwa performa ini lahir dari pendekatan hardware-software codesign. Desain chip dan perangkat lunak dikembangkan secara bersamaan. Blackwell mengusung format presisi rendah NVFP4. Termasuk juga konektivitas NVLink generasi kelima (1.800 GB/s), serta dukungan ekosistem open-source seperti SGLang, vLLM, dan FlashInfer.
Menurut NVIDIA, hasil benchmark ini menjadi bukti bahwa dunia AI sedang beralih dari tahap eksperimen menuju era “AI factories” — sistem produksi data cerdas. Sistem ini mengubah informasi menjadi keputusan secara real-time. Dengan efisiensi energi, kecepatan, dan biaya yang dimiliki Blackwell, perusahaan kini memiliki pondasi kuat. Ini memungkinkan untuk mengelola operasi AI berskala besar secara berkelanjutan.
