“Nvidia benar-benar ahli dalam menciptakan pasar baru,” kata CEO Nvidia Jensen Huang kepada CEO Goldman Sachs David Solomon pada konferensi teknologi yang diselenggarakan oleh bank investasi tersebut hari Rabu. Investor Nvidia dan pemangku kepentingan AI terus memperhatikan setiap kata-kata Huang sejak laporan laba Nvidia yang kurang menggembirakan (meskipun hanya jika dibandingkan dengan ledakan sebelumnya) pada bulan Agustus.
Meskipun chip Nvidia mungkin tampak ada di mana-mana saat ini, Huang mengatakan perusahaan harus menyebarkan ajaran komputasi berbasis GPU “satu industri pada satu waktu.” Bagian itu jelas bagi para investor, dengan banyak bukti dari pendapatan Nvidia yang sangat besar dan estimasi total pengeluaran infrastruktur AI Big Tech yang melampaui $1 triliun.
Solomon menanyakan pertanyaan yang mungkin paling penting dalam teknologi saat ini: Di manakah laba atas investasi dari semua investasi dalam infrastruktur AI ini?
Huang telah menjawab pertanyaan serupa sebelumnya, tetapi pada hari Rabu, ia memberikan lebih banyak matematika dalam tanggapan dua kali lipat.
Pertama, di era kecerdasan buatan generatif, kata Huang, penyedia cloud yang membeli unit pemrosesan grafis Nvidia (dan lainnya) dan menyewakannya ke perusahaan teknologi menghasilkan $5 untuk setiap $1 yang mereka belanjakan.
“Semuanya sudah terjual habis,” katanya. “Jadi permintaannya luar biasa.”
Kedua, ia menunjuk kepada pelanggan penyedia cloud tersebut, yang pada dasarnya menyewa waktu komputasi pada GPU. Jika perusahaan mengubah pekerjaan pemrosesan data tradisional menjadi metode komputasi yang dipercepat, kata Huang, biaya tambahannya mungkin berlipat ganda, tetapi pekerjaan akan selesai 20 kali lebih cepat. “Jadi Anda mendapatkan penghematan 10x,” kata Huang, seraya menambahkan: “Tidaklah aneh melihat ROI ini.”
Pusat data masa depan
Jawaban menyeluruh Huang terhadap pertanyaan kapan ROI AI akan terlihat jelas mendesak perusahaan untuk “mempercepat segalanya.”
“Setiap pemrosesan data dalam jumlah besar — Anda harus mempercepatnya,” katanya.
Huang mengatakan bahwa peningkatan pusat data yang ada ke “komputasi terakselerasi,” atau komputasi paralel yang dimungkinkan oleh GPU Nvidia dan chip AI lainnya, tidak dapat dihindari.
Dengan harga beberapa model yang mencapai jutaan, rak server Nvidia terdengar mahal, kata Huang, tetapi rak tersebut menggantikan “ribuan node” komputasi tradisional. Pusat data yang lebih kecil dan lebih padat dengan pendingin cair adalah masa depan, tambahnya.
Pusat data yang “dipadatkan” akan lebih hemat energi dan biaya, kata Huang, seraya menambahkan: “Itulah yang akan terjadi dalam 10 tahun ke depan.”
Harga saham Nvidia melonjak kurang dari satu jam setelah percakapan Huang dengan Solomon dimulai.
Bahkan jika klaim Nvidia bahwa komputasi AI lebih hemat energi adalah benar, ledakan AI diperkirakan akan memberi tekanan besar pada jaringan listrik.
Huang mengakui taruhannya tinggi bagi semua yang terlibat dalam ledakan itu.
“Permintaan sangat besar sehingga pengiriman komponen, teknologi, infrastruktur, dan perangkat lunak kami benar-benar emosional bagi orang-orang karena hal itu secara langsung memengaruhi pendapatan mereka,” kata Huang.