Keberhasilan Nvidia terkait dengan pertumbuhan eksplosif dalam generasi token AI
Pendapatan Nvidia naik menjadi $ 44,1 miliar kuartal terakhir, namun salah satu metrik paling penting raksasa chip tidak memiliki tanda dolar di depannya.
“Openai, Microsoft, dan Google melihat fungsi langkah melompat dalam generasi token,” kata Nvidia CFO Colette Kress pada panggilan pendapatan Rabu perusahaan.
“Microsoft memproses lebih dari 100 triliun token di Q1, peningkatan lima kali lipat dari tahun ke tahun,” lanjutnya.
Sepanjang Mei, eksekutif teknologi terkemuka – banyak dari mereka juga beberapa pelanggan terbesar Nvidia – telah membual tentang pertumbuhan token mereka.
Meskipun agak sulit untuk dilacak dari luar perusahaan cloud AI atau perusahaan fondasi sendiri, token adalah unit dasar untuk mengukur input dan output AI.
Mereka termasuk piksel, segmen kata, atau audio. Tapi tidak peduli isinya, semua AI pecah menjadi token. Saat alat AI matang, jumlah token yang dihasilkan untuk output AI, atau inferensi, tumbuh lebih cepat dari yang diharapkan.
Ketika CEO Google Sundar Pichai mengatakan token bulanan yang diproduksi di seluruh produk Google telah meningkat dengan faktor 50 pada tahun lalu, audiens I/O Google terkesiap.
“Pertumbuhan token eksplosif adalah yang benar -benar penting, dalam jangka panjang,” tulis analis Morgan Stanley di depan panggilan pendapatan terbaru Nvidia, setelah itu harga saham Nvidia naik menjadi $ 134.
Mengapa token penting
Analis Forrester Alvin Nguyen menjelaskan bahwa itu bukan metrik yang sempurna, karena token dapat bervariasi dalam ukuran berdasarkan bentuk konten yang mereka wakili.
“Ini bukan cara yang jelas untuk membuat perbandingan apel-ke-apel, tetapi itu adalah yang paling dekat dengan standar yang kami miliki tanpa membutuhkan lebih banyak data dan analitik,” kata Nguyen.
CEO NVIDIA Jensen Huang melihat munculnya “token” dalam percakapan eksekutif teknologi top sebagai tanda bahwa alat AI memberikan nilai.
“Di mana perusahaan mulai berbicara tentang berapa banyak token yang mereka hasilkan kuartal terakhir dan berapa banyak token yang mereka hasilkan bulan lalu. Segera kita akan berbicara tentang berapa banyak token yang kami hasilkan setiap jam, seperti halnya setiap pabrik,” kata Huang di Computex di Taiwan minggu lalu.
Dengan pangsa pasarnya yang dominan, NVIDIA secara langsung mendapat manfaat dari hampir semua pertumbuhan token. Beberapa analis mengatakan permintaan tumbuh lebih cepat dari yang dapat ditangani oleh stok pusat data saat ini.
“Setiap hyperscaler telah melaporkan pertumbuhan token yang kuat yang tidak terduga,” tulis analis Morgan Stanley, menambahkan bahwa banyak bukti anekdotal dari permintaan inferensi yang lebih banyak daripada infrastruktur yang ada dapat mendukung memperkuat keyakinan mereka.
Masalah dengan token adalah bahwa tidak ada cara mudah untuk mengukur pertumbuhan mereka kecuali perusahaan melepaskan nomor. Tetapi aman untuk mengatakan bahwa ketika eksekutif berbagi indikasi permintaan untuk token, investor akan memperhatikan dengan seksama di masa mendatang.
