Nvidia’s Blackwell Chips Double AI Training Speed, MlCommons Benchmark Show

Chip Blackwell terbaru NVIDIA telah secara signifikan memajukan pelatihan sistem kecerdasan buatan yang besar, secara dramatis mengurangi jumlah chip yang diperlukan untuk melatih model bahasa besar -besaran, data baru yang dirilis Rabu menunjukkan.Hasilnya, yang diterbitkan oleh MLCommons, sebuah organisasi nirlaba yang mengeluarkan hasil kinerja benchmark untuk sistem AI, peningkatan detail di seluruh chip dari NVIDIA dan Advanced Micro Devices (AMD), antara lain, Reuters melaporkan. Benchmark fokus pada pelatihan AI – fase di mana sistem belajar dari kumpulan data yang luas – yang tetap menjadi perbatasan kompetitif utama meskipun fokus pasar yang semakin besar pada inferensi AI, atau menanggapi pertanyaan pengguna.Salah satu temuan utama adalah bahwa Nvidia dan mitranya adalah satu-satunya yang mengirimkan data untuk melatih model skala besar seperti LLAMA 3.1 405B, sistem AI open-source dari platform meta dengan triliunan parameter. Model ini cukup kompleks untuk menekankan chip modern dan mengekspos kemampuan pelatihan mereka yang sebenarnya.Menurut data, chip Blackwell baru NVIDIA lebih dari dua kali lebih cepat per chip dari chip hopper generasi sebelumnya. Dalam hasil tercepat, sekelompok 2.496 chip Blackwell menyelesaikan tugas pelatihan hanya dalam 27 menit. Sebaliknya, lebih dari tiga kali jumlah chip hopper diperlukan untuk mencocokkan atau lebih baik kinerja itu.Pada konferensi pers, Chetan Kapoor, Chief Product Officer di Coreweave – yang berkolaborasi dengan NVIDIA pada tes benchmark – menyoroti tren industri yang lebih luas.“Menggunakan metodologi seperti itu, mereka dapat terus mempercepat atau mengurangi waktu untuk melatih sebagian dari ukuran model parameter multi-triliun yang gila ini,” kata Kapoor, merujuk pada pergeseran dari sistem monolitik besar ke infrastruktur pelatihan modular yang terdiri dari kelompok chip yang lebih kecil.Hasil patokan menggarisbawahi dominasi Nvidia di ruang pelatihan AI, bahkan ketika saingan seperti China Deepseek mengklaim kinerja kompetitif dengan chip yang lebih sedikit. Ketika perlombaan untuk memberi daya pada sistem AI yang semakin besar meningkat, efisiensi chip dalam tugas pelatihan tetap menjadi metrik yang kritis.