Nvidia Project DIGITS: Superkomputer AI Paling Ringkas dan Canggih
Nvidia kembali memamerkan kepimpinannya dalam pengembangan teknologi AI. Di CES 2025 Project DIGITS resmi diumumkan dan akan menjadi superkomputer paling ringkas dan canggih.
Spesifikasi Project DIGITS
Dalam mengembangkan AI LLM (Large Language Model) diperlukan sistem komputer yang sangat kencang untuk memroses jumlah data dalam skala besar.
Salah satu tolak ukur kemampuan LLM adalah jumlah parameter yang digunakan dalam pengembangannya. Model dengan jumlah parameter yang lebih besar umumnya memiliki kinerja yang lebih baik pada tes AI untuk penalaran dan pengetahuan.
Para pengembang AI pada umumnya kini menggunakan kartu grafis Nvidia RTX 4090 atau berlangganan layanan cloud GPU. Tapi, keduanya tetap ada keterbatasan. Penggunaan kartu grafis RTX 4090 ada keterbatasan di RAM yang membatasi pengembang LLM sekitar 30 miliar parameter. Sementara, langganan layanan cloud GPU diperlukan biaya yang tidak murah.
Untuk itulah Project DIGITS hadir sebagai solusi. Superkomputer ini ditenagai Superchip NVIDIA GB10 Grace Blackwell yang menawarkan kinerja komputasi AI sebesar satu petaflop. Jadi, pengguna bisa mengembangkan purwarupa, menyempurnakan dan menjalankan model AI besar secara efisien. Klaim Nvidia, satu unit Project Digits mampu menjalankan model hingga 200 miliar parameter.
Dikembangkan bersama dengan MediaTek
Superchip GB10 ini dikembangkan Nvidia bersama dengan pabrikan MediaTek. Chip tersebut terdiri dari GPU Nvidia Blackwell yang terhubung ke CPU 20-Core Nvidia Grace berasitektur ARM. Kinerjanya turut ditopang RAM 128GB dan ruang penyimpanan dengan kapasitas 4TB.
Kabar baiknya, pengguna dimungkinkan untuk menghubungkan dua sistem Project DIGITS untuk mendapatkan kemampuan yang lebih besar. Dua unit Project DIGITS diklaim mampu menjalankan model hingga 405 miliar parameter. Pengguna juga diijinkan untuk menghubungkan Project DIGITS ke PC dengan sistem operasi Windows atau Mac.
kelebihan Project DIGITS yang lain bisa memungkinkan pengembang untuk menjalankan dan menguji model AI di sistem lokal sebelum memindahkannya ke infrastruktur cloud atau pusat data, semuanya menggunakan arsitektur Grace Blackwell yang sama.
Project DIGITS juga bisa terintegrasi dengan mulus dengan perangkat lunak Nvidia AI Enterprise untuk penelitian dan produksi. Seperti misalnya PyTorch, Nvidia RAPIDS, NeMo, dan Jupyter notebooks. Jadi, bisa menyediakan dukungan yang komprehensif untuk eksperimen dan pembuatan prototipe. Cocok untuk para peneliti AI, ilmuwan data, dan mahasiswa yang fokus dalam pengembangan AI.
Ketersediaan Project DIGITS
Project DIGITS akan tersedia mulai tersedia di bulan Mei 2025 dengan harga mulai US$3.000. Harganya memang relatif mahal. Tapi, inilah solusi superkomputer AI dengan kinerja tinggi yang bisa diakses oleh berbagai kalangan pengguna untuk membantu pengembangan AI yang lebih mudah.
