NVIDIA Siapkan Jaringan AI Super Cepat, Bisa Tangani Ratusan Ribu GPU

Bandar Lampung (Lampost.co) — Perkembangan kecerdasan buatan atau AI kini tidak lagi hanya soal chip super kencang. Di balik pelatihan model AI raksasa seperti chatbot dan generator gambar, ada satu hal penting yang mulai jadi sorotan: jaringan data super cepat.

Melihat kebutuhan AI yang terus melonjak, NVIDIA memperkenalkan teknologi baru bernama Spectrum-X Ethernet yang kini dibekali protokol Multipath Reliable Connection (MRC).

Teknologi ini diklaim mampu menjadi fondasi baru untuk pusat data AI generasi berikutnya karena menawarkan kecepatan tinggi, koneksi lebih stabil, dan efisiensi ekstrem saat menangani ribuan hingga ratusan ribu GPU sekaligus.

Kenapa Jaringan AI Jadi Sangat Penting?

Saat model AI semakin besar, jumlah data yang harus dipindahkan antar GPU juga meningkat drastis. Jika jaringan lambat atau terganggu, proses pelatihan AI bisa ikut melambat bahkan gagal.

Di sinilah MRC bekerja.

Teknologi ini dirancang agar lalu lintas data dapat berjalan melalui banyak jalur sekaligus secara bersamaan. Dengan metode multipath tersebut, sistem bisa menjaga transfer data tetap cepat dan stabil meski terjadi gangguan di salah satu jalur jaringan.

Bagi pusat data AI modern, kemampuan seperti ini sangat penting karena sinkronisasi antar GPU harus berjalan nyaris tanpa jeda.

MRC Bisa Kurangi Gangguan Saat Training AI

Salah satu keunggulan utama MRC adalah kemampuannya melakukan retransmisi cerdas saat terjadi kehilangan data.

Artinya, ketika ada jalur bermasalah, sistem dapat langsung mengalihkan data ke jalur lain tanpa menghentikan proses pelatihan AI.

NVIDIA menyebut Spectrum-X bahkan mampu melakukan bypass kegagalan hardware hanya dalam hitungan mikrodetik. Proses ini membuat downtime bisa ditekan seminimal mungkin.

Kemampuan tersebut sangat dibutuhkan untuk melatih model AI besar yang membutuhkan ribuan GPU bekerja bersamaan selama berhari-hari bahkan berminggu-minggu.

Bisa Menangani Ratusan Ribu GPU

Hal lain yang menarik dari Spectrum-X adalah desain multiplane network yang mendukung fabric independen.

Secara sederhana, desain ini memungkinkan jaringan AI diperluas ke skala sangat besar tanpa membuat performa turun drastis.

NVIDIA mengklaim sistem ini siap menangani infrastruktur dengan ratusan ribu GPU, sesuatu yang mulai dibutuhkan perusahaan teknologi besar untuk mengembangkan AI generasi terbaru.

OpenAI dan Microsoft Sudah Ikut Mengadopsi

Teknologi MRC ternyata tidak hanya menjadi proyek internal NVIDIA.

Pengembangannya juga melibatkan banyak perusahaan besar seperti AMD, Intel, Microsoft, hingga OpenAI.

Beberapa pusat data AI besar bahkan mulai memakai teknologi ini, termasuk fasilitas Fairwater milik Microsoft dan Abilene milik Oracle.

Kolaborasi tersebut menunjukkan bahwa kebutuhan jaringan AI kini menjadi fokus utama industri teknologi global.

Tidak Lagi Sekadar Soal GPU

Selama ini banyak orang menganggap perkembangan AI hanya bergantung pada GPU yang semakin kuat.

Padahal, tanpa jaringan yang mampu memindahkan data super cepat dan stabil, performa AI skala besar tidak akan maksimal.

Dengan hadirnya Spectrum-X dan MRC, persaingan teknologi AI kini mulai masuk ke level baru: bukan hanya adu chip tercepat, tetapi juga adu infrastruktur jaringan paling efisien untuk menopang era AI masa depan.