NVIDIA GTC 2025: Solusi berani dibutuhkan untuk mengubah cara lama dalam merancang pusat data agar dapat mendukung gelombang baru dari AI factories.
Seiring meningkatnya skala, kompleksitas, dan intensitas beban kerja AI, kebutuhan akan infrastruktur daya dan pendingin yang padat, mudah diskalakan, dan cepat diterapkan menjadi sangat penting. Namun, tantangan seperti ketersediaan daya, keterlambatan perizinan, peningkatan kepadatan infrastruktur, dan kebutuhan solusi khusus AI dapat menghambat kemajuan.
Para ahli dari Vertiv, NVIDIA, dan Prometheus Hyperscale membahas bagaimana gelombang berikutnya dari AI factories akan membutuhkan pendekatan baru dalam desain pusat data, dalam sebuah sesi di NVIDIA GTC 2025 di San Jose, California.
Greg Stover, Direktur Pengembangan Bisnis, Vertiv:
Bisa jelaskan soal densifikasi dan skalabilitas yang sedang terjadi di Vertiv?
Martin Olsen, Wakil Presiden Strategi Produk Global, Vertiv:
“Selama ini, distribusi daya, sistem pendingin, dan struktur penopang dirancang untuk peningkatan kepadatan komputasi yang bertahap dan dapat diprediksi. Tapi sekarang, beban kerja AI yang begitu cepat mempercepat peningkatan kepadatan komputasi dengan sangat drastis. Bayangkan seperti densifikasi dikalikan skala pangkat dua.
Kalau sebelumnya satu rak butuh daya 20-25 kW, sekarang bisa melonjak jadi 80 hingga 130 kW. Ini jelas melampaui kemampuan sistem MEP (Mechanical, Electrical, Plumbing) tradisional. Solusinya? Mulai pertimbangkan sistem yang dirakit secara prefab—pembuatan dilakukan di pabrik, bukan di lapangan—untuk menghasilkan solusi yang cepat, konsisten, dan berkualitas tinggi. Desain modular seperti AI Hub dari Vertiv memungkinkan kombinasi kecepatan, fleksibilitas, dan kualitas, terutama saat tenggat semakin ketat.”
Greg:
Ceritakan tentang teknologi NVIDIA yang memengaruhi infrastruktur digital saat ini.
Wade Vincent, Chief Data Center Distinguished Engineer, NVIDIA:
“Komunikasi antar GPU sangat penting. Peningkatan performa per watt dan per dolar hanya efektif jika interkoneksinya tetap dalam satu rak—dengan koneksi tembaga. Jadi, yang dulu kita sebut data center, kini lebih cocok disebut AI factory.
Kami ingin mengadopsi infrastruktur yang memungkinkan penggunaan daya secara maksimal. Misalnya, dari sebuah lokasi 10 megawatt, kami ingin bisa mengalokasikan 8 hingga 9,5 megawatt-nya langsung ke TI, bahkan memanfaatkan kembali panas buangannya. Kolaborasi antara TI dan fasilitas fisik jadi kunci karena permintaan daya dan pendingin semakin tinggi.”
Greg:
Anda terlibat dalam proyek desain di Texas A&M University. Apa tantangan awalnya?
John Gross, CTO, Prometheus Hyperscale:
“Sekarang ini seperti perlombaan kecepatan—seberapa cepat kita bisa membangun dan menjalankan semuanya. Di Texas A&M, kami mengubah bangunan bekas komersial menjadi ruang data hall untuk kluster H200. Tapi ada kendala: pasokan daya dari utilitas belum tersedia.
Akhirnya kami pakai sumber daya sementara dulu sampai transformator permanen tersedia. Namun, yang harus kita waspadai sebagai industri adalah jangan sampai mentalitas ‘kejar cepat’ ini membuat kita membangun aset yang nanti kita sesali. Kecepatan memang penting, tapi perencanaan dan kolaborasi tetap harus jadi prioritas agar infrastruktur tidak kaku atau jadi mubazir.”
Greg:
Apa pesan utama untuk para profesional pusat data di tahun 2025?
Wade Vincent, NVIDIA:
“Kita perlu beradaptasi bersama dengan infrastruktur yang bisa terus dimanfaatkan tanpa harus mengganti seluruh sistem lama yang sudah 15 tahun. Dari lokasi 10 megawatt, bisa kita maksimalkan ke 8 atau 9,5 megawatt untuk beban TI, dan memanfaatkan limbah panasnya. Ke depan, kita akan melihat kolaborasi TI dan fasilitas yang makin menyatu.”
John Gross, Prometheus Hyperscale:
“Yang penting adalah jangan menjadikan ‘kecepatan ke pasar’ sebagai alasan untuk membangun aset yang menimbulkan penyesalan di masa depan. Strategi yang bertanggung jawab bisa tetap cepat, tapi tetap fleksibel.”
Martin Olsen, Vertiv:
“Kita perlu memandang sistem daya dan pendingin sebagai satu kesatuan, termasuk kontrol dan perangkat lunaknya. Semua itu harus bekerja sebagai satu unit komputasi yang terintegrasi. Di Vertiv, kami berusaha membantu melalui AI Hub—di sana kami punya referensi desain yang dikembangkan bersama NVIDIA dan para pelanggan kami.”
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan liebert Indonesia, Anda bisa mendapatkan solusi IT lengkap yang sesuai dengan kebutuhan Anda. iLogo Indonesia sebagai mitra terpercaya siap mengintegrasikan semuanya agar bisnis Anda tetap berjalan lancar dan aman.
Hubungi kami sekarang atau kunjungi liebert.ilogoindonesia.id untuk informasi lebih lanjut!