**Kecerdasan Buatan (AI) bukan lagi sekadar tren teknologi; AI kini menjadi bagian integral dari operasi bisnis, yang mengubah berbagai industri mulai dari kesehatan hingga keuangan. Analis industri merupakan sumber yang baik untuk memberikan panduan tentang bagaimana AI berkembang. Sebagai contoh, perusahaan analis yang fokus pada saluran, Canalys, baru-baru ini mengadakan Forum 2024 di Berlin, Jerman. Acara ini membahas berbagai topik, termasuk bagaimana teknologi dan solusi AI mendorong perubahan serta memperkenalkan beban kerja dan permintaan komputasi yang belum pernah terjadi sebelumnya yang sedang merombak infrastruktur pusat data. Menurut penelitian terbaru dari Canalys, AI akan menjadi peluang senilai $158 miliar untuk saluran industri.
Tantangan dan peluang AI ini dibahas dalam panel GenAI Build Out di acara Canalys. Dalam sesi tersebut, para pembicara, termasuk Christopher Parker, Direktur Penawaran IT dan Edge Vertiv untuk EMEA, mengeksplorasi bagaimana perusahaan beradaptasi dengan pusat data mereka untuk AI, dengan menyoroti baik keuntungan maupun kompleksitas yang terlibat.
“Merupakan pengalaman yang memuaskan bekerja dengan komunitas saluran untuk mewujudkan AI Perusahaan menjadi kenyataan yang kuat,” ujar Christopher. “Namun, ini akan membutuhkan pendidikan dan pelatihan di seluruh ekosistem, mulai dari definisi kasus penggunaan AI hingga desain infrastruktur pusat data pendukungnya.”
Christopher menekankan bahwa hal yang menarik bagi Vertiv adalah kemampuannya menyediakan arsitektur daya dan pendinginan untuk Komputasi Performa Tinggi (HPC)/Kepadatan Tinggi (HD) untuk solusi AI apapun menggunakan solusi pendinginan cair inovatifnya.
Bagaimana AI Mengubah Pusat Data
Menghadapi beban kerja AI membutuhkan evolusi dalam arsitektur pusat data, terutama dalam hal kebutuhan daya dan pendinginan. Sebuah studi Vertiv baru-baru ini menunjukkan bahwa rak IT tradisional, yang sebelumnya beroperasi dengan daya 5-10 kW, kini berkembang pesat untuk menangani beban kerja yang melebihi 40 kW per rak—bahkan melampaui 100 kW. Infrastruktur komputasi yang dipercepat dengan GPU, seperti chip NVIDIA H100, jauh lebih memerlukan daya dan menghasilkan panas lebih tinggi dibandingkan server konvensional. Misalnya, pada akhir tahun 2024, Meta akan menyebarkan 350.000 chip AI.
Untuk mengakomodasi pergeseran ini, pusat data perlu memperluas kapasitas daya di seluruh infrastruktur, dari grid hingga chip. Selain daya, sistem pendingin udara tradisional seringkali tidak cukup untuk perangkat keras AI. Chip AI membutuhkan kapasitas pendinginan yang lima kali lebih besar daripada server tradisional, mendorong industri untuk menambahkan teknologi pendinginan cair sebagai strategi pembuangan panas utama mereka. Pergeseran ini penting untuk memberikan manajemen panas yang efektif di lingkungan kepadatan tinggi ini.
Respon Vertiv terhadap Tren AI: Inovasi Daya dan Pendinginan
Untuk mengatasi meningkatnya permintaan daya dan pendinginan yang dibawa oleh komputasi yang dipercepat, solusi inovatif sangat dibutuhkan. Vertiv™ 360AI mencakup portofolio lengkap solusi daya, pendinginan, dan layanan yang mengatasi tantangan kompleks yang muncul akibat revolusi AI. Ini mencakup proyek percontohan sederhana, inferensi Edge, dan pabrik AI berskala besar.
Seiring permintaan AI terus meningkat, organisasi mengubah operasional mereka untuk mengadopsi konstruksi pusat data baru atau merancang ulang pusat data dengan teknologi yang ramah lingkungan, seperti pendinginan cair untuk server AI dan desain hemat energi terbaru.
Seiring dengan berkembangnya adopsi AI, teknologi pendinginan baru menjadi hal yang umum di pusat data:
- Pendinginan cair langsung ke chip: Piring dingin yang dipasang pada GPU dan komponen penghasil panas lainnya di dalam server mentransfer panasnya ke cairan. Cairan ini dipompa melalui rak IT untuk mentransfer panas ke loop cairan lain dan keluar dari pusat data. Metode ini secara efisien menangkap dan menghilangkan sebagian besar (biasanya 75% hingga 80%, terkadang hingga 95%) panas yang dihasilkan.
- Penukar panas pintu belakang: Panas residu yang dihasilkan oleh perangkat IT masih perlu dikeluarkan dari ruang data. Teknologi pendinginan udara tradisional seringkali menjadi pilihan yang layak, tetapi seiring dengan meningkatnya kepadatan, sistem kapasitas lebih tinggi seperti penukar panas pintu belakang sering menjadi alternatif penting yang perlu dipertimbangkan.
Seiring penyedia cloud dan kolokasi berkembang untuk memenuhi permintaan AI yang meningkat, pusat data mendiversifikasi investasi mereka dengan fokus pada solusi modular dan desain yang mempertimbangkan kebutuhan masa depan. Strategi untuk meningkatkan beban kerja AI seiring dengan pertumbuhan permintaan pasar dan beradaptasi dengan teknologi baru yang diluncurkan sangat penting untuk memastikan daya saing operator pusat data.
Selama panel acara Canalys, Christopher menyatakan bahwa baik data yang diperlukan untuk memberi makan model AI maupun kecerdasan di balik model-model itu sendiri adalah informasi sensitif. Banyak perusahaan tidak hanya menggandakan investasi dalam keamanan untuk menjaga agar aset-aset ini tetap aman, tetapi juga menerapkan solusi AI di tempat untuk menghindari memindahkan data mereka ke luar dinding perusahaan.
Meskipun permintaan pasar untuk solusi AI sangat kuat dan infrastruktur perangkat keras yang diperlukan tersedia, yang sering kali kurang adalah keahlian teknis: kemampuan konsultasi untuk menganalisis berbagai kasus penggunaan AI dan menyelaraskannya secara strategis dengan solusi yang tepat.
Untuk mengatasi kekurangan keahlian ini dan juga mempercepat implementasi AI, Vertiv telah mengembangkan serangkaian desain referensi antara 30 hingga 40 yang disesuaikan dengan berbagai kebutuhan infrastruktur AI, berdasarkan permintaan beban kerja. Ini mencakup solusi mulai dari sistem rak tunggal yang mengkonsumsi 100 kW hingga pengaturan berskala besar sebesar 500 kW dan bahkan 1-2 MW, dengan lebih banyak yang akan ditambahkan.
Desain referensi yang distandarisasi mencakup seluruh rentang beban IT, memungkinkan siklus penyebaran yang lebih cepat. Mereka mencakup elemen-elemen utama seperti distribusi daya, pendinginan cair, busbar, switchgear, dan solusi server yang telah dikonfigurasi sebelumnya—termasuk perangkat keras Dell dan chip NVIDIA—memungkinkan penyebaran yang lancar dan efisien.
Menavigasi Masa Depan Pusat Data yang Didorong oleh AI
Selama sesi Canalys GenAI Build Out, diklaim bahwa pada 2024 investasi melonjak dengan lebih dari 100% peningkatan pengiriman server AI, total mencapai 5 juta server yang mendukung AI prediktif dan 1 juta yang dikhususkan untuk AI generatif.
Seiring AI terus berkembang, penerapan komputasi berkepadatan tinggi dan HPC akan menjadi semakin umum. Pusat data harus beradaptasi untuk mengelola kebutuhan daya dan pendinginan yang berkembang dengan efektif.
Pembangunan infrastruktur sedang dipercepat untuk mempersiapkan pertumbuhan AI generatif dan prediktif. Sentimen mitra tentang AI tetap sangat tertarik—sebagian besar optimis, sementara yang lain masih berhati-hati karena beberapa tantangan yang harus diatasi.
Christopher menekankan bagaimana kinerja bisnis AI di ruang hiperskala sangat kuat dan telah memungkinkan industri untuk membangun pengalaman dan kompetensi dalam solusi AI, tetapi dia percaya bahwa untuk membuka potensi penuh di ruang AI memerlukan kedewasaan perusahaan yang lebih dalam yang selaras dengan saluran yang dioptimalkan, rantai pasokan, dan kolam bakat yang lebih luas.
Saat ini, permintaan perusahaan untuk solusi AI tumbuh dari basis yang kecil tetapi memiliki janji yang signifikan, memberikan insentif yang kuat untuk investasi dan pengembangan terus-menerus dalam instalasi AI.