Pesatnya perkembangan AI mendorong lonjakan kebutuhan pemrosesan token, serta meningkatkan tuntutan terhadap infrastruktur AI. Menurut Xia Qin, Chief Expert, Huawei Computing Strategy Planning, AIDC kini bergerak menuju arsitektur terintegrasi yang menyatukan komputasi, jaringan, dan penyimpanan, dengan energi sebagai fondasi utama. Sistem energi yang andal, efisien, dan dapat diterapkan dengan cepat akan membantu klaster komputasi AI berskala besar beroperasi secara stabil, serta menopang proses pelatihan dan inferensi berskala besar di era agentic AI.
Berbeda dari pusat data konvensional yang hanya memiliki interaksi terbatas dengan jaringan listrik, beban kerja AI dapat berubah dengan frekuensi tinggi dan berpotensi menimbulkan berbagai gangguan pada sistem kelistrikan, termasuk pemadaman listrik dan osilasi wideband yang tidak stabil. Josh Chen, Founder & Chairman, VNET Group, mengatakan, sumber listrik, kampus, dan bangunan dapat dirancang ulang agar saling terintegrasi dan mendukung satu sama lain, mulai dari koordinasi antarsumber listrik dan penjadwalan energi di dalam kampus hingga penyediaan listrik DC untuk bangunan. Pendekatan ini akan membentuk sistem kelistrikan baru yang terhubung langsung dengan sumber energi hijau dan microgrid aktif, serta memastikan pasokan listrik yang andal dan stabil bagi AIDC berkapasitas hingga tingkat GW.
Lin Hai, General Manager, Intelligent Computing Center, SenseCore Business Group di SenseTime, memaparkan perkembangan efisiensi komputasi AI SenseTime, dari PUE menuju TPW, dalam ajang tersebut. SenseCore mendorong perubahan pendekatan pengelolaan efisiensi di IDC, dari yang sebelumnya berfokus pada power usage effectiveness (PUE) menjadi pengukuran efisiensi terpadu yang berpusat pada token per watt. Pendekatan ini menghubungkan konsumsi listrik secara langsung dengan jumlah token yang dihasilkan, mencakup seluruh rantai mulai dari pembangkit dan jaringan listrik hingga layanan rak IDC, cloud computing, dan layanan model. Menurut Lin, metrik tersebut mencerminkan efisiensi inti dalam proses produksi AI. Melalui optimalisasi terpadu, SenseCore berhasil meningkatkan TPW sebesar 80%.
Dalam ajang HUAWEI CONNECT 2026, Huawei memamerkan solusi grid-interactive AIDC serta solusi inferensi AI terintegrasi untuk membangun fondasi komputasi yang andal, hemat energi, dan cepat diterapkan bagi infrastruktur klaster AI.