Perkembangan Artificial Intelligence (AI) tidak hanya mendorong munculnya berbagai aplikasi baru. Di balik chatbot, Generative AI, AI agent, computer vision, dan model AI lainnya terdapat kebutuhan komputasi yang semakin besar.
Kondisi tersebut membuat pembangunan AI data center semakin banyak mendapat perhatian, termasuk di Indonesia.
Berbeda dengan data center yang umumnya menjalankan aplikasi, database, cloud, dan berbagai workload enterprise, AI data center dirancang untuk menangani kebutuhan komputasi AI yang jauh lebih intensif.
AI data center adalah pusat data yang dirancang atau dioptimalkan untuk menjalankan workload Artificial Intelligence dengan dukungan accelerated computing seperti GPU, jaringan berkecepatan tinggi, storage berperforma tinggi, serta sistem daya dan pendinginan yang mampu menangani kepadatan komputasi yang besar.
Kehadirannya menjadi semakin penting karena kemampuan AI pada akhirnya sangat bergantung pada satu hal mendasar: compute.
Apa Itu AI Data Center?
AI data center pada dasarnya tetap merupakan data center, yaitu fasilitas yang menyediakan infrastruktur komputasi, jaringan, penyimpanan data, daya, dan sistem pendukung untuk menjalankan layanan digital.
Perbedaannya terletak pada jenis workload yang harus ditangani.
Data center tradisional banyak dirancang untuk menjalankan aplikasi bisnis, website, database, email, cloud computing, maupun sistem enterprise berbasis CPU.
Sementara itu, workload AI membutuhkan kemampuan melakukan banyak perhitungan secara paralel dalam jumlah sangat besar.
Karena itu, AI data center biasanya menggunakan accelerated computing seperti Graphics Processing Unit atau GPU dalam skala yang jauh lebih besar.
GPU yang awalnya banyak dikenal untuk kebutuhan grafis memiliki kemampuan parallel processing yang membuatnya cocok untuk berbagai proses AI, mulai dari training hingga inference.
Namun, menambahkan GPU saja tidak otomatis membuat sebuah data center menjadi AI-ready.
Infrastruktur jaringan, storage, listrik, cooling, hingga software pengelolaan workload juga perlu dirancang agar mampu mendukung performa komputasi tersebut secara bersamaan. NVIDIA menjelaskan AI infrastructure sebagai stack terintegrasi yang mencakup accelerated compute, high-bandwidth networking, storage, power, cooling, dan orchestration untuk menjalankan workload AI dalam skala besar.
Apa Perbedaan AI Data Center dan Data Center Biasa?
Perbedaan terbesar berada pada intensitas komputasinya.
Pada workload enterprise biasa, satu server dapat menjalankan berbagai aplikasi menggunakan CPU dengan pola kerja yang relatif umum.
AI memiliki karakter yang berbeda.
Model AI modern harus melakukan sangat banyak operasi matematis dalam waktu singkat. Ketika ukuran model dan jumlah pengguna meningkat, proses tersebut dapat melibatkan puluhan, ratusan, bahkan ribuan accelerator yang bekerja secara bersamaan.
Akibatnya, kebutuhan infrastrukturnya ikut berubah.
AI data center membutuhkan komputasi yang lebih padat, jaringan dengan bandwidth tinggi dan latency rendah, storage yang mampu memasok data dengan cepat, serta daya dan cooling yang mampu menopang accelerator yang terus bekerja.
Artinya, perbedaannya bukan hanya:
CPU vs GPU.
Perbedaannya adalah bagaimana seluruh infrastruktur data center dirancang agar compute, network, storage, power, dan cooling bekerja sebagai satu sistem untuk menjalankan AI.
Mengapa AI Membutuhkan GPU?
CPU merupakan prosesor serbaguna yang sangat penting dalam hampir seluruh sistem komputer.
Namun, workload AI membutuhkan banyak operasi yang dapat dijalankan secara paralel.
GPU memiliki banyak processing core yang memungkinkan sejumlah besar perhitungan dilakukan secara bersamaan.
Kemampuan tersebut membuat GPU banyak digunakan untuk menjalankan neural network dan Large Language Model.
Ketika sebuah model AI dilatih, GPU digunakan untuk melakukan perhitungan terhadap data dalam jumlah sangat besar.
Setelah model digunakan oleh pengguna, GPU juga dapat menjalankan proses inference, yaitu ketika model menerima input kemudian menghasilkan prediksi, respons, gambar, atau output lainnya.
Semakin besar model dan semakin banyak pengguna, semakin besar pula kebutuhan komputasinya.
Karena itulah pertumbuhan AI ikut mendorong meningkatnya permintaan terhadap GPU dan infrastruktur data center yang mampu menjalankannya.
Training dan Inference: Dua Workload Besar dalam AI
Untuk memahami kebutuhan AI data center, penting membedakan training dan inference.
AI Training
Training adalah proses ketika model AI belajar dari sejumlah besar data.
Proses ini dapat membutuhkan computing power yang sangat besar karena model harus melakukan perhitungan berulang untuk menyesuaikan parameter di dalamnya.
Training model besar dapat berlangsung berhari-hari atau lebih lama dengan melibatkan banyak GPU secara bersamaan.
AI Inference
Inference terjadi setelah model sudah tersedia dan digunakan untuk menghasilkan output.
Ketika pengguna memberikan prompt kepada chatbot AI, meminta sistem mengenali sebuah gambar, atau menjalankan AI agent, model melakukan inference.
Satu permintaan inference mungkin terlihat sederhana.
Namun ketika jutaan permintaan dilakukan secara bersamaan, kebutuhan infrastrukturnya dapat menjadi sangat besar.
Karena AI semakin banyak masuk ke aplikasi sehari-hari, kebutuhan inference juga menjadi salah satu pendorong penting pertumbuhan infrastruktur AI.
Mengapa AI Data Center Membutuhkan Listrik yang Besar?
GPU berperforma tinggi membutuhkan daya yang besar.
Ketika ratusan atau ribuan GPU ditempatkan dalam satu fasilitas, konsumsi listrik meningkat secara signifikan.
Selain menjalankan server, data center juga membutuhkan energi untuk sistem cooling, networking, storage, power distribution, dan berbagai infrastruktur pendukung lainnya.
Karena itu, ketersediaan energi menjadi salah satu faktor penting dalam pembangunan AI data center.
Indonesia Investment Authority pada September 2026 menilai meningkatnya permintaan komputasi AI membuka peluang investasi AI data center di Indonesia, dengan ketersediaan energi menjadi salah satu faktor utama yang dipertimbangkan investor.
Isu energi juga bukan hanya mengenai jumlah pasokan listrik.
Reliability, efisiensi, sumber energi, biaya, serta kemampuan meningkatkan kapasitas akan memengaruhi keberlanjutan sebuah AI data center.
Mengapa Cooling Menjadi Tantangan?
Listrik yang digunakan oleh GPU pada akhirnya juga menghasilkan panas.
Semakin tinggi kepadatan komputasi dalam sebuah rack, semakin besar panas yang harus dikelola.
Data center tradisional banyak menggunakan pendinginan berbasis udara.
Namun, peningkatan densitas AI membuat metode cooling yang lebih maju semakin dibutuhkan.
Salah satu pendekatan yang berkembang adalah liquid cooling, yaitu penggunaan cairan untuk membantu menyerap dan memindahkan panas dari komponen berperforma tinggi.
Liquid cooling menjadi semakin relevan karena rack AI dapat memiliki power density yang jauh lebih tinggi dibandingkan rack server tradisional. Infrastruktur AI modern karena itu perlu melihat cooling sebagai bagian dari desain sistem komputasi, bukan hanya fasilitas pendukung.
Jaringan dan Storage Juga Sama Pentingnya
Memiliki banyak GPU tidak akan banyak membantu jika GPU tersebut tidak dapat bertukar data dengan cepat.
Dalam training maupun inference skala besar, accelerator sering bekerja secara bersama-sama.
Karena itu, AI data center membutuhkan jaringan dengan bandwidth tinggi dan latency rendah agar komunikasi antar-GPU dan antar-server tidak menjadi bottleneck.
Storage juga memiliki peran penting.
Model AI bekerja dengan dataset, model weights, embeddings, checkpoint, serta berbagai informasi lain yang dapat berukuran sangat besar.
Data tersebut harus dapat dipindahkan antara storage dan sistem komputasi dengan cepat.
Inilah alasan AI infrastructure sering dipahami sebagai full stack, bukan hanya kumpulan server GPU.
Apa Itu AI Factory?
Istilah lain yang semakin sering muncul adalah AI Factory.
AI Factory memiliki cakupan yang lebih luas dibanding hanya menyediakan ruang dan infrastruktur untuk server AI.
Konsep ini melihat data center dan accelerated computing sebagai sebuah sistem yang mengubah data menjadi intelligence.
Di dalamnya terdapat compute, GPU, networking, storage, data pipeline, model, software, orchestration, hingga workload management.
Secara sederhana:
data masuk → diproses oleh AI infrastructure → model bekerja → intelligence dihasilkan → intelligence digunakan oleh aplikasi.
Kementerian Komunikasi dan Digital pada Agustus 2026 menggambarkan AI Factory sebagai infrastruktur komputasi berkapasitas besar yang mengintegrasikan AI-ready data center, GPU, networking, storage, GPU-as-a-Service, orchestration, serta workload management secara end-to-end.
Karena itu, AI Factory dapat dipahami sebagai evolusi dari infrastruktur data center menuju sistem yang memang dirancang untuk memproduksi dan menjalankan intelligence dalam skala besar.
Mengapa AI Data Center Sedang Berkembang di Indonesia?
Ada dua perkembangan yang terjadi secara bersamaan.
Pertama, penggunaan layanan digital dan cloud di Indonesia terus meningkat.
Kedua, perkembangan AI menciptakan jenis kebutuhan komputasi baru yang jauh lebih intensif.
Pemerintah Indonesia juga mulai menempatkan compute infrastructure sebagai salah satu fondasi penting untuk meningkatkan daya saing AI nasional. Komdigi menilai persaingan AI tidak lagi hanya terjadi di level aplikasi, tetapi juga pada energi, data center, chip, computing, dan talenta.
Investasi data center pun terus berkembang.
Pada Juni 2026, Princeton Digital Group memulai pengembangan JC4 Data Center di Bekasi dengan kapasitas 240 MW, sehingga total kapasitas PDG yang direncanakan di Indonesia mencapai sekitar 400 MW.
Pada Agustus 2026, pemerintah juga menyambut inisiatif pembangunan AI Factory yang ditargetkan memiliki kapasitas hingga 1 GW dalam tiga tahun.
Perkembangan tersebut menunjukkan bahwa pertumbuhan AI di Indonesia mulai diikuti dengan pembangunan fondasi komputasi yang dibutuhkan untuk menjalankannya.
AI Data Center dan Sovereign AI
AI data center juga memiliki hubungan erat dengan pembahasan Sovereign AI.
AI membutuhkan computing power.
Jika suatu negara atau organisasi tidak memiliki akses yang memadai terhadap compute, kemampuan mengembangkan dan menjalankan AI akan sangat bergantung pada infrastruktur pihak lain.
Karena itu, kedaulatan AI tidak hanya berbicara tentang model dan data.
Infrastruktur komputasi juga menjadi bagian penting.
Secara sederhana, sebuah ekosistem AI dapat dilihat sebagai beberapa lapisan:
energy → data center & compute → model & platform → application → business value.
Setiap lapisan bergantung pada fondasi di bawahnya.
Memiliki AI data center tidak otomatis membuat suatu negara memiliki Sovereign AI.
Namun tanpa compute infrastructure yang memadai, kemampuan untuk mengembangkan AI secara lebih mandiri juga menjadi terbatas.
Karena itu, pembangunan data center, GPU infrastructure, jaringan, energi, model, platform, talenta, dan governance perlu dilihat sebagai bagian dari ekosistem yang saling terhubung.
Peran NeutraDC dalam Infrastruktur AI Telkom
Di TelkomGroup, layer data center dijalankan salah satunya melalui NeutraDC, operating company Telkom yang berfokus pada bisnis data center dan digital infrastructure.
Seiring meningkatnya kebutuhan AI, NeutraDC juga memperluas kesiapan infrastrukturnya untuk menangani workload berbasis accelerated computing.
Pada September 2026, NeutraDC mengumumkan rencana pengembangan AI data center hingga 1 GW yang mencakup Batam, Jabodetabek, Jawa, dan Manado.
Infrastruktur tersebut juga diperkuat oleh 26 edge data center di 21 kota untuk mendukung pemerataan kemampuan komputasi nasional.
Sebelumnya, pengembangan Hyperscale Data Center di Cikarang juga diarahkan menuju kapasitas hingga 200 MW untuk menjawab pertumbuhan kebutuhan AI, cloud, dan ekonomi digital.
Namun, menyediakan computing power baru merupakan fondasi awal.
Compute tersebut masih perlu dihubungkan dengan model, developer, use case, talenta, dan solusi agar dapat menghasilkan manfaat nyata.
Dari AI Infrastructure menuju Telkom AI Center of Excellence
AI dapat dianalogikan sebagai sebuah bangunan berlapis.
AI data center menyediakan fondasi komputasi.
Di atasnya terdapat model dan platform yang memungkinkan developer mengakses kemampuan AI.
Kemampuan tersebut kemudian digunakan untuk membangun aplikasi dan solusi yang menjawab kebutuhan manusia maupun bisnis.
Dalam ekosistem Telkom, pengembangan pemanfaatan AI juga diperkuat melalui Telkom AI Center of Excellence, yang menghubungkan pengembangan talenta, kolaborasi, eksplorasi teknologi, implementasi solusi, hingga adopsi AI dalam organisasi.
Telkom AI Center of Excellence dijalankan melalui lima pilar utama: AI Campus, AI Connect, AI Playground, AI Hub, dan AI Native.
AI Campus menghubungkan akademisi dan industri untuk pengembangan talenta, riset, serta inovasi AI.
AI Connect membangun ruang kolaborasi antara talenta, bisnis, partner, pemerintah, akademisi, dan komunitas untuk memperluas adopsi AI.
AI Playground menyediakan lingkungan untuk mengeksplorasi model, mengembangkan AI agent, menggunakan API, dan menguji use case AI.
AI Hub membawa capability dan eksperimen AI menuju solusi yang dapat digunakan untuk menjawab kebutuhan bisnis serta industri.
Sementara AI Native mendorong AI menjadi bagian dari cara kerja Telkom sehari-hari sekaligus menjadi ruang penerapan dan validasi capability AI di lingkungan internal.
Hubungan tersebut menunjukkan bahwa pembangunan ekosistem AI membutuhkan lebih dari sekadar fasilitas data center.
Compute menyediakan kemampuan. Talenta, platform, use case, dan solusi mengubah kemampuan tersebut menjadi manfaat.
AI Playground: Menghubungkan Compute dengan Model dan Use Case
Dalam konteks AI data center, salah satu pilar Telkom AI Center of Excellence yang memiliki hubungan paling dekat dengan layer komputasi adalah AI Playground.
AI Playground berfungsi sebagai operating layer yang membantu developer dan product team mengeksplorasi teknologi AI tanpa harus berhadapan langsung dengan kompleksitas seluruh infrastruktur di bawahnya.
Melalui capability seperti ModelHub, tim dapat menemukan, membandingkan, mencoba, dan menggunakan berbagai model AI berdasarkan kebutuhan.
Akses terhadap model tersebut kemudian dapat digunakan untuk membangun aplikasi, mengembangkan AI agent, melakukan eksperimen, atau menguji sebuah use case sebelum masuk ke implementasi yang lebih luas.
Hubungan ini penting karena pengguna AI tidak selalu perlu mengetahui di server atau GPU mana sebuah workload berjalan.
Yang dibutuhkan developer adalah akses terhadap capability AI yang mudah digunakan, dapat dikelola, dan sesuai dengan kebutuhan workload.
Di sinilah infrastructure layer dan platform layer bertemu.
AI data center menyediakan compute.
AI Playground membantu mengubah compute tersebut menjadi capability yang dapat digunakan untuk bereksperimen dan membangun solusi.
Dari Compute menuju Business Value
Memiliki GPU dalam jumlah besar bukan tujuan akhir pembangunan infrastruktur AI.
Nilainya baru muncul ketika computing power tersebut digunakan untuk menjalankan model, membangun aplikasi, menyelesaikan masalah, dan memberikan manfaat.
Sebuah GPU cluster dapat digunakan untuk melatih model AI.
Model kemudian dapat tersedia melalui platform.
Developer menggunakannya untuk membangun aplikasi.
Use case diuji.
Solusi diimplementasikan.
Pengguna akhirnya memperoleh manfaat.
Alurnya dapat dipahami secara sederhana:
energy → AI data center → compute → model → platform → application → solution → business value.
Semakin matang setiap lapisan, semakin besar kemampuan sebuah ekosistem untuk mengembangkan dan menggunakan AI secara mandiri.
AI Data Center Bukan Sekadar Gedung Berisi GPU
Ramainya pembangunan data center menunjukkan bahwa persaingan AI tidak hanya berlangsung pada aplikasi yang terlihat oleh pengguna.
Ada lapisan infrastruktur besar yang bekerja di belakangnya.
AI membutuhkan GPU.
GPU membutuhkan jaringan dan storage.
Seluruh sistem tersebut membutuhkan listrik dan cooling.
Model membutuhkan platform.
Developer membutuhkan akses terhadap model.
Dan bisnis membutuhkan solusi yang memberikan hasil nyata.
Karena itu, AI data center sebaiknya dipahami bukan sekadar sebagai gedung yang berisi banyak GPU, tetapi sebagai salah satu fondasi dari rantai nilai AI yang lebih luas.
Bagi Indonesia, perkembangan AI data center membuka peluang untuk memperkuat kapasitas komputasi nasional sekaligus mendukung pertumbuhan cloud, AI, dan ekonomi digital.
Namun, infrastructure saja tidak cukup.
Nilai terbesarnya akan muncul ketika kapasitas tersebut terhubung dengan talenta, model, platform, developer, use case, dan solusi.
Di titik itulah pembangunan AI infrastructure dapat bergerak dari sekadar menyediakan compute menjadi menghasilkan impact.
Pertanyaan Umum tentang AI Data Center
Apa itu AI data center?
AI data center adalah pusat data yang dirancang atau dioptimalkan untuk menjalankan workload Artificial Intelligence dengan dukungan accelerated computing seperti GPU, high-speed networking, storage berperforma tinggi, serta sistem daya dan cooling yang sesuai.
Apa perbedaan AI data center dan data center biasa?
Data center konvensional banyak menjalankan workload general-purpose seperti aplikasi, database, cloud, dan sistem enterprise. AI data center dioptimalkan untuk workload AI yang membutuhkan parallel computing, GPU dalam jumlah besar, jaringan berkecepatan tinggi, serta power dan cooling dengan densitas lebih tinggi.
Mengapa AI membutuhkan GPU?
GPU mampu menjalankan banyak operasi secara paralel. Kemampuan ini sangat sesuai untuk proses matematis dalam training dan inference model Artificial Intelligence.
Mengapa AI data center membutuhkan listrik besar?
GPU dan accelerated computing memiliki kebutuhan daya yang tinggi. Selain server, data center juga membutuhkan listrik untuk jaringan, storage, cooling, dan berbagai sistem pendukung lainnya.
Apa itu AI Factory?
AI Factory adalah infrastructure stack yang dirancang untuk menjalankan seluruh lifecycle AI, mulai dari data, accelerated computing, model, hingga inference dan deployment dalam skala besar.
Apakah Indonesia memiliki AI data center?
Indonesia telah memiliki dan sedang mengembangkan berbagai data center yang ditujukan untuk mendukung workload AI. Sejumlah operator juga sedang meningkatkan kapasitas AI-ready infrastructure seiring meningkatnya kebutuhan komputasi di Indonesia.
Apa hubungan AI data center dengan Sovereign AI?
AI data center menyediakan computing infrastructure yang menjadi salah satu fondasi Sovereign AI. Namun Sovereign AI memiliki cakupan lebih luas yang juga mencakup data, model, platform, talenta, aplikasi, operasional, dan governance.