Arm AGI CPU Catat Keunggulan 1,99 Kali atas AMD di Rak AI

PANGKALPINANG — Bagi operator pusat data yang kapasitas listriknya terbatas, jumlah pekerjaan AI yang bisa ditangani dalam satu rak bisa menentukan kebutuhan infrastruktur. Dalam penilaian Signal65 yang bekerja sama dengan Arm, Arm AGI CPU mencatat kinerja rak yang dimodelkan rata-rata 1,99 kali dibandingkan AMD EPYC 9755 pada tujuh beban kerja AI agentik.

Namun, angka itu belum berasal dari pengujian akhir pada perangkat produksi. Penilaian mengukur hasil prosesor, lalu memperkirakan kinerja sejumlah server dalam rak dengan batas daya tetap. Karena itu, hasilnya memberi gambaran potensi, bukan kepastian bahwa seluruh pusat data berbasis Arm akan mengungguli sistem x86.

Arm AGI CPU diuji pada beban kerja AI agentik

Signal65 menguji pekerjaan yang melibatkan penggunaan alat perangkat lunak, pelaksanaan tugas secara mandiri, pencarian informasi, serta dukungan untuk menjalankan model AI. Pengujian mencakup Terminal-Bench 2 dan SWE-bench. Rentang hasil Arm dibanding AMD berada pada 1,43 hingga 3,19 kali, dengan rata-rata 1,99 kali.

Keunggulan yang dilaporkan tidak hanya berkaitan dengan hasil prosesor dalam satu sistem. Perhitungan juga memasukkan konsumsi daya server, sebab batas listrik menentukan berapa banyak mesin yang dapat ditempatkan dalam satu rak. Dalam skenario rak 24 kW, model memperkirakan kapasitas 21 hingga 23 server Arm AGI CPU, dibandingkan 13 sistem AMD EPYC 9755 dengan dua soket.

Dengan konfigurasi itu, jumlah inti fisik Arm diperkirakan mencapai 5.712 hingga 5.888, sedangkan sistem AMD memiliki 3.328 inti. Perbandingan tersebut bergantung pada asumsi daya yang digunakan dalam pemodelan. Arm mencatat konsumsi daya servernya berkisar 950 hingga 1.050 watt, sementara konfigurasi AMD dua soket memiliki konsumsi tertera 1.700 watt.

Kapasitas per rak jadi taruhan bagi pusat data

Untuk perusahaan yang menjalankan layanan AI, dampak praktisnya berkaitan dengan seberapa banyak pekerjaan bisa ditampung tanpa menambah alokasi listrik. Jika perkiraan itu terwujud dalam penggunaan nyata, operator berpeluang menjalankan lebih banyak beban kerja pada kapasitas daya rak yang sama.

Namun, itu belum otomatis berarti biaya operasional lebih rendah: bahan yang tersedia tidak merinci biaya pembelian perangkat, kebutuhan pendinginan, ataupun ongkos migrasi.

Keunggulan model rak juga berbeda menurut jenis pekerjaan. Arm mencatat rata-rata 1,7 kali untuk penggunaan alat, 2,0 kali pada alur kerja agentik, serta 2,2 kali untuk penalaran dan perencanaan. Laporan itu memperkirakan operasi basis data dan pencarian vektor dapat membutuhkan 30% hingga 35% lebih sedikit rak untuk beban pemrosesan yang setara.

Angka tersebut relevan karena agen AI dapat menjalankan kode, mengakses layanan, dan memproses informasi dalam rangkaian tugas. Setiap pekerjaan bisa membutuhkan lingkungan eksekusi tersendiri. Jika mesin menyiapkannya lebih cepat, jeda dalam alur kerja dapat berkurang—meski manfaatnya tetap bergantung pada aplikasi dan kondisi penerapan.

Hasil pengujian belum menjawab semua kebutuhan

Dalam pengujian terpisah menggunakan Sandbench, Arm dibandingkan dengan AMD EPYC 9965 untuk mengukur waktu menyiapkan lingkungan eksekusi terisolasi. Arm menyelesaikan cold start 45% lebih cepat dan warm start 27% lebih cepat. Dalam skenario terburuk dengan oversubscription empat kali lipat, hasilnya 41% lebih cepat.

Pengujian itu memberi petunjuk tentang satu bagian dari pekerjaan AI agentik, bukan ukuran menyeluruh untuk seluruh aplikasi. Hasilnya tidak membuktikan peningkatan yang sama pada semua perangkat lunak ataupun seluruh penerapan pusat data. Kecocokan perangkat lunak, biaya penerapan, dan kondisi operasi tetap memengaruhi keputusan perusahaan.

Arm menyusun kerangka evaluasinya dengan dukungan Fujitsu, Meta, dan OpenAI. Signal65 secara independen memverifikasi hasil prosesor yang dilaporkan. Arm juga menyatakan pengujian tambahan akan mencakup sistem produksi final, beban kerja lain, dan perbandingan dengan pesaing.

Arm Executive Vice President untuk Cloud AI, Mohamed Awad, mengatakan, “The industry needs to measure how well systems handle the work agents actually complete.” Pernyataan itu menekankan bahwa tolok ukur perlu menilai pekerjaan yang benar-benar dilakukan agen, tetapi klaim keunggulan rak masih perlu diuji pada perangkat produksi dan kondisi operasional yang lebih luas.