AMD Mext Pangkas DRAM Server hingga Separuh, Kinerja Tetap Tinggi

JAKARTA — AMD Mext memungkinkan perusahaan mengurangi DRAM server hingga separuh, dengan kinerja yang diklaim tetap mencapai 99 persen pada sejumlah beban kerja. Teknologi ini memindahkan data yang jarang dipakai ke penyimpanan flash, lalu memakai kecerdasan buatan untuk mengembalikannya ke memori sebelum aplikasi membutuhkannya.

Bagi pengelola pusat data, penghematan memori dapat menekan biaya server yang besar. Namun, hasilnya tidak seragam: kinerja bergantung pada aplikasi dan jumlah data yang dipindahkan ke flash.

AMD Mext memprediksi kebutuhan DRAM

AMD memperoleh teknologi Mext pada Juni. Gary Smerdon, mantan CEO Mext yang kini menjabat wakil presiden korporat pengembangan bisnis di AMD, mengatakan sistem itu memakai model pembelajaran mesin untuk memperkirakan halaman memori yang akan segera diakses.

Halaman memori adalah bagian-bagian kecil data yang digunakan sistem operasi dan aplikasi. Mext mengalihkan halaman yang lama tidak disentuh dari DRAM ke penyimpanan NVMe, lalu berusaha memuatnya kembali sebelum dibutuhkan. Proses ini menyerupai fitur swap, tetapi perangkat lunak mencoba memprediksi waktu pemindahan agar aplikasi tidak perlu menunggu data.

“Kami menyadari bahwa kami dapat menggunakan AI untuk memantau sistem dan secara proaktif mendorong halaman-halaman itu kembali ke DRAM,” kata Smerdon. Ia mengatakan aplikasi maupun sistem operasi semestinya tetap melihat halaman tersebut seolah-olah selalu berada di DRAM.

Model utama Mext merupakan turunan transformer. Jika model bahasa memprediksi kata berikutnya, model ini memperkirakan halaman memori yang akan diperlukan berikutnya. Sistem melatih model pada satu inti prosesor Epyc dalam waktu kurang dari satu detik, lalu menyempurnakannya dari waktu ke waktu.

Biaya memori jadi taruhan perusahaan

Menurut Smerdon, biaya memori dapat mengambil porsi besar dari harga server, khususnya pada sistem dengan kapasitas besar. Ia menyebut biayanya bisa mencapai 60, 70, bahkan 80 atau 90 persen. Angka itu merupakan perkiraan yang disampaikan Smerdon, bukan ukuran yang berlaku untuk setiap server.

Ia juga memperkirakan pelanggan dari 145 sistem yang sudah menjalankan perangkat lunak Mext telah menghemat 5 juta dolar AS dari biaya DRAM yang berhasil dihindari. Smerdon menyebut penggantian modul memori DRAM dengan penyimpanan flash dapat memangkas biaya server hingga 83 persen.

Penghematan itu relevan bagi perusahaan yang perlu menambah kapasitas komputasi, tetapi menghadapi biaya memori tinggi. Dengan Mext, perusahaan dapat mempertimbangkan konfigurasi satu terabita DRAM ditambah satu terabita penyimpanan yang dikelola perangkat lunak, alih-alih membeli dua terabita DRAM.

Penghematan nyata tetap bergantung pada lisensi Mext, harga perangkat, dan beban kerja yang dijalankan.

Ada konsekuensinya. Flash disebut 50 kali lebih murah per bit dan memakai daya 30 kali lebih rendah per bit, tetapi kecepatannya 500 kali lebih lambat daripada DRAM. Jika data yang dipindahkan ternyata segera diperlukan, jeda akses dapat menurunkan kinerja aplikasi.

Risiko itu penting bagi perusahaan yang menjalankan layanan dengan target waktu respons. Sistem swap tradisional dapat memperlambat aplikasi ketika harus mengambil data dari penyimpanan. Mext berusaha menghindari masalah dengan memprediksi kebutuhan lebih awal, tetapi prediksi yang meleset atau beban kerja yang sering mengakses data dapat mengurangi manfaatnya.

Hasil uji berbeda menurut aplikasi

Pengujian terhadap perangkat lunak desain elektronik Synopsys PrimeTime menunjukkan kompromi yang berbeda pada tiap konfigurasi. Menurut Smerdon, sistem yang memindahkan separuh memorinya ke flash masih mencapai 95 persen kinerja dibandingkan sistem yang hanya memakai DRAM. Saat porsi DRAM tinggal 25 persen dan flash mengisi 75 persen, kinerja turun menjadi 80 persen dari patokan DRAM saja.

Pada Apache Spark, tim Mext AMD menyatakan sistem dapat mempertahankan 99 persen kinerja setelah separuh DRAM diganti flash. Hasil ini menunjukkan angka kinerja tinggi tidak otomatis berlaku untuk semua aplikasi. Perusahaan perlu menilai pola akses memori pada layanan yang akan menjalankan Mext.

AMD awalnya menyasar aplikasi yang membutuhkan banyak memori, seperti otomasi desain elektronik dan pembuatan konten. Perusahaan kemudian memperluas dukungan ke aplikasi yang peka terhadap jeda, termasuk basis data dan alur kerja kecerdasan buatan berbasis agen.

Singkatnya, ada kompromi.

Perusahaan membayar lebih sedikit untuk DRAM, tetapi harus memastikan penurunan kinerja tidak mengganggu pekerjaan yang paling penting. AMD menawarkan aplikasi RAM View agar tim perusahaan dapat memeriksa sistem dan beban kerja yang cocok sebelum mengaktifkan perangkat lunak.

Lisensi AMD Mext terbatas pada perangkat AMD

AMD menyatakan Mext akan menjadi bagian dari portofolio perusahaan dan hanya tersedia untuk perangkat keras AMD. Perangkat lunaknya akan dijual melalui mitra produsen komputer sebagai lisensi tambahan, termasuk untuk server berbasis Epyc.

Server Linux hanya memerlukan pengandar kernel untuk menjalankan perangkat lunak. Namun, lingkungan virtualisasi memerlukan satu inti prosesor untuk setiap mesin virtual atau VPC, sehingga kebutuhan sumber daya bertambah seiring jumlah lingkungan virtual. Keterbatasan yang sama diperkirakan tidak berlaku pada penggunaan kontainer.

AMD belum menjelaskan secara tuntas kebutuhan operasional untuk seluruh konfigurasi virtualisasi. Perusahaan yang mempertimbangkan Mext perlu menghitung kebutuhan inti tambahan bersama biaya lisensi dan potensi penghematan DRAM.

Langkah berikutnya adalah integrasi Mext ke portofolio perusahaan AMD dan penjualan lisensinya melalui mitra OEM. Seberapa jauh perusahaan mengadopsinya akan bergantung pada hasil uji di beban kerja masing-masing serta keseimbangan antara biaya memori dan kinerja.