AMD Mext Pangkas DRAM Server hingga Separuh, Kinerja Tetap Tinggi

JAKARTA — AMD Mext memungkinkan perusahaan mengurangi DRAM server hingga separuh, dengan kinerja yang diklaim tetap mencapai 99 persen pada sejumlah beban kerja. Teknologi ini memindahkan data yang jarang dipakai ke penyimpanan flash, lalu memakai kecerdasan buatan untuk mengembalikannya ke memori sebelum aplikasi membutuhkannya.

Bagi pengelola pusat data, penghematan memori dapat menekan biaya server yang besar. Namun, hasilnya tidak seragam: kinerja bergantung pada aplikasi dan jumlah data yang dipindahkan ke flash.

AMD Mext memprediksi kebutuhan DRAM

AMD memperoleh teknologi Mext pada Juni. Gary Smerdon, mantan CEO Mext yang kini menjabat wakil presiden korporat pengembangan bisnis di AMD, mengatakan sistem itu memakai model pembelajaran mesin untuk memperkirakan halaman memori yang akan segera diakses.

Halaman memori adalah bagian-bagian kecil data yang digunakan sistem operasi dan aplikasi. Mext mengalihkan halaman yang lama tidak disentuh dari DRAM ke penyimpanan NVMe, lalu berusaha memuatnya kembali sebelum dibutuhkan. Proses ini menyerupai fitur swap, tetapi perangkat lunak mencoba memprediksi waktu pemindahan agar aplikasi tidak perlu menunggu data.

“Kami menyadari bahwa kami dapat menggunakan AI untuk memantau sistem dan secara proaktif mendorong halaman-halaman itu kembali ke DRAM,” kata Smerdon. Ia mengatakan aplikasi maupun sistem operasi semestinya tetap melihat halaman tersebut seolah-olah selalu berada di DRAM.

Model utama Mext merupakan turunan transformer. Jika model bahasa memprediksi kata berikutnya, model ini memperkirakan halaman memori yang akan diperlukan berikutnya. Sistem melatih model pada satu inti prosesor Epyc dalam waktu kurang dari satu detik, lalu menyempurnakannya dari waktu ke waktu.

Biaya memori jadi taruhan perusahaan

Menurut Smerdon, biaya memori dapat mengambil porsi besar dari harga server, khususnya pada sistem dengan kapasitas besar. Ia menyebut biayanya bisa mencapai 60, 70, bahkan 80 atau 90 persen. Angka itu merupakan perkiraan yang disampaikan Smerdon, bukan ukuran yang berlaku untuk setiap server.

Ia juga memperkirakan pelanggan dari 145 sistem yang sudah menjalankan perangkat lunak Mext telah menghemat 5 juta dolar AS dari biaya DRAM yang berhasil dihindari. Smerdon menyebut penggantian modul memori DRAM dengan penyimpanan flash dapat memangkas biaya server hingga 83 persen.