Intel GPU D-Series Bawa Memori 480GB untuk AI

JAKARTA — Kapasitas memori 480GB pada Intel GPU D-series dapat membantu pusat data menjalankan model AI berukuran besar tanpa membagi model ke banyak kartu. Intel memperkenalkan akselerator ini di Open Compute Project Global Summit untuk menangani inferensi AI, bukan sebagai kartu grafis gaming.

Intel menyebut satu kartu dapat mendukung model bahasa besar hingga 300 miliar parameter. Dalam sistem dengan delapan GPU, kapasitasnya ditujukan untuk model yang melampaui satu triliun parameter. Perusahaan belum mengumumkan harga ritel maupun tanggal ketersediaan umum.

Besarnya memori menjadi daya tarik utama, tetapi angka itu belum menjawab seberapa cepat GPU melayani permintaan AI. Bandwidth memori, kemampuan komputasi, perangkat lunak, dan karakter beban kerja turut menentukan kinerja saat digunakan.

Intel GPU D-series mengutamakan kapasitas dan efisiensi

GPU yang sebelumnya dikenal dengan nama sandi Crescent Island ini memakai LPDDR5X, teknologi memori yang lazim digunakan pada laptop dan perangkat yang memperhatikan konsumsi daya. Pilihan itu berbeda dari GDDR7 yang diasosiasikan dengan kartu grafis modern.

Konfigurasi tersebut memberi petunjuk tentang sasaran produknya. Intel tampaknya menempatkan kapasitas memori dan efisiensi daya sebagai prioritas untuk inferensi AI, alih-alih merancang kartu grafis konvensional untuk bermain gim.

Dengan kapasitas 480GB, sistem dapat menyimpan bobot model dan data terkait agar siap diakses selama proses inferensi. Ini relevan untuk prompt panjang, banyak permintaan yang diproses bersamaan, layanan AI perusahaan, serta aplikasi robotika yang membutuhkan respons cepat.

Namun, memori besar bukan jaminan jawaban muncul lebih cepat. Ukuran itu menjelaskan berapa banyak data yang dapat ditampung, sedangkan laju pemrosesan bergantung pada kemampuan komputasi dan seberapa cepat data bergerak di dalam sistem. Perbedaan ini penting bagi perusahaan yang menilai akselerator berdasarkan beban kerja nyata, bukan kapasitas semata.

Spesifikasi Intel GPU D-series untuk beban inferensi

Intel mencantumkan kemampuan komputasi 1,3 petaflops untuk FP8, format numerik yang umum dipakai untuk mempercepat operasi AI dengan kebutuhan memori lebih rendah dibanding format berpresisi lebih tinggi. Perusahaan juga menyebut bandwidth memori 1,5TB/s, yang menggambarkan laju perpindahan data antara memori dan prosesor.