JAKARTA — Kapasitas memori 480GB pada Intel GPU D-series dapat membantu pusat data menjalankan model AI berukuran besar tanpa membagi model ke banyak kartu. Intel memperkenalkan akselerator ini di Open Compute Project Global Summit untuk menangani inferensi AI, bukan sebagai kartu grafis gaming.
Intel menyebut satu kartu dapat mendukung model bahasa besar hingga 300 miliar parameter. Dalam sistem dengan delapan GPU, kapasitasnya ditujukan untuk model yang melampaui satu triliun parameter. Perusahaan belum mengumumkan harga ritel maupun tanggal ketersediaan umum.
Besarnya memori menjadi daya tarik utama, tetapi angka itu belum menjawab seberapa cepat GPU melayani permintaan AI. Bandwidth memori, kemampuan komputasi, perangkat lunak, dan karakter beban kerja turut menentukan kinerja saat digunakan.
Intel GPU D-series mengutamakan kapasitas dan efisiensi
GPU yang sebelumnya dikenal dengan nama sandi Crescent Island ini memakai LPDDR5X, teknologi memori yang lazim digunakan pada laptop dan perangkat yang memperhatikan konsumsi daya. Pilihan itu berbeda dari GDDR7 yang diasosiasikan dengan kartu grafis modern.
Konfigurasi tersebut memberi petunjuk tentang sasaran produknya. Intel tampaknya menempatkan kapasitas memori dan efisiensi daya sebagai prioritas untuk inferensi AI, alih-alih merancang kartu grafis konvensional untuk bermain gim.
Dengan kapasitas 480GB, sistem dapat menyimpan bobot model dan data terkait agar siap diakses selama proses inferensi. Ini relevan untuk prompt panjang, banyak permintaan yang diproses bersamaan, layanan AI perusahaan, serta aplikasi robotika yang membutuhkan respons cepat.
Namun, memori besar bukan jaminan jawaban muncul lebih cepat. Ukuran itu menjelaskan berapa banyak data yang dapat ditampung, sedangkan laju pemrosesan bergantung pada kemampuan komputasi dan seberapa cepat data bergerak di dalam sistem. Perbedaan ini penting bagi perusahaan yang menilai akselerator berdasarkan beban kerja nyata, bukan kapasitas semata.
Spesifikasi Intel GPU D-series untuk beban inferensi
Intel mencantumkan kemampuan komputasi 1,3 petaflops untuk FP8, format numerik yang umum dipakai untuk mempercepat operasi AI dengan kebutuhan memori lebih rendah dibanding format berpresisi lebih tinggi. Perusahaan juga menyebut bandwidth memori 1,5TB/s, yang menggambarkan laju perpindahan data antara memori dan prosesor.
Akselerator ini memiliki batas daya 350W dan menggunakan form factor PCIe standar. Intel menyebut perangkat tersebut memakai pendingin udara serta kompatibel dengan perangkat lunak di seluruh platform GPU-nya.
Kombinasi itu ditujukan agar pusat data dapat memasang akselerator tanpa harus menyiapkan sistem pendingin khusus atau merombak infrastruktur rak secara menyeluruh. Bagi operator, kemudahan integrasi dapat memengaruhi biaya dan kerumitan penerapan. Tetapi Intel belum menyampaikan harga, sehingga perbandingan biaya penggunaan belum dapat dinilai dari informasi yang tersedia.
Memori besar. Itu belum cukup.
Untuk pengguna layanan AI di Indonesia, kabar ini belum berarti akses langsung ke layanan yang lebih cepat atau lebih murah.
Dampaknya bergantung pada keputusan perusahaan penyedia layanan untuk membeli dan menerapkan perangkat tersebut, serta kecocokannya dengan model dan perangkat lunak yang mereka gunakan.
Bagi pengelola pusat data, kapasitas tinggi dapat membuka ruang untuk menjalankan model besar dalam konfigurasi yang lebih ringkas, tetapi angka kinerja dan biaya operasional tetap perlu diuji pada pekerjaan sebenarnya.
Kolaborasi dengan Xeon dan ketersediaan belum diumumkan
Intel juga berencana memasangkan akselerator ini dengan prosesor Xeon. Dalam rancangan tersebut, CPU dapat mengoordinasikan tugas, mengatur perpindahan data, dan menangani pekerjaan yang tidak memerlukan akselerasi GPU.
Pendekatan itu sejalan dengan alur kerja AI yang melibatkan beberapa tahap, mulai dari pengambilan informasi dan penalaran hingga koordinasi alat eksternal dan eksekusi. Intel berupaya menempatkan jenis komputasi yang berbeda pada perangkat yang sesuai, bukan menyerahkan seluruh proses kepada GPU.
Anil Nanduri, wakil presiden AI Products & GTM di Intel Data Center Group, mengatakan, “Inferensi menjadi beban kerja AI yang menentukan, dan perusahaan membutuhkan infrastruktur yang memberikan kinerja tepat dengan biaya yang tepat.” Ia menyebut Intel ingin membuat inferensi berkapasitas tinggi praktis diterapkan dan ekonomis untuk ditingkatkan skalanya.
Nicolas Dubé, wakil presiden korporat Data Center Systems and Solutions Group di Intel, mengatakan model terbuka memperluas pilihan perusahaan dalam menerapkan AI. Menurutnya, organisasi membutuhkan infrastruktur yang dapat mencocokkan beragam beban kerja dengan sumber daya komputasi dan biaya yang sesuai.
Intel belum mengungkap harga publik atau tanggal ketersediaan umum GPU D-series. Informasi tentang harga dan jadwal peluncuran berikutnya akan menentukan kapan perusahaan dapat menilai biaya penerapan, selain kapasitas memori dan spesifikasi yang telah diumumkan.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.