AMD Akuisisi Startup Taalas, Genjot Performa AI dengan Chip Khusus

SAN FRANCISCO — AMD resmi mengambil langkah strategis dalam persaingan pasar perangkat keras kecerdasan buatan (AI) dengan mengakuisisi startup pengembang chip asal Toronto, Taalas.

Kesepakatan yang diumumkan pada Kamis ini bertujuan untuk mempercepat proses inferensi AI dengan mengintegrasikan bobot model secara langsung ke dalam silikon, sebuah metode yang diklaim jauh lebih efisien dibandingkan penggunaan unit pemrosesan grafis (GPU) konvensional.

Teknologi yang dibawa oleh Taalas memiliki pendekatan unik yang disebut sebagai model-specific integrated circuits (MSIC). Berbeda dengan GPU tradisional atau arsitektur aliran data yang umum digunakan saat ini, chip buatan Taalas tidak bergantung pada memori HBM untuk menyimpan bobot model. Sebaliknya, mereka menanamkan bobot tersebut langsung ke dalam struktur silikon chip.

Peningkatan Kecepatan Inferensi yang Signifikan

Pengujian awal menunjukkan hasil yang mencolok. Chip uji pertama Taalas, HC1, mampu menjalankan model Meta Llama 3.1 8B dengan kecepatan mencapai 16.960 token per detik.

Angka performa ini sempat dilaporkan jauh melampaui kemampuan GPU Nvidia dan akselerator Cerebras saat diperkenalkan pada Februari lalu. Untuk generasi berikutnya, HC2, perusahaan menargetkan dukungan hingga 20 miliar parameter per chip.

Keunggulan utama dari pendekatan ini adalah efisiensi ruang dan daya.

Dengan mendistribusikan bobot model ke berbagai akselerator, AMD berpotensi membangun sistem komputasi rak-skala yang mampu menangani model dengan triliunan parameter menggunakan jauh lebih sedikit perangkat dibandingkan sistem konvensional.

Rencananya, AMD akan mengintegrasikan teknologi ini ke dalam rak Helios berbasis Instinct untuk memisahkan pemrosesan prompt yang berat pada GPU dengan tugas pembuatan token yang lebih cepat pada akselerator berbasis Taalas.

Tantangan Fleksibilitas Model

Meski menawarkan kecepatan luar biasa, teknologi ini membawa konsekuensi teknis terkait fleksibilitas. Chip yang sudah dicetak dengan model tertentu bersifat permanen; perubahan besar pada model akan menuntut proses manufaktur ulang pada chip tersebut.

Namun, pihak Taalas mengklaim bahwa pembaruan model tidak harus dimulai dari nol, melainkan cukup dengan mengubah dua lapisan logam pada proses manufaktur.

Vamsi Boppana, SVP of AI di AMD, menyatakan bahwa pihaknya tengah membangun platform AI lengkap yang memberikan fleksibilitas bagi pelanggan untuk memilih solusi komputasi yang paling sesuai dengan beban kerja masing-masing. Langkah ini dipandang sebagai upaya AMD untuk menantang dominasi Nvidia yang sebelumnya juga melakukan investasi besar melalui kesepakatan lisensi dengan Groq.

Menurut laporan CNBC, startup yang didirikan pada 2023 ini telah mengumpulkan pendanaan ventura sebesar 219 juta dolar AS. Akuisisi ini diharapkan tuntas pada kuartal keempat mendatang, menunggu persetujuan regulator.

Inovasi ini membuka peluang bagi penyedia infrastruktur AI untuk menekan biaya per token secara drastis, sekaligus memungkinkan model AI untuk melakukan penalaran lebih dalam tanpa harus mengorbankan waktu respons bagi pengguna akhir.