Galahad Corbenic: SSD Server Jadi Memori AI, Klaim 14 Kali

Galahad Corbenic menawarkan cara agar server AI tidak mengulang pekerjaan yang sama setelah memori GPU terhapus atau proses dimulai ulang. Namun, klaim percepatan hingga 14 kali bukan semata hasil menyimpan memori di SSD: pengujian perusahaan juga memakai komponen yang memangkas teks yang harus dibaca model.

Startup asal Belgia, Corbenic AI, merilis Galahad dalam versi beta pada 1 Oktober 2026. Perangkat lunak ini menyimpan keadaan pemrosesan model AI ke penyimpanan NVMe lokal, lalu memuatnya kembali ketika byte teks, model, dan tenant yang sama muncul lagi. Rincian dan hasil pengujian dilaporkan TechRadar Pro berdasarkan makalah Corbenic.

Pendekatan itu menyasar pekerjaan berulang saat model menjawab pertanyaan berdasarkan dokumen panjang. Bagi pengelola server, manfaat yang dijanjikan adalah mengurangi komputasi ulang tanpa membeli perangkat penyimpanan khusus. Tapi angka kinerjanya perlu dibaca bersama batas dan rancangan pengujiannya.

Galahad Corbenic menyimpan cache AI di SSD

Ketika model membaca prompt, ia membangun key-value cache atau KV cache—keadaan perhatian yang membantu pemrosesan teks berikutnya. Sistem penyajian model seperti vLLM dan SGLang sudah dapat memakai ulang keadaan itu selama masih tersimpan di memori GPU. Masalah muncul ketika kapasitas memori tertekan atau proses server dimulai ulang: cache yang tersimpan di GPU dapat hilang.

Galahad memakai komponen bernama Taliesin untuk menyimpan keadaan tersebut ke disk. Setiap blok teks dipasangkan dengan sidik jari yang mencakup byte masukan yang persis sama, model, serta tenant. Saat masukan cocok, sistem memuat kembali cache tersimpan, bukan menghitungnya dari awal.

“Jadi pilihannya bukan SSD atau RAM. Pilihannya adalah SSD atau menghitung semuanya lagi di GPU,” kata pendiri sekaligus CEO Corbenic, Sietse Schelpe, kepada TechRadar Pro. Ia menjelaskan pemuatan berlangsung sebelum model mulai menghasilkan jawaban.

Strategi ini tidak menggantikan RAM atau memori GPU. Cache di SSD baru berguna setelah salinan di GPU terhapus atau server dimulai ulang. Menurut Schelpe, Galahad hanya memerlukan Linux, GPU Nvidia, dan SSD NVMe standar yang sudah terpasang di server.