Galahad Corbenic: SSD Server Jadi Memori AI, Klaim 14 Kali

Bagi operator pusat data, implikasinya cukup praktis: SSD yang sudah ada berpotensi membantu mempertahankan pekerjaan model setelah cache GPU hilang, tetapi hasilnya bergantung pada jenis beban kerja dan apakah teks yang diproses berulang kali. Galahad juga bukan jalan pintas universal untuk mempercepat semua permintaan AI, terutama teks pendek atau penyimpanan jarak jauh.

Persaingan cache AI sudah ramai

Corbenic memosisikan Galahad sebagai alternatif bagi sistem retrieval-augmented generation atau RAG. Sistem RAG mencari potongan dokumen yang dianggap relevan untuk diberikan kepada model. Schelpe mengatakan pencarian yang luput membuat model tak pernah melihat jawabannya. Dalam sebuah pengujian yang ia kutip, Galahad menjawab 100 dari 100 pertanyaan, sedangkan RAGFlow menjawab 77.

Namun, penyimpanan cache di luar GPU bukan gagasan yang hanya muncul bersama Galahad. Proyek sumber terbuka LMCache dapat memindahkan KV cache ke memori CPU, SSD lokal, maupun penyimpanan jarak jauh. Sembilan hari sebelum Galahad masuk beta, insinyur Samsung memaparkan tingkatan NVMe yang bisa memulihkan cache setelah proses dimulai ulang.

Nvidia juga menawarkan kerangka Dynamo yang menempatkan KV cache secara bertingkat, dari memori GPU ke DRAM host, lalu SSD NVMe lokal dan penyimpanan jaringan. Perusahaan itu memperkenalkan platform memori konteks BlueField-4 di CES 2026, yang kemudian disebut CMX.

WEKA, Huawei, dan Phison pun memiliki penawaran atau pendekatan terkait pemanfaatan penyimpanan untuk mengurangi penghitungan ulang AI.

Perbedaan Galahad yang paling nyata, berdasarkan bahan yang tersedia, terletak pada kombinasi penyimpanan cache persis menurut masukan dengan komponen Blaise yang mempersempit teks untuk model.

Karena itu, angka percepatan 14 kali lebih tepat dibaca sebagai hasil dari keseluruhan pendekatan pada pengujian tertentu, bukan jaminan bahwa memindahkan cache ke SSD saja akan memberi hasil serupa.

Corbenic belum memaparkan seluruh rincian yang diperlukan untuk menilai pembeda teknisnya terhadap semua pesaing.

Galahad masih berada pada tahap beta. Pengujian yang lebih luas pada beban kerja dan konfigurasi server berbeda akan menentukan apakah penghematan itu bertahan di penggunaan nyata—dan seberapa besar kontribusi Taliesin dibandingkan Blaise.