Apple Minions Ubah Mac Menganggur Jadi Pool GPU AI

Singkatnya, ada pengawasnya.

Statistik basis data juga ditampilkan melalui dasbor berbasis Grafana, sehingga tim dapat melihat kondisi sistem secara langsung. Rangkaian komponen ini membantu Minions mengelola kumpulan pekerja inferensi yang tersebar dan tetap menangani perangkat yang gagal merespons.

Bukan pengganti klaster GPU Nvidia

Pendekatan Apple berbeda dari klaster Nvidia. Menurut makalah tersebut, sistem Nvidia berfokus pada throughput, latensi, dan efisiensi penggunaan GPU untuk model besar. Minions lebih menitikberatkan ketersediaan perangkat keras dan pemanfaatan kapasitas yang sedang tidak digunakan.

Perbedaan itu penting untuk memahami fungsi Minions. Sistem ini bukan klaim bahwa sejumlah Mac otomatis menandingi klaster GPU khusus. Apple justru mengarahkan perhatian pada sumber daya yang sudah ada di perangkat macOS dan cara membagikannya ke pekerjaan inferensi internal.

Apple juga menyebut Mac mini dan Mac Studio yang baru dirilis mendukung pengelompokan perangkat melalui RDMA (Remote Direct Memory Access) lewat Thunderbolt 5. Dengan cara itu, komputasi dan memori dapat digabung untuk mendukung satu beban kerja AI, termasuk memuat model yang terlalu besar untuk ditampung satu mesin.

Kemampuan pengelompokan itu berbeda dari tujuan utama Minions. RDMA melalui Thunderbolt 5 membantu beberapa perangkat bekerja untuk satu beban kerja, sedangkan Minions mengatur penggunaan GPU Mac yang terhubung dan sedang luang. Keduanya menunjukkan dua pendekatan: menggabungkan sumber daya untuk satu pekerjaan, atau membagikan kapasitas perangkat yang tersebar.

Bagi perusahaan yang menjalankan inferensi AI, gagasan memakai perangkat yang sudah tersedia dapat mengurangi waktu tunggu akibat keterbatasan akses ke GPU terpusat. Namun, makalah Apple menjelaskan pemakaian Minions di lingkungan tim perusahaan; sumber tidak menyebut ketersediaannya sebagai layanan untuk publik atau pengguna Mac di Indonesia.

Ukuran manfaat yang paling konkret sejauh ini adalah waktu antrean: beberapa pekerjaan yang sebelumnya menunggu lebih dari sepuluh jam dapat mulai berjalan dalam hitungan menit, menurut para peneliti Apple.