CUPERTINO — Apple Minions mengubah GPU yang menganggur di sejumlah Mac menjadi sumber daya bersama untuk menjalankan tugas inferensi AI. Sistem internal Apple ini membantu tim mulai mengerjakan tugas dalam hitungan menit, bukan menunggu antrean yang sebelumnya dapat berlangsung lebih dari sepuluh jam.
Apple menjelaskan Minions sebagai sistem terdistribusi yang mengumpulkan kapasitas GPU Apple Silicon dari perangkat macOS. Rincian teknisnya dipaparkan oleh para peneliti Apple dalam makalah tentang sistem tersebut, yang dirancang untuk memakai perangkat yang sedang tidak sibuk.
Apple Minions memanfaatkan GPU Mac yang menganggur
Masalah yang hendak diatasi adalah terbatasnya akses ke GPU terpusat. Menurut makalah para peneliti Apple, sebelum Minions digunakan, beberapa pekerjaan inferensi harus menunggu lebih dari sepuluh jam karena ketersediaan GPU terpusat terbatas.
“With Minions, tasks can often begin execution within minutes by leveraging idle macOS devices,” demikian penjelasan dalam makalah tersebut. Artinya, tugas dapat mulai dijalankan dalam hitungan menit dengan memanfaatkan Mac yang GPU-nya sedang tidak terpakai.
Perubahan ini terasa pada alur kerja tim. Ketika perangkat yang terhubung ke jaringan sedang luang, kapasitasnya dapat dipakai untuk membantu pekerjaan inferensi alih-alih dibiarkan menganggur. Sistem ini mengatur pembagian tugas, bukan sekadar menambahkan perangkat ke satu komputer besar.
Minions juga bukan dirancang terutama untuk menjalankan model besar yang tidak muat di satu mesin. Fokus utamanya ialah mendistribusikan sumber daya yang tersedia di jaringan agar lebih mudah diakses oleh tim Apple.
Empat komponen mengatur pembagian tugas
Minions memiliki empat komponen utama: Minion Server, PostgreSQL Metadata Store, Minion Executor, dan Minion Watchdog. Masing-masing menjalankan peran berbeda dalam menerima pekerjaan, menjalankannya, mencatat status, dan menangani gangguan.
Minion Server menjadi lapisan koordinasi. Komponen ini menerima permintaan pengguna lalu memecahnya menjadi subtugas. Minion Executor menjalankan inferensi menggunakan GPU Mac, mengunggah hasil ke S3, dan melaporkan status pekerjaan melalui server.
Metadata tugas disimpan di PostgreSQL. Sementara itu, Minion Watchdog memantau proses dan mencari kegagalan, misalnya ketika sebuah Mac di jaringan tidak merespons. Jika itu terjadi, sistem dapat memberikan ulang tugas yang terdampak.
Singkatnya, ada pengawasnya.
Statistik basis data juga ditampilkan melalui dasbor berbasis Grafana, sehingga tim dapat melihat kondisi sistem secara langsung. Rangkaian komponen ini membantu Minions mengelola kumpulan pekerja inferensi yang tersebar dan tetap menangani perangkat yang gagal merespons.
Bukan pengganti klaster GPU Nvidia
Pendekatan Apple berbeda dari klaster Nvidia. Menurut makalah tersebut, sistem Nvidia berfokus pada throughput, latensi, dan efisiensi penggunaan GPU untuk model besar. Minions lebih menitikberatkan ketersediaan perangkat keras dan pemanfaatan kapasitas yang sedang tidak digunakan.
Perbedaan itu penting untuk memahami fungsi Minions. Sistem ini bukan klaim bahwa sejumlah Mac otomatis menandingi klaster GPU khusus. Apple justru mengarahkan perhatian pada sumber daya yang sudah ada di perangkat macOS dan cara membagikannya ke pekerjaan inferensi internal.
Apple juga menyebut Mac mini dan Mac Studio yang baru dirilis mendukung pengelompokan perangkat melalui RDMA (Remote Direct Memory Access) lewat Thunderbolt 5. Dengan cara itu, komputasi dan memori dapat digabung untuk mendukung satu beban kerja AI, termasuk memuat model yang terlalu besar untuk ditampung satu mesin.
Kemampuan pengelompokan itu berbeda dari tujuan utama Minions. RDMA melalui Thunderbolt 5 membantu beberapa perangkat bekerja untuk satu beban kerja, sedangkan Minions mengatur penggunaan GPU Mac yang terhubung dan sedang luang. Keduanya menunjukkan dua pendekatan: menggabungkan sumber daya untuk satu pekerjaan, atau membagikan kapasitas perangkat yang tersebar.
Bagi perusahaan yang menjalankan inferensi AI, gagasan memakai perangkat yang sudah tersedia dapat mengurangi waktu tunggu akibat keterbatasan akses ke GPU terpusat. Namun, makalah Apple menjelaskan pemakaian Minions di lingkungan tim perusahaan; sumber tidak menyebut ketersediaannya sebagai layanan untuk publik atau pengguna Mac di Indonesia.
Ukuran manfaat yang paling konkret sejauh ini adalah waktu antrean: beberapa pekerjaan yang sebelumnya menunggu lebih dari sepuluh jam dapat mulai berjalan dalam hitungan menit, menurut para peneliti Apple.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.