Apple Minions Ubah Mac Menganggur Jadi Pool GPU AI

CUPERTINO — Apple Minions mengubah GPU yang menganggur di sejumlah Mac menjadi sumber daya bersama untuk menjalankan tugas inferensi AI. Sistem internal Apple ini membantu tim mulai mengerjakan tugas dalam hitungan menit, bukan menunggu antrean yang sebelumnya dapat berlangsung lebih dari sepuluh jam.

Apple menjelaskan Minions sebagai sistem terdistribusi yang mengumpulkan kapasitas GPU Apple Silicon dari perangkat macOS. Rincian teknisnya dipaparkan oleh para peneliti Apple dalam makalah tentang sistem tersebut, yang dirancang untuk memakai perangkat yang sedang tidak sibuk.

Apple Minions memanfaatkan GPU Mac yang menganggur

Masalah yang hendak diatasi adalah terbatasnya akses ke GPU terpusat. Menurut makalah para peneliti Apple, sebelum Minions digunakan, beberapa pekerjaan inferensi harus menunggu lebih dari sepuluh jam karena ketersediaan GPU terpusat terbatas.

“With Minions, tasks can often begin execution within minutes by leveraging idle macOS devices,” demikian penjelasan dalam makalah tersebut. Artinya, tugas dapat mulai dijalankan dalam hitungan menit dengan memanfaatkan Mac yang GPU-nya sedang tidak terpakai.

Perubahan ini terasa pada alur kerja tim. Ketika perangkat yang terhubung ke jaringan sedang luang, kapasitasnya dapat dipakai untuk membantu pekerjaan inferensi alih-alih dibiarkan menganggur. Sistem ini mengatur pembagian tugas, bukan sekadar menambahkan perangkat ke satu komputer besar.

Minions juga bukan dirancang terutama untuk menjalankan model besar yang tidak muat di satu mesin. Fokus utamanya ialah mendistribusikan sumber daya yang tersedia di jaringan agar lebih mudah diakses oleh tim Apple.

Empat komponen mengatur pembagian tugas

Minions memiliki empat komponen utama: Minion Server, PostgreSQL Metadata Store, Minion Executor, dan Minion Watchdog. Masing-masing menjalankan peran berbeda dalam menerima pekerjaan, menjalankannya, mencatat status, dan menangani gangguan.

Minion Server menjadi lapisan koordinasi. Komponen ini menerima permintaan pengguna lalu memecahnya menjadi subtugas. Minion Executor menjalankan inferensi menggunakan GPU Mac, mengunggah hasil ke S3, dan melaporkan status pekerjaan melalui server.

Metadata tugas disimpan di PostgreSQL. Sementara itu, Minion Watchdog memantau proses dan mencari kegagalan, misalnya ketika sebuah Mac di jaringan tidak merespons. Jika itu terjadi, sistem dapat memberikan ulang tugas yang terdampak.