Perbandingan itu mengingatkan bahwa model yang lebih murah untuk satu tugas belum tentu paling hemat untuk pekerjaan lain. Hasil tolok ukur juga belum tentu mencerminkan kebutuhan kerja setiap pengguna atau perusahaan.
Subsidi menarik bagi pelanggan, tetapi biaya bisnis berbeda
Langganan AI umumnya disubsidi. Pelanggan bisa memperoleh penggunaan lebih banyak dibandingkan jika mereka membayar tarif API berdasarkan pemakaian. Menurut SemiAnalysis, pelanggan berlangganan Claude memakai sekitar 42 persen komputasi inferensi Anthropic, tetapi menyumbang hanya 10 persen pendapatan perusahaan.
Selisih itu penting bagi perusahaan yang sedang menghitung biaya AI. Paket murah dapat membantu individu dan usaha kecil mencoba layanan, tetapi perusahaan dengan banyak karyawan tidak selalu dapat mengandalkan paket bersubsidi ketika pemakaian bertambah.
Dampaknya terasa pada anggaran operasional: semakin banyak pekerjaan dialihkan ke AI, semakin sulit perusahaan memperkirakan tagihan token hanya dari biaya langganan yang terlihat. Laporan McKinsey pada Juli menyebut 93 persen perusahaan melampaui anggaran AI mereka.
Dhruv Amin, salah satu pendiri perusahaan agen AI Skydive, mengatakan kepada The Register bahwa biaya AI perusahaan meningkat seiring pemakaian meluas. Menurutnya, perusahaan mulai melihat tagihan token membengkak ketika AI makin mampu menangani sejumlah masalah bisnis dan penggunaannya diterapkan lebih luas.
“The labs typically subsidize their prosumer plans with subscription pricing massively,” kata Amin. Ia menilai paket bersubsidi membantu pengguna mengenal perangkat AI, sebelum membawa pemakaiannya ke tempat kerja.
Perusahaan mulai mencari model yang lebih hemat
Amin mengatakan perusahaan besar menghadapi dua kendala: jumlah pegawai dapat melampaui kapasitas paket bersubsidi, sementara biaya pemakaian meningkat saat layanan digunakan dalam skala besar. Salah satu pendekatan yang ia gambarkan ialah memindahkan pekerjaan dari model terdepan ke model sumber terbuka yang dapat dikendalikan perusahaan.
Ia menyebut perusahaannya menurunkan biaya AI lebih dari 75 persen setelah memindahkan pemakaian ke Skydive Glide, sebuah pengarah model yang mencari model sumber terbuka setara untuk beban kerja tertentu tanpa penurunan kualitas, menurut Amin. Ia mengatakan sebagian pekerjaan mereka kini berjalan di GLM-5.3 Flash.
Strategi itu bergantung pada evaluasi yang sesuai dengan pekerjaan nyata perusahaan. Amin mengatakan perusahaan yang cakap mengelola biaya AI menguji model baru menggunakan tolok ukur yang mencerminkan beban kerja mereka, lalu memeriksa apakah hasilnya tetap konsisten.
Ke depan, Amin memperkirakan perusahaan akan semakin mempercayakan evaluasi tersebut kepada penyedia layanan. Ia menjelaskan bahwa data penggunaan agen dalam produksi dapat dipakai untuk menyusun kumpulan evaluasi secara langsung.
Bagi pelanggan, perbandingan harga langganan tetap berguna sebagai titik awal, tetapi keputusan penggunaan skala besar akan bergantung pada biaya tugas dan hasil yang benar-benar dibutuhkan.
📝 Tinggalkan Komentar
Komentar sebagai . Ditinjau admin sebelum tampil.