Anthropic Peringatkan Risiko AI saat Bersiap IPO

Pengakuan ini penting bagi publik karena model AI yang terhubung ke berbagai layanan dapat memengaruhi keputusan di luar percakapan biasa.

Jika digunakan dalam konteks kesehatan, riset, atau layanan pemerintahan, keluaran yang keliru atau tindakan yang tidak direncanakan berpotensi membawa konsekuensi langsung.

Dokumen itu tidak merinci kejadian tertentu, tetapi menegaskan bahwa perusahaan belum sepenuhnya memahami seluruh perilaku yang mungkin muncul.

Ancaman yang lebih dekat juga dibahas. Anthropic mengatakan dampak jangka panjang interaksi rutin dengan AI terhadap kesehatan mental, perkembangan kognitif, dan perilaku sosial belum sepenuhnya dipahami. Dengan kata lain, ketidakpastian yang diakui perusahaan tidak hanya berkaitan dengan skenario ekstrem, tetapi juga penggunaan sehari-hari.

IPO mendanai infrastruktur, sekaligus membuka risiko bisnis

Dokumen IPO itu juga menjelaskan konsekuensi bagi perusahaan dan calon investor. Anthropic memperingatkan bahwa insiden ketika sistemnya menimbulkan dampak berbahaya dapat merusak reputasi dan merek, serta memengaruhi kondisi keuangan dan hasil operasionalnya. Sebagian besar peringatan dalam dokumen memang membahas risiko terhadap bisnis, sebagaimana lazimnya dokumen penawaran saham.

Di saat yang sama, perusahaan mengajukan alasan untuk terus mengembangkan AI. Anthropic menyebut teknologi tersebut berpotensi mempercepat penemuan ilmiah dan membantu menemukan pengobatan untuk penyakit, termasuk kanker, Alzheimer, penyakit jantung, penyakit genetik langka, serta penyakit menular utama.

IPO itu akan memberi kesempatan kepada investor, termasuk Amazon dan Google, untuk menjual sebagian saham mereka. Perusahaan juga akan memperoleh dana baru untuk sejumlah investasi. Anthropic menyatakan sebagian dana akan dialokasikan untuk komputasi dan infrastruktur, yang kemungkinan mencakup pembangunan maupun pembelian pusat data serta perangkat keras untuk menjalankan sistem AI.

Bagi industri, dokumen itu memperlihatkan dua kepentingan yang berjalan bersamaan: memperbesar kapasitas komputasi dan meyakinkan publik bahwa risiko dapat dikelola.

Anthropic sendiri mengakui batas pemahamannya masih berubah, sementara model yang lebih kuat dan lebih terhubung dapat memperbesar konsekuensi jika bertindak di luar maksud pembuat atau penggunanya.

“Risiko ini dapat meningkat seiring model kami menjadi lebih mampu dan diberi otonomi, izin, serta integrasi yang lebih besar dengan sistem eksternal,” tulis perusahaan.