Delaware dan AI perusahaan: Kongres AS mulai menyelidiki

WILMINGTON — Rencana Delaware membentuk perusahaan yang dijalankan AI memicu penyelidikan Kongres AS karena dapat membatasi tanggung jawab pemilik atas tindakan sistem tersebut. Ketua Komite Pengawasan dan Reformasi Pemerintah DPR AS James Comer meminta Gubernur Delaware Matt Meyer menyerahkan dokumen tentang risiko proposal dan pihak-pihak yang mendorongnya.

Rencana itu menyangkut bentuk badan usaha baru bernama Artificial Intelligence Company (AIC). Dalam model yang diusulkan, agen AI akan mengelola kegiatan perusahaan sehari-hari, sementara manusia atau entitas yang mendanainya mendapat perlindungan dari tanggung jawab hukum atas kerugian yang disebabkan AI, dengan pengecualian tertentu.

Bagi konsumen dan mitra usaha, persoalannya bukan sekadar siapa yang mengoperasikan perusahaan. Jika agen AI membuat keputusan yang merugikan, rancangan perlindungan hukum itu dapat memengaruhi pihak mana yang bisa dimintai pertanggungjawaban.

Pertanyaan Kongres soal perlindungan hukum

Dalam surat kepada Meyer, Comer meminta informasi mengenai penilaian risiko yang dilakukan pemerintah Delaware. Komite juga ingin mengetahui faktor yang mendorong Delaware dan negara bagian lain mempertimbangkan kerangka serupa.

Comer menyatakan komitenya mendukung potensi AI, tetapi juga telah mengawasi penggunaan teknologi yang dinilai bisa merugikan atau tidak transparan bagi konsumen dan perusahaan. Contoh yang disebut dalam surat meliputi penetapan harga lewat pengawasan, penilaian biaya perumahan, dan tagihan kerusakan mobil sewaan.

Komite khawatir badan usaha AIC dapat melindungi perusahaan AI besar dan investornya dari tanggung jawab atas tindakan berbahaya. Surat itu juga mempertanyakan kemungkinan proposal tersebut dimanfaatkan untuk mendorong aturan yang menguntungkan pihak tertentu dan menghambat persaingan.

Dalam rancangan yang dijelaskan pejabat negara bagian, perlindungan bagi pemodal tidak berlaku jika mereka gagal menyediakan modal bagi perusahaan atau menggunakan badan usaha itu untuk melakukan penipuan maupun pelanggaran hukum yang disengaja. Namun, batas dan penerapan perlindungan tersebut menjadi bagian dari persoalan yang ingin diperiksa Kongres.

Rancangan tumbuh dari kerangka uji AI

Gubernur Meyer menandatangani resolusi bersama DPR Delaware pada 23 Juli 2025. Resolusi itu menugaskan Komisi Kecerdasan Buatan Delaware bekerja sama dengan Menteri Luar Negeri Charuni Patibanda-Sanchez untuk menyusun kerangka uji coba teknologi baru yang menggunakan AI agen.