Agentic AI Bisa Ambil Keputusan, Sektor Keuangan dan Pemerintah Siapkan Mitigasi Risiko

Agentic artificial intelligence (AI) memungkinkan sistem AI mengambil keputusan secara lebih mandiri, termasuk menjalankan transaksi di sektor jasa keuangan. Kondisi ini memunculkan risiko baru yang perlu diantisipasi melalui tata kelola dan regulasi.

“Agentic AI apabila diberikan otoritas tertentu untuk decision making, dia bisa juga melakukan transaksi. Dan transaksi itu dilakukan antara agentic AI juga. AI dan AI berkomunikasi untuk memutuskan transaksi,” kata Wakil Menteri Komunikasi dan Digital Nezar Patria dalam keterangannya.

Menurut Wamen Nezar, perkembangan tersebut mengubah cara melihat risiko AI di sektor keuangan. Ketika AI hanya berfungsi sebagai alat bantu, keputusan akhir masih berada pada manusia.

Namun saat AI memperoleh kewenangan untuk mengambil keputusan dan mengeksekusi tindakan, konsekuensi dari kesalahan sistem dapat langsung berdampak pada transaksi dan konsumen.

“Risikonya tentu besar juga sehingga mitigasi, regulasi, dalam soal ini harus kita siapkan juga mulai sekarang,” kata Nezar.

Pemerintah perlu menyiapkan tata kelola sebelum penggunaan AI dengan tingkat otonomi tinggi berkembang lebih luas. Kerangka tersebut perlu mengatur batas kewenangan AI, mekanisme pengawasan manusia, akuntabilitas keputusan, keamanan data, serta mitigasi risiko ketika sistem AI berinteraksi dengan sistem AI lainnya.

Kementerian Komunikasi dan Digital telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai salah satu acuan pemanfaatan AI secara bertanggung jawab.

Pemerintah juga tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional dan panduan etika AI sebagai bagian dari kerangka tata kelola AI Indonesia.

“Ini sedang dalam proses untuk bisa ditetapkan menjadi peraturan presiden bersama dengan panduan untuk etika artificial intelligence,” kata Wamen Nezar.