Perkembangan pesat kecerdasan buatan (AI) menuntut Indonesia untuk membentuk sebuah lembaga khusus, yaitu AI Safety Institute. Lembaga ini dinilai krusial untuk menguji dan mengawasi sistem AI sebelum diimplementasikan pada sektor-sektor vital yang bersinggungan langsung dengan masyarakat.
Pergeseran AI dari sekadar pemberi jawaban menjadi agen yang mampu menentukan dan mengeksekusi tindakan dengan intervensi manusia yang minim menjadi latar belakang utama kebutuhan ini. Anggota Dewan Pengarah Badan Riset dan Inovasi Nasional (BRIN), Marsudi Wahyu Kisworo, menjelaskan bahwa AI kini bertransformasi menjadi teknologi proaktif.
“AI yang tadinya pasif akan menjadi AI yang aktif. AI tidak lagi sebatas menjawab pertanyaan, tetapi sudah bisa mengeksekusi dan melakukan aksi,” ujar Marsudi dalam keterangan persnya.
Fenomena ini terlihat jelas pada kemunculan agentic AI, sebuah sistem AI yang mampu memecah tujuan kompleks menjadi serangkaian tindakan dan melaksanakannya dengan keterlibatan manusia yang semakin terbatas. Kemampuan ini membuka luas potensi pemanfaatan AI di berbagai lini, namun di sisi lain menghadirkan tantangan signifikan terkait keselamatan, keamanan, akuntabilitas, dan pengawasan.
Contoh pemanfaatan AI yang sudah meresap dalam kehidupan sehari-hari meliputi sistem rekomendasi pada platform digital, deteksi transaksi keuangan mencurigakan, hingga teknologi biometrik seperti pengenalan wajah dan sidik jari. Ke depan, potensi aplikasi AI diprediksi akan semakin merambah ke sektor kesehatan, pertanian, pendidikan, transportasi, layanan sosial, hingga infrastruktur kritis.
“Isu utamanya bukan lagi menolak atau menelan bulat-bulat AI, tetapi tantangan sebenarnya adalah bagaimana kita bisa mengeksplorasi maksimal tanpa mengorbankan keselamatan publik,” tegas Marsudi.
Marsudi mengusulkan agar AI Safety Institute dapat menjalankan fungsi pengujian dan audit independen, serta menyediakan ruang uji terisolasi atau regulatory sandbox. Mekanisme ini memungkinkan evaluasi mendalam terhadap sistem AI sebelum benar-benar diterapkan pada sektor yang memiliki dampak luas bagi publik.
“Lembaga ini bukan untuk menambah birokrasi, melainkan bertindak sebagai benteng penguji, melakukan audit independen, serta menyediakan ruang uji terisolasi atau regulatory sandbox,” jelas Marsudi.
Pengujian yang komprehensif menjadi sangat penting mengingat potensi risiko yang menyertai penggunaan AI, seperti bias dan diskriminasi, isu perlindungan data pribadi, kesalahan dalam pengambilan keputusan, hingga kerentanan terhadap serangan siber.
Tujuh Aspek Kunci Pengujian AI
Marsudi merinci tujuh aspek krusial yang harus diuji sebelum sistem AI diberikan kewenangan untuk mengeksekusi keputusan berskala besar. Aspek-aspek tersebut meliputi:
- Potensi bias diskriminatif.
- Transparansi dasar pengambilan keputusan.
- Perlindungan data pribadi.
- Tingkat kontrol dan intervensi manusia.
- Mekanisme penghentian sistem.
- Kejelasan subjek hukum yang bertanggung jawab jika terjadi kesalahan.
- Ketahanan infrastruktur terhadap peretasan.
Aspek pengawasan ini menjadi semakin vital ketika AI dilibatkan dalam pengambilan keputusan yang berdampak langsung pada masyarakat, seperti penentuan kelayakan bantuan sosial, akses terhadap fasilitas kesehatan, pemberian kredit, hingga pengelolaan sistem pendidikan.
Penguatan pengawasan ini harus selaras dengan prinsip bahwa kendali utama tetap berada di tangan manusia. AI dapat dimanfaatkan untuk kalkulasi dan rekomendasi, namun keputusan akhir serta pertanggungjawaban penggunaannya harus tetap dipegang oleh manusia.
“Karena itu, sistem AI juga perlu memiliki mekanisme yang memungkinkan manusia mengambil alih atau menghentikan sistem ketika terjadi kesalahan,” imbuh Marsudi.
Peta Jalan AI Nasional untuk Fleksibilitas Regulasi
Di sisi lain, Wakil Menteri Komunikasi dan Digital, Nezar Patria, menyatakan bahwa Indonesia telah menyiapkan Peta Jalan AI Nasional yang dirancang dengan horizon waktu lima tahun. Tujuannya adalah agar kebijakan yang ada dapat terus beradaptasi dengan perkembangan teknologi dan risiko-risiko baru yang muncul.
Munculnya teknologi baru seperti AI generatif menunjukkan bahwa kemampuan AI dapat berkembang melampaui perkiraan dalam waktu singkat. Hal ini menuntut adanya kerangka regulasi yang adaptif.
“Perkembangan AI begitu cepat, pengembangan AI begitu mengejutkan sehingga kalau kita patok sampai dengan 10 tahun ke depan, mungkin kita tidak bisa melakukan perubahan-perubahan dengan cepat dalam soal regulasi,” ungkap Nezar.
Pemerintah juga sedang merumuskan regulasi etika AI sebagai bagian integral dari kerangka tata kelola nasional. Peta Jalan AI Nasional 2026–2029 dan regulasi etika AI diharapkan menjadi instrumen penting dalam membangun ekosistem AI yang bertanggung jawab.
Perkembangan AI generatif, lanjut Nezar, menjadi salah satu contoh nyata bagaimana teknologi dapat menghadirkan konsekuensi yang sebelumnya sulit diperkirakan. Kemampuan AI dalam menghasilkan teks, gambar, suara, dan berbagai bentuk konten berkembang sangat pesat.
“Tidak pernah terbayangkan generatif AI itu sedahsyat ini dan memberikan banyak konsekuensi-konsekuensi yang tidak terduga, tidak terbayangkan, termasuk oleh pengembangnya sendiri,” ujarnya.
Kondisi ini menegaskan bahwa kebijakan AI tidak bisa hanya berorientasi pada pengaturan teknologi yang ada saat ini. Perlu dibangun sebuah kerangka yang memungkinkan regulasi untuk terus mengikuti perubahan teknologi, sembari tetap menjaga prinsip etika, keamanan, inklusivitas, dan kepentingan masyarakat luas.