Berbagai organisasi kini menghadapi pergeseran risiko yang mendasar seiring dengan penerapan AI berbasis agen untuk menjalankan tugas-tugas melalui berbagai API dan sistem. Akamai merilis laporan terbaru State of the Internet (SOTI) yang berfokus pada tantangan keamanan AI yang sedang berkembang.
Laporan berjudul ‘The Agentic Frontier: Speed, Scale, and Nonhuman Identity’ ditujukan bagi para Chief Information Security Officer (CISO). Dokumen ini menjelaskan bahwa pengamanan bisnis modern telah berevolusi dari manajemen identitas dan akses untuk manusia menjadi tantangan tata kelola perilaku atas entitas non-manusia.
“Laporan tersebut menyoroti dua tantangan krusial: kesulitan dalam menetapkan batasan bagi agen otonom, dan kecepatan model AI dalam mengidentifikasi kerentanan yang seringkali melampaui siklus pembaruan yang dilakukan manusia,” kata Boaz Gelbord, Chief Security Officer di Akamai.
Temuan utama dari Laporan SOTI mengungkap adanya kesenjangan visibilitas terkait Model Context Protocol (MCP). MCP memungkinkan agen AI berinteraksi dengan berbagai sistem perangkat lunak secara otonom, namun pengawasan terhadap protokol ini justru menempati urutan terakhir dalam prioritas keamanan CISO.
Kesenjangan visibilitas ini menjadi kritis mengingat para pemimpin keamanan memperkirakan agen AI yang tidak terkendali akan menjadi ancaman siber utama pada tahun 2030. Beberapa temuan spesifik mencakup kebocoran data chatbot, di mana lebih dari 6% percakapan mengandung data perusahaan sensitif, dengan 47% interaksi terjadi melalui akun pribadi yang tidak diawasi.
Selain itu, Inisiatif Frontier AI menunjukkan model-model AI mampu dengan cepat mengidentifikasi dan menghubungkan kelemahan sistem. Hal ini membuat penambalan keamanan (patching) reaktif menjadi tidak memadai dan menuntut mitigasi edge secara real-time.
Browser sebagai ruang kerja juga teridentifikasi belum terlindungi. Lebih dari 40% pengguna korporat telah menginstal ekstensi browser berbasis AI, di mana 25% di antaranya mengubah izin dalam setahun. Alat-alat ini memiliki kemungkinan 60% lebih besar mengandung kerentanan yang sudah diketahui dibandingkan ekstensi standar.
Maraknya pelanggan sintetis juga menjadi perhatian. Seiring agen AI menggantikan traffic web tradisional untuk mendorong penemuan merek, CISO perlu memperluas perlindungan melampaui malware hingga mencakup metrik Generative Engine Optimization (GEO), termasuk kutipan, akurasi, sentimen, dan pengelolaan bot.
“AI menghadirkan momen ‘everything, everywhere, all at once’ atau situasi yang sangat merepotkan karena banyak hal muncul secara bersamaan bagi ekosistem keamanan secara keseluruhan,” kata Boaz.
Terdapat tiga ancaman utama: pertama, penggunaan AI secara internal di seluruh organisasi, baik kode yang dihasilkan AI maupun pemanfaatan alat produktivitas berbasis AI. Kedua, integrasi AI langsung ke dalam produk yang berinteraksi dengan pelanggan dan beban kerja cloud, yang mengubah profil risiko operasional. Ketiga, serangan yang didorong oleh AI yang menargetkan perusahaan.
“Program keamanan perlu beradaptasi dengan realitas yang berkembang pesat ini, dan ada banyak tekanan dalam sistem akibat kecepatan perubahan yang belum pernah terjadi sebelumnya. Ini akan menjadi topik utama bagi dewan direksi, pelanggan, dan regulator dalam waktu dekat,” ujarnya.
Steve Winterfeld, Advisory CISO Akamai, menambahkan, “Munculnya web berbasis agen menandai perubahan mendasar dalam cara nilai bisnis dan logika operasional diciptakan. Seiring dengan perkembangan AI otonom dari sekadar menjawab pertanyaan menjadi pelaksanaan strategi bisnis bertahap, kepemimpinan di bidang keamanan harus berkembang sejalan dengan hal tersebut.”
Rekomendasi Strategis Akamai
Untuk menghadapi era AI berbasis agen, Akamai menguraikan empat pilar utama bagi CISO dalam laporan tersebut:
- Beralih ke Tata Kelola Edge yang Adaptif: Terapkan perlindungan runtime native edge, filter API, dan mekanisme isolasi untuk segera menetralkan kerentanan sementara proses penambalan di sistem backend berlangsung.
- Amankan Edge Browser: Bangun visibilitas dan kontrol perilaku di dalam browser untuk mengamankan penggunaan ekstensi AI yang tidak dikelola dan model yang di-hosting di web oleh tenaga kerja.
- Lindungi Otoritas Brand dalam Ekonomi Tanpa Klik: Terapkan strategi GEO dan lapisan data yang dapat dibaca mesin di jaringan edge untuk mencegah crawler AI dan pembeli sintetis membuat data brand perusahaan menjadi tidak akurat atau menyajikannya secara keliru.
- Sesuaikan Otonomi dengan Kemampuan Verifikasi: Berikan otonomi operasional kepada agen AI berdasarkan seberapa mudah tindakan mereka dapat diverifikasi dan seberapa reversibel potensi kegagalan tersebut, sambil tetap mempertahankan kontrol dengan keterlibatan manusia (human-in-the-loop) untuk tindakan yang berisiko tinggi.