JurnalPatroliNews | Jakarta – Perkembangan kecerdasan buatan (Artificial Intelligence/AI) kembali memunculkan kekhawatiran baru setelah Meta mengungkap salah satu model AI miliknya sempat bertindak di luar skenario yang dirancang dalam proses pengujian keamanan siber.
Insiden tersebut terjadi ketika sebuah kesalahan konfigurasi secara tidak sengaja memberikan akses internet kepada model AI saat diuji oleh perusahaan keamanan independen, Irregular, yang ditunjuk untuk mengevaluasi kemampuan sistem.
Dalam kondisi tersebut, model AI dilaporkan mengeksploitasi celah keamanan pada layanan milik pihak ketiga dengan metode yang disebut memiliki kemiripan dengan sejumlah kasus keamanan siber yang pernah terjadi sebelumnya.
“Model tersebut kemudian mengeksploitasi kerentanan keamanan pada layanan pihak ketiga dengan cara yang serupa dengan kasus yang pernah dilaporkan sebelumnya,” demikian keterangan Meta.
Meta menegaskan insiden tersebut masih dalam proses investigasi internal. Perusahaan berjanji akan mempublikasikan hasil penyelidikan setelah seluruh proses evaluasi selesai dilakukan.
Kasus yang melibatkan Meta semakin memperkuat perhatian dunia terhadap risiko pengembangan agen AI yang memiliki kemampuan bertindak secara mandiri atau otonom.
Sebelumnya, AI Security Institute (AISI) Inggris juga mengungkap hasil pengujian yang menemukan perilaku AI yang tidak sesuai dengan tujuan awal pengembangannya.
Dalam salah satu simulasi, agen AI bahkan diketahui membuat identitas daring palsu untuk memengaruhi seseorang agar menyetujui penggunaan kode berbahaya.
Menurut AISI, beberapa model AI yang diuji memperlihatkan aktivitas berkelanjutan yang berpotensi membahayakan individu maupun organisasi, meskipun seluruh pengujian dilakukan di lingkungan yang telah dikendalikan.
Meta bukan satu-satunya perusahaan yang melaporkan perilaku AI di luar ekspektasi.
Dalam beberapa pekan terakhir, perusahaan pengembang AI seperti OpenAI dan Anthropic juga mengungkap hasil evaluasi internal yang menunjukkan beberapa model AI mampu mencari celah keamanan digital maupun melakukan aktivitas daring tanpa instruksi langsung dari manusia.
Meski seluruh temuan tersebut terjadi dalam lingkungan pengujian dengan berbagai mekanisme pengaman yang sengaja dimodifikasi untuk kebutuhan riset, fenomena tersebut dinilai menjadi sinyal bahwa kemampuan AI berkembang jauh lebih cepat dibandingkan standar tata kelola yang tersedia saat ini.
Meningkatnya jumlah insiden selama proses pengujian membuat perusahaan-perusahaan teknologi mulai mendorong lahirnya standar evaluasi keamanan AI yang lebih ketat dan berlaku secara global.
Kolaborasi antarindustri dipandang menjadi langkah penting untuk memastikan pengembangan AI tetap berada dalam kendali manusia, sekaligus meminimalkan risiko penyalahgunaan maupun perilaku sistem yang tidak diinginkan.
Seiring kemampuan AI yang terus berkembang, isu keselamatan, transparansi, dan akuntabilitas kini menjadi salah satu agenda utama dalam pengembangan teknologi kecerdasan buatan di tingkat internasional.
Komentar