JurnalPatroliNews – Washington – Kabar terbaru yang dipresentasikan oleh Departemen Luar Negeri Amerika Serikat telah mengundang kekhawatiran yang mendalam terkait bahaya yang ditimbulkan oleh kemajuan teknologi kecerdasan buatan atau AI. Masa depan tampak semakin gelap bagi pemerintah federal AS dalam upaya mereka untuk mencegah potensi bencana yang ditimbulkan oleh AI.
Laporan ini bersumber dari serangkaian wawancara dengan berbagai pihak selama satu tahun, termasuk para eksekutif puncak perusahaan AI, ahli keamanan cyber, pakar senjata pemusnah massal, dan pejabat keamanan.
Ringkasan yang disusun dalam laporan oleh Gladstone AI menunjukkan bahwa dalam skenario terburuk, sistem AI yang paling canggih dapat menghadirkan ancaman yang mengarah pada kepunahan manusia.
“AI sudah menjadi teknologi transformatif bagi ekonomi. Ia bisa menyembuhkan penyakit, membuat penemuan ilmiah dan menyelesaikan tantangan yang sebelumnya kita pikir tidak bisa,” ucap CEO Gladstone AI, Jeremie Harris.
“Tapi AI juga bisa membawa risiko serius, termasuk risiko bencana, yang perlu kita sadari. Dan bukti yang semakin bertambah mengindikasikan bahwa di atas kapabalitas tertentu, AI bisa menjadi tidak dapat dikendalikan,” tambahnya.
Ada dua bahaya utama yang ditimbulkan oleh AI. Pertama, sistem AI yang sangat canggih dapat dilengkapi dengan senjata yang berpotensi merusak. Kedua, ada risiko bahwa laboratorium AI pada suatu titik akan kehilangan kendali atas sistem yang mereka kembangkan, membawa konsekuensi yang merugikan bagi keamanan global.
“Kebangkitan AI dan AGI berpotensi mengacaukan keamanan global yang mirip dengan pengenalan senjata nuklir,” sebut laporan itu. Untuk itu, diperlukan aturan dan pembatasan tentang sejauh mana komputer digunakan untuk melatih AI.
Laporan Gladstone AI juga menyoroti tekanan persaingan yang mendorong perusahaan untuk mempercepat pengembangan AI “dengan mengorbankan keselamatan dan keamanan. Hal ini meningkatkan risiko bahwa sistem AI yang paling canggih dapat dicuri dan digunakan sebagai senjata melawan AS.
Temuan ini hanya menambah panjangnya daftar peringatan tentang risiko eksistensial yang terkait dengan AI. Setahun yang lalu, Geoffrey Hinton, yang dijuluki sebagai “Bapak AI,” meninggalkan Google dan mengungkapkan kekhawatirannya tentang teknologi yang telah ia bantu kembangkan. Hinton mengemukakan kemungkinan 10% bahwa AI akan menyebabkan kepunahan manusia dalam tiga dekade mendatang.
Hinton bersama dengan sejumlah pemimpin industri AI, akademisi, dan pihak lainnya telah menandatangani pernyataan pada bulan Juni yang menyatakan bahwa “mitigasi risiko kepunahan AI harus menjadi prioritas global”.
Pemimpin bisnis juga semakin merasa cemas terhadap bahaya ini, meskipun mereka telah mengalokasikan miliaran dolar untuk investasi dalam AI. Tahun lalu, 42% dari CEO yang disurvei di Yale CEO Summit mengungkapkan kekhawatiran bahwa AI berpotensi menghancurkan umat manusia dalam rentang waktu lima hingga sepuluh tahun ke depan.
Komentar