Menurut beberapa perkiraan, hingga 96% dari semua deepfake adalah pornografi, ini sekaligus menyoroti kekhawatiran seputar deepfake yang digunakan untuk pelecehan, pemerasan, dan mempermalukan publik.Teknologi ini juga dapat membantu para pelaku kejahatan siber. Setidaknya dalam dua kasus, di Inggris dan Hong Kong, deepfake suara telah digunakan untuk mengelabui perusahaan agar mentransfer dana ke penipu online, dengan menyamar sebagai pejabat dari masing-masing perusahaan.
Penelitian terbaru menunjukkan bahwa algoritma deteksi liveness komersial, yang digunakan oleh lembaga keuangan dalam prosedur KYC, dapat tertipu oleh deepfake yang dibuat dari foto ID, menciptakan vektor serangan baru sehingga membuat kebocoran identitas menjadi masalah yang lebih serius.
Masalah lainnya adalah bahwa deepfake merusak rasa kepercayaan terhadap konten audio dan video karena dapat digunakan untuk tujuan berbahaya. Misalnya, dalam kasus baru-baru ini, wawancara palsu dengan Elon Musk digunakan untuk mempromosikan penipuan cryptocurrency.
Berbagai pakar dan institusi, seperti Europol, memperingatkan bahwa meningkatnya ketersediaan deepfake dapat menyebabkan proliferasi lebih lanjut terkait disinformasi di Internet.
Namun tidak semuanya merupakan berita buruk. Manipulasi gambar sama tuanya dengan gambar itu sendiri, dan CGI telah ada selama beberapa dekade, dan keduanya telah dimanfaatkan untuk penggunaan yang layak, seperti halnya deepfake.
Misalnya, dalam video Kendrick Lamar baru-baru ini, Heart Part 5, teknologi deepfake digunakan untuk mengubah wajah rapper menjadi selebritas terkenal lainnya, seperti Kanye West. Dalam film Top Gun: Maverick, sebuah algoritma digunakan untuk menyuarakan karakter Val Kilmer setelah sang aktor kehilangan suaranya.
Algoritma deepfake juga digunakan untuk membuat serial TikTok viral yang dibintangi oleh Tom Cruise palsu. Dan beberapa startup mencari cara baru untuk menggunakan teknologi, misalnya, untuk menghasilkan avatar metaverse yang hidup.
Komentar