Locita

Lupakan Hoaks, “Deepfakes” Jauh Lebih Berbahaya

Sumber Gambar: Vice.com

Mark Zuckerberg hari ini mengisyaratkan bahwa Facebook mungkin akan mengambil langkah untuk menangani deepfakes, yaitu video sintetik yang dibuat dengan kecerdasan buatan, dengan cara yang berbeda dari penanganan jenis penyebaran misinformasi sebelumnya.

Berkaitan dengan misinformasi atau ketidakakuratan, Facebook sudah memberi ruang cukup luas bagi para penggunanya untuk membuat pernyataan yang salah tanpa menghapus unggahan mereka. Namun, deepfakes mungkin berbeda.

“Ada banyak pertanyaan tentang apakah deepfakes benar-benar cuma kategori berbeda dalam hal pernyataan yang salah,” kata Zuckerberg kepada cendekiawan legal Harvard, Cass Sunstein di Festival Ide Aspen, “dan saya rasa kemungkinan besar memang iya.”

Deepfakes sudah menimbulkan banyak kekhawatiran akan potensinya untuk mengganggu stabilitas wacana publik. Dengan teknik komputasi terbaru, deepfakes dapat membuat video serta audio yang realistis dan meyakinkan, menunjukkan orang-orang sedang melakukan atau mengatakan hal-hal yang tidak pernah mereka lakukan atau katakan. Sekelompok seniman, misalnya, membuat satu video Mark Zuckerberg sedang menjelek-jelekan perusahaannya sendiri. Facebook memutuskan untuk tidak menghapusnya.

Namun hari ini, Zuckerberg mengatakan bahwa Facebook sedang bekerja “memproses aturannya” untuk memutuskan apa yang harus dilakukan terhadap deepfakes. Ia berpendapat bahwa masalah ini, dari perspektifnya, harus mencakup dengan persis definisi manapun dari deepfakes.
“Apakah ini media yang dimanipulasi kecerdasan buatan, atau media yang memanipulasi dengan kecerdasan buatan yang membuat seseorang mengatakan apa yang mereka tidak katakan?” tanya Zuckerberg. “Saya rasa definisi seperti inilah yang cukup masuk akal.”

Definisi ini juga cukup sempit. Sebagai contoh, Facebook akhir-akhir ini diserang atas keputusannya membiarkan sebuah video Nancy Pelosi yang dibuat lebih lambat dari aslinya, sehingga seolah menampakkan bahwa Pelosi sedang mabuk karena obat-obatan, atau terlihat sedang tak bisa berpikir karena alasan apapun. Video ini bahkan tak menggunakan kecerdasan buatan, tetapi teknik pengeditan tradisional (dan cukup sederhana).
Meski kontroversi mengenai video Pelosi terus berjalan di balik layar, pendapat yang dinyatakan Zuckerberg tentang definisinya bertujuan menghindari ledakan penghapusan unggahan yang dapat berujung pada definisi deepfakes yang terlalu luas.

“Bila [definisi deepfakes kita] adalah video apapun yang dipotong sedemikian rupa sehingga menyebabkan kesalahpahaman, yah, saya tahu banyak orang telah melakukan wawancara televisi yang dipotong-potong hingga hasilnya tidak disukai beberapa pihak, yang mereka rasa mengubah definisi atau arti dari apa yang sebenarnya disampaikan,” katanya, “Saya rasa kita ingin menelaah hal ini dengan hati-hati agar tidak memberi dasar bagi orang-orang untuk berkata bahwa apa yang mereka tidak suka, atau apa yang telah diedit hingga mengubah apa yang mereka sampaikan di sebuah wawancara, akan dihapus.”
Pada hal ini, bila kita menghitung semua orang yang mengaku pernyataannya telah dikutip secara salah atau diartikan secara salah oleh jurnalis, mungkin dapat dikatakan bahwa ini adalah ketakutan yang nyata.

mengajukan definisi lebih luas tentang video apa yang harus dilarang Facebook, dan memberi contoh secara spesifik tentang video Pelosi.

Zuckerberg mendeskripsikan masalah ini dengan respon Facebook sebagai salah satu “eksekusi” saja. Ia mengatakan, butuh “lebih dari sehari” bagi sistemnya hanya untuk menandai video yang kemungkinan akan memberi pandangan menyesatkan. Pengecek fakta dari luar dapat mengonfirmasinya dalam satu jam, namun dalam seharian itu, sebuah video dapat tersebar secara luas. Zuckerberg lebih menginginkan sebuah video tetap ada, namun langsung ditandai, sehingga persebarannya dapat dibatasi. “Apa yang ingin kita lakukan adalah meningkatkan eksekusi,” kata Zuckerberg, “tetapi saya rasa kita tidak ingin berkata sejauh: sebuah perusahaan privat mencegah saya mengatakan hal yang menurut mereka tidak benar adanya.”

Pernyataan ini senada dengan komentar lain Zuckerberg siang ini, yang mana ia telah meminta berulangkali untuk menerapkan regulasi yang dapat menyelesaikan tentang “pertukaran nilai-nilai fundamental yang saya rasa orang-orang tidak ingin dicampuri oleh perusahaan privat.”

Namun, hingga regulasi tersebut diterapkan, Zuckerberg berkata perusahaannya tengah bekerja untuk membuat sistem terbaik yang dapat mereka kendalikan. Ia juga mengingatkan bahwa Facebook sudah memakai lebih banyak uang untuk pengecekan ulang unggahan dan keamanan daripada pendapatan perusahaannya sendiri, saat mereka meluncurkan saham perusahaan. Pernyataan ini menggambarkan pengeluaran sekitar satu milyar dolar per kuartal.

Pengeluaran inilah, serta infrastruktur baru (yang jelas belum sempurna), yang digunakan Zuckerberg untuk menjaga perusahaannya dari permintaan terbaru untuk memecah Facebook. “Dalam hal pemilihan integritas atau sistem konten, kami memiliki kemampuan karena kami adalah perusahaan yang cukup sukses dan besar untuk membangun sistem-sistem yang belum pernah dibuat sebelumnya,” kata Zuckerberg.

Namun, tak semua masalah dapat dipecahkan. Pada awal wawancara, ketika ditanya tentang intervensi asing terhadap pemilihan di Amerika, Zuckerberg menggulung sebuah daftar aturan-aturan baru Facebook, namun akhirnya mengelak. “Gaji saya terlalu kecil untuk [bicara tentang] itu,” imbuhnya.

====

Artikel ini diterjemahkan dari “Mark Zuckerberg Is Rethinking Deepfakes” yang dipublikasikan di theatlantic.com

Tanjunglarasati

tanjunglarasati

Tentang Penulis

Tanjunglarasati

tanjunglarasati

Follow us

Don't be shy, get in touch. We love meeting interesting people and making new friends.