Sekali lagi sejarah berulang, tetapi kali ini triknya lebih mengejutkan. Pasti Anda akan ingat aplikasinya FaceApp, alat yang memungkinkan Anda menjadi pria berusia 80 tahun atau kecebong yang bergantung pada botol, yah, semua itu sudah ketinggalan jaman, karena sekarang yang dipakai di China adalah ZAO, sebuah aplikasi dari deepfakes yang akan memungkinkan Anda mengganti wajah terkenal dengan wajah Anda sendiri dengan sangat mudah. Masalah? Anda Pribadi.
ZAO dan deepfake
Seperti yang terjadi dengan FaceApp, yang akhirnya dituduh memperlakukan data pengguna dengan cara yang mencurigakan, ZAO Tidak butuh waktu lama untuk jatuh ke dalam tuduhan serupa oleh pengguna. Aplikasi ini telah naik ke tempat unduhan nomor 1 di China dengan cara yang sama seperti yang dilakukan FaceApp. Hanya satu video di Twitter yang cukup untuk membuat fungsinya menjadi populer, dan demonstrasinya patut dilihat.
Allan Xia menerbitkan hasil tesnya. Video 30 detik di mana Anda dapat melihat bagaimana wajahnya membintangi adegan paling ikonik dalam karier Leonardo DiCaprio. Hasilnya spektakuler, tetapi lebih dari itu ketika kita membaca bahwa hanya sebuah foto dan 8 detik dari waktu tunggu.
Jika Anda belum pernah mendengar, #ZAO adalah aplikasi Cina yang benar-benar meledak sejak Jumat. Aplikasi pengganti wajah AI gaya 'Deepfake' terbaik yang pernah saya lihat.
Ini contoh saya sebagai DiCaprio (dihasilkan kurang dari 8 detik dari satu foto di thumbnail)? pic.twitter.com/1RpnJJ3wgT
—Allan Xia (@AllanXia) 1 September 2019
Anda hanya dapat menggunakan video yang diusulkan oleh aplikasi itu sendiri (karena video tersebut telah dianalisis sebelumnya oleh algoritme untuk menjamin hasilnya), jadi Anda tidak akan dapat menempatkan wajah Anda di adegan mana pun. Seperti yang telah kami sebutkan, sebuah foto sederhana berfungsi, tetapi hasilnya meningkat ketika kami menyelesaikan asisten pengenalan wajah, yang akan mengambil beberapa foto dari berbagai sudut dan meminta kami untuk membuka dan menutup mata dan mulut. Dan disinilah muncul pertanyaan. Apa yang dapat dilakukan pengembang ZAO dengan pemindaian wajah kami yang sangat akurat ini?
Privasi aplikasi viral
Seperti yang mereka tunjukkan di The Verge, ZAO milik pengembang Changsha Shendurongue Network Technology, sebuah perusahaan yang menurut Bloomberg adalah anak perusahaan dari Momo, sebuah perusahaan Cina yang memiliki layanan streaming langsung dan layanan kencan. Bisakah mereka menggunakan wajah kita untuk sesuatu?
Nah kekuatan, mereka bisa. Dan Anda sendiri telah memberi mereka izin untuk melakukannya dengan menginstal aplikasi dan menerima ketentuan penggunaan. Itu adalah alarm yang dengan cepat berbunyi di antara pengguna setelah mengetahui bahwa dalam kebijakan privasinya, pengembang mendapatkan semua izin yang memungkinkan, karena berbicara tentang lisensi "gratis, tidak dapat dibatalkan, permanen, dapat dialihkan, dan berlisensi" untuk semua yang dihasilkan oleh pengguna dalam aplikasi.
Ini untuk perwakilan Asia di Hollywood? #ZAO #AI #deepfake pic.twitter.com/qrSs3VajfL
—Allan Xia (@AllanXia) 1 September 2019
Demikian dampak sosial yang ditimbulkan oleh informasi ini, bahwa aplikasi terpaksa mengeluarkan pernyataan yang menginformasikan bahwa data yang diambil (foto dan video) hanya digunakan untuk meningkatkan kinerja aplikasi, dan sebagai tambahan semua data disimpan akan dihapus dari server ketika pengguna menghapus data dalam aplikasi.