Nok en gang gjentar historien seg, men denne gangen er trikset enda mer slående. Du vil sikkert huske søknaden FaceApp, et verktøy som gjorde at du kunne bli en 80 år gammel mann eller rumpetroll avhengig av en flaske, vel, alt det er utdatert, for nå er det som bæres i Kina ZAO, en applikasjon av deepfakes som lar deg erstatte kjente ansikter med dine egne med forbløffende letthet. Problemet? Du Personvern.
ZAO og deepfakes
Som det skjedde med FaceApp, som endte opp med å bli anklaget for å behandle brukerdata på en mistenkelig måte, ZAO Det har ikke tatt lang tid å falle inn i lignende anklager fra brukere. Appen har steget til nummer 1 nedlastingsplass i Kina på samme måte som FaceApp gjorde. Kun én video på Twitter var nok til at funksjonen ble populær, og demonstrasjonen er verdt å se.
Allan Xia publiserte resultatene av testene sine. En 30-sekunders video der du kan se hvordan ansiktet hans spiller i de mest ikoniske scenene i Leonardo DiCaprios karriere. Resultatene er spektakulære, men de er enda mer når vi leser at bare et fotografi og 8 sekunder av ventetid.
I tilfelle du ikke har hørt, #ZAO er en kinesisk app som har eksplodert siden fredag. Beste bruk av 'Deepfake'-stil AI ansiktserstatning jeg noensinne har sett.
Her er et eksempel på meg som DiCaprio (generert på under 8 sekunder fra det ene bildet i miniatyrbildet) ? pic.twitter.com/1RpnJJ3wgT
—Allan Xia (@AllanXia) 1 september 2019
Du kan bare bruke videoer foreslått av selve applikasjonen (siden det er de som tidligere har blitt analysert av algoritmen for å garantere resultatene), så du vil ikke kunne plassere ansiktet ditt i noen scene. Som vi har nevnt, fungerer et enkelt fotografi, men resultatene blir bedre når vi fullfører ansiktsgjenkjenningsassistenten, som vil ta flere bilder fra forskjellige vinkler og be oss om å åpne og lukke øynene og munnen. Og det er her spørsmålet oppstår. Hva kan ZAO-utviklere gjøre med denne svært nøyaktige skanningen av ansiktet vårt?
Personvernet til virale apper
Som de påpeker i The Verge, ZAO tilhører utvikleren Changsha Shendurongue Network Technology, et selskap som iht Bloomberg er et datterselskap av Momo, et kinesisk selskap som eier en direktestrømmetjeneste og en datingtjeneste. Kan de bruke ansiktene våre til noe?
Vel makt, det kan de. Og du har selv gitt dem tillatelse til å gjøre det ved å installere applikasjonen og godta bruksvilkårene. Det er alarmen som raskt har gått blant brukere etter å ha fått vite at utvikleren i sin personvernpolicy får alle mulige tillatelser, siden den snakker om en "gratis, ugjenkallelig, permanent, overførbar og lisensiert" lisens for alt som genereres av brukeren i søknaden.
Her er for asiatisk representasjon i Hollywood? #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
—Allan Xia (@AllanXia) 1 september 2019
Det har vært den sosiale konsekvensen som denne informasjonen har skapt, at applikasjonen har blitt tvunget til å avgi en erklæring som informerer om at dataene som fanges (bilder og videoer) kun brukes til å forbedre ytelsen til applikasjonen, og at i tillegg alle dataene lagret vil bli slettet fra serverne når brukere sletter dataene i applikasjonen.