Un cop més la història es repeteix, però en aquesta ocasió el truc encara és més cridaner. Segur que recordareu l'aplicació FaceApp, una eina que permetia convertir-te en tot un senyor de 80 anys o en un capgròs dependent del biberó, doncs bé, tot això està antiquat, perquè ara el que es porta a la Xina és ZAO, Una aplicació de fons profunds que et permetrà reemplaçar cares de famosos pel teu amb una facilitat sorprenent. El problema? Tu privacitat.
ZAO i els deepfakes
Igual que va passar amb FaceApp, que va acabar sent acusada per tractar les dades dels usuaris de forma sospitosa, ZAO no ha trigat a caure en unes acusacions semblants per part dels usuaris. L'aplicació s'ha col·locat al lloc número 1 de descàrregues a la Xina de la mateixa manera que els va fer FaceApp. Només n'hi ha hagut prou amb un vídeo a Twitter perquè la funció es faci popular, i és que la demostració val la pena veure-la.
Allan Xia va publicar els resultats de les proves. Un vídeo de 30 segons en què es pot veure com el seu rostre protagonitza les escenes més icòniques de la cursa de Leonardo DiCaprio. Els resultats són espectaculars, però encara ho són més quan llegim que per generar-los només s'ha necessitat una fotografia i 8 segons de temps despera.
In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfake'-style AI facial replacement I've ever seen.
Here's an example of me as DiCaprio (generated in under 8 secs from that one photo in the thumbnail) ? pic.twitter.com/1RpnJJ3wgT
— Allan Xia (@AllanXia) 1 de setembre de 2019
Només es poden utilitzar vídeos proposats per la pròpia aplicació (ja que són els que han estat prèviament analitzats per l'algorisme per garantir els resultats), així que no podràs col·locar la teva cara a qualsevol escena. Com hem comentat, una simple fotografia funciona, però els resultats milloren quan completem l'assistent de reconeixement facial, que farà diverses fotos des de diferents angles i ens demanarà obrir i tancar els ulls i la boca. I és aquí on es planteja el dubte. Què podria fer els desenvolupadors de ZAO amb aquest escaneig tan precís de la nostra cara?
La privadesa de les aplicacions virals
Tal com apunten a La Verge, ZAO pertany a la desenvolupadora Changsha Shendurongue Network Technology, una companyia que segons Bloomberg és subsidiària de Momo, una empresa xinesa propietària d?un servei de streamings en directe i un servei de cites. Podrien fer servir les nostres cares per a alguna cosa?
Doncs poder, poden. I tu mateix els has donat permís per fer-ho en instal·lar l'aplicació i acceptar-ne les condicions d'ús. Aquesta és l'alarma que ràpidament ha saltat entre els usuaris després de conèixer que a la seva política de privadesa el desenvolupador obté tots els permisos possibles, ja que es parla d'una llicència “gratuïta, irrevocable, permanent, transferible i amb llicència” per a tot allò que sigui generat per l'usuari a l'aplicació.
Here's for Asian representation in Hollywood ? #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
— Allan Xia (@AllanXia) 1 de setembre de 2019
Tal ha estat la repercussió social que ha generat aquesta informació, que l'aplicació s'ha vist obligada a emetre un comunicat informant que les dades capturades (fotos i vídeos) només es fan servir per millorar el rendiment de l'aplicació, i que a més totes les dades emmagatzemats seran esborrats dels servidors quan els usuaris esborrin les dades a l'aplicació.