שוב ההיסטוריה חוזרת על עצמה, אבל הפעם הטריק בולט עוד יותר. בוודאי תזכור את האפליקציה FaceApp, כלי שאיפשר לך להפוך לגבר בן 80 או לראשן תלוי בבקבוק, ובכן, כל זה מיושן, כי עכשיו מה שלובשים בסין הוא ZAO, יישום של deepfakes שיאפשר לך להחליף פנים מפורסמות בפנים שלך בקלות מדהימה. הבעיה? אתה פרטיות.
ZAO והזיופים העמוקים
כמו שקרה עם FaceApp, שבסופו של דבר הואשם בטיפול בנתוני משתמשים בצורה חשודה, ZAO לא לקח זמן רב עד שנקלע להאשמות דומות מצד המשתמשים. האפליקציה עלתה למקום ההורדה מספר 1 בסין באותו אופן שבו עשתה FaceApp. רק סרטון אחד בטוויטר הספיק כדי שהפונקציה תהפוך לפופולרית, וכדאי לראות את ההדגמה.
אלן שיה פרסם את תוצאות הבדיקות שלו. סרטון בן 30 שניות בו ניתן לראות כיצד פניו מככבות בסצנות האייקוניות ביותר בקריירה של ליאונרדו דיקפריו. התוצאות מרהיבות, אבל הן אפילו יותר כשאנחנו קוראים שרק תצלום ו שניות 8 של זמן המתנה.
למקרה שלא שמעת, #ZAO היא אפליקציה סינית שהתפוצצה לחלוטין מאז יום שישי. היישום הטוב ביותר של תחליף פנים בינה מלאכותית בסגנון 'Deepfake' שראיתי אי פעם.
הנה דוגמה שלי בתור DiCaprio (נוצר תוך פחות מ-8 שניות מהתמונה האחת בתמונה הממוזערת)? pic.twitter.com/1RpnJJ3wgT
- אלן שיה (@AllanXia) 1 בספטמבר 2019
אתה יכול להשתמש רק בסרטונים המוצעים על ידי האפליקציה עצמה (מכיוון שהם אלו שנותחו בעבר על ידי האלגוריתם כדי להבטיח את התוצאות), כך שלא תוכל למקם את הפנים שלך באף סצנה. כפי שציינו, צילום פשוט עובד, אך התוצאות משתפרות כאשר אנו משלימים את עוזרת זיהוי הפנים, שתצלם מספר תמונות מזוויות שונות ותבקש מאתנו לפתוח ולעצום את העיניים והפה. וכאן עולה השאלה. מה יכלו מפתחי ZAO לעשות עם הסריקה המאוד מדויקת הזו של הפנים שלנו?
הפרטיות של אפליקציות ויראליות
כפי שהם מציינים ב השוליים, ZAO שייכת למפתחת Changsha Shendurongue Network Technology, חברה שלפי בלומברג היא חברת בת של Momo, חברה סינית שבבעלותה שירות סטרימינג בשידור חי ושירות היכרויות. האם הם יכולים להשתמש בפנים שלנו למשהו?
ובכן כוח, הם יכולים. ואתה בעצמך נתת להם הרשאה לעשות זאת על ידי התקנת האפליקציה וקבלת תנאי השימוש. זו האזעקה שנשמעה במהירות בקרב המשתמשים לאחר שנודע כי במדיניות הפרטיות שלו המפתח מקבל את כל ההרשאות האפשריות, שכן הוא מדבר על רישיון "חינם, בלתי הפיך, קבוע, ניתן להעברה ומורשה" לכל מה שנוצר על ידי המשתמש באפליקציה.
הנה לייצוג אסיאתי בהוליווד? #ZAO #AI #Deepfake pic.twitter.com/qrSs3VajfL
- אלן שיה (@AllanXia) 1 בספטמבר 2019
כזו הייתה ההשלכה החברתית שהמידע הזה יצר, שהאפליקציה נאלצה להוציא הצהרה המודיעה שהנתונים שנלכדו (תמונות וסרטונים) משמשים רק לשיפור ביצועי האפליקציה, וכי בנוסף כל הנתונים המאוחסנים יימחקו מהשרתים כאשר המשתמשים ימחק את הנתונים באפליקציה.