Apple מחמירה את כללי ה-App Store נגד דיפ-פייק מיני ואפליקציות ״הפשטה״

Apple עדכנה ב-16 באוקטובר את ההנחיות לבדיקת אפליקציות ב-App Store, ומעכשיו מפתחים מחויבים במפורש למנוע ולהסיר תמונות אינטימיות שפורסמו בלי הסכמה, כולל כאלה שנוצרו בכלי AI. לצד זה נוסף כלל חדש נגד אפליקציות שמסתירות את ייעודן האמיתי בזמן הבדיקה ומפעילות אותו רק אחרי האישור, תרגיל שמכונה Bait and Switch.

העדכון מכוון בעיקר לאפליקציות ״Nudify״, או בעברית אפליקציות ״הפשטה״, שמקבלות תמונה רגילה של אדם אמיתי ומייצרות ממנה תמונה עירומה מזויפת. ב-Apple מזכירים שתוכן פורנוגרפי אסור בחנות כבר שנים. מה שמשתנה הוא שהאחריות עוברת בצורה ברורה יותר אל המפתחים, ושהחברה מפרטת מה יקרה למי שמנסה לעקוף את המערכת.

שלושה שינויים, מחיר אחד: הרחקה מהחנות

סעיף 1.2, שעוסק בתוכן שמשתמשים יוצרים ומשתפים, מזכיר עכשיו במפורש תמונות אינטימיות שפורסמו בלי הסכמה, לצד הפרת זכויות יוצרים ובריונות אנונימית, ומתייחס גם לאפליקציות שמאפשרות לייצר תוכן, כלומר כלי AI. לפי Apple, אפליקציות כאלה צריכות למנוע ולהסיר את התוכן הזה באופן יזום. מפתח שלא מטמיע אמצעי הגנה מתאימים, או שלא מתקן הפרה אחרי שקיבל התראה, עלול להיחשב כמי שמפר את קוד ההתנהגות למפתחים ולהיות מורחק מהחנות.

סעיף 2.5.19 החדש עוסק באפליקציות שמציגות דבר אחד לצוות הבדיקה ומשהו אחר למשתמשים, למשל אפליקציה שמוסיפה אחרי האישור פיצ׳רים שלא היו בגרסה שנשלחה לבדיקה. העונש: הסרה מה-App Store והרחקה מתוכנית המפתחים של Apple. לפי 9to5Mac, גם הסעיף הקיים על פיצ׳רים נסתרים (2.3.1) חודד, וכעת הוא מזכיר במפורש ערפול קוד (Obfuscation) כשיטת הסתרה שמובילה להסרת האפליקציה ולסגירת חשבון המפתח.

סעיף 5, שעוסק בהיבטים המשפטיים, הובהר אף הוא: אפליקציות שמסייעות לסחר בבני אדם או לניצול ילדים יוסרו מה-App Store וייחסמו גם בערוצי ההפצה החלופיים.

״אנחנו לא מהססים להסיר אפליקציות ולהרחיק את המפתחים שעומדים מאחוריהן כשהם מפרים את ההנחיות״, נכתב בהודעה של Apple למפתחים. החברה מסרה שבשנה שעברה מנעה מיותר מ-150 אלף אפליקציות עם בעיות בטיחות להגיע ללקוחות, וסגרה יותר מ-193 אלף חשבונות מפתחים בגלל הונאה ושימוש לרעה. לדבריה, חלק מההפרות מגיעות מגורמים זדוניים, לפעמים מבצעי הונאה מאורגנים, שמסתירים תוכן מזיק שמופעל רק אחרי שהאפליקציה מאושרת.

שנה של לחץ ציבורי

העדכון לא נולד בחלל ריק. בינואר זיהה ארגון הפיקוח Tech Transparency Project עשרות אפליקציות הפשטה ב-App Store, ובאפריל פרסם תחקיר המשך שלפיו גם הצעות החיפוש והמודעות בחנות הפנו משתמשים לאפליקציות כאלה. ביולי שלח התובע העירוני של סן פרנסיסקו מכתבי התראה ל-Apple ול-Google בדרישה להסיר 13 אפליקציות להחלפת פנים, שמונה מהן ב-App Store, שלטענתו שימשו להפשטת תמונות של אנשים אמיתיים. Apple מסרה אז שהסירה שלוש מהן ושהיא בקשר עם המפתחים של ארבע נוספות.

ברקע עומדת גם פרשת Grok, הצ׳טבוט של xAI, ששימש ליצירת תמונות מיניות מזויפות. לפי MacRumors, מוקדם יותר השנה Apple הבהירה ל-xAI שהאפליקציה תוסר אם הדבר יימשך, ואישרה גרסה מעודכנת רק אחרי שהוטמעו אמצעי הגנה. ותרגיל ההסוואה לא מוגבל לדיפ-פייק: ביולי חשף 9to5Mac עשרות אפליקציות שנראו כמו משחקים וכלים תמימים, אבל הציגו פלטפורמות הימורים כשנפתחו מכתובת IP ברזילאית.

למה זה נוגע גם לעסקים בישראל

אם אתם מפתחים אפליקציה, או מזמינים אחת מבית תוכנה, ויש בה יצירת תמונות או וידאו ב-AI, העלאת תמונות של משתמשים או צ׳אט פתוח, הכללים החדשים חלים עליכם. Apple כבר לא מסתפקת בכך שהתוכן אסור בתקנון. היא מצפה למנגנון סינון, דיווח וחסימה שעובד בפועל, ולטיפול מהיר אחרי התראה. גם השיטה של שליחת גרסה מצומצמת לבדיקה והוספת יכולות אחר כך נמצאת עכשיו תחת זכוכית מגדלת.

ולמי שאינו מפתח: דיפ-פייק מיני הוא כבר כלי לסחיטה, להשפלה ולפגיעה במוניטין, גם של עובדים ומנהלים. המהלך של Apple לא יעלים את התופעה, אבל כל צעד שמקשה לייצר תמונות כאלה בכמה הקשות בטלפון מצמצם את הנזק.

מה הלאה

המבחן האמיתי יהיה באכיפה. Apple ו-Google כבר הסירו בעבר גלים של אפליקציות הפשטה אחרי שחוקרים הצביעו עליהן, ובכל זאת תחקיר ההמשך של TTP מצא שהצעות החיפוש והמודעות ב-App Store עדיין הפנו אליהן. Apple מבטיחה לשפר את הכלים שלה כדי לזהות מהר יותר תוכן שמופעל רק אחרי האישור, ונראה בקרוב אם הדוחות הבאים של ארגוני הפיקוח יראו שינוי.