Meta AI הציע לשאול ״מי הילדה במכונית?״, וחשף שמות וגילאים של בנות של יוצרת תוכן
יוצרת תוכן מיוטה העלתה סרטון עם בתה, ו-Meta AI הציע מתחתיו שאלות על הילדה. התשובות הרכיבו פרופיל מפוסטים ישנים של קרובי משפחה. Meta הודתה שהפיצ׳ר ״החטיא״ ואמרה שתיקנה אותו.
TL;DR בקצרה
- בסרטון שהעלתה Kalie Robins מיוטה, Meta AI הציע את השאלה ״מי הילדה שיושבת במכונית?״.
- התשובות כללו שמות של שתי בנותיה, גילאים, ימי הולדת ופרטים על מקום המגורים, מפוסטים של קרובי משפחה.
- Meta אמרה שהפיצ׳ר לא היה צריך להציע שאלות כאלה ושהבעיה תוקנה. לפי The Verge, הצעות בנושאים אישיים יוסרו.
- המקרה ממחיש שכלי AI יכולים לחבר פרטים מפוזרים מפוסטים ציבוריים ישנים לפרופיל אחד.
יוצרת תכנים מיוטה, Kalie Robins, העלתה לאינסטגרם סרטון שבו היא שרה עם אחת מבנותיה במכונית. הסרטון שותף גם לפייסבוק. מתחת לסרטון הציע Meta AI, העוזר המובנה של Meta, שאלה מוכנה. השאלה ״מי הילדה שיושבת במכונית?״ הובילה לתשובות על שתי הבנות. התשובות שקיבלה כללו את השמות, הגילאים וימי ההולדת של שתי בנותיה.
לדבריה, היא מעולם לא פרסמה את שמותיהן. Futurism דיווח על המקרה ב-10 בספטמבר 2026. Meta הודתה שהפיצ׳ר ״החטיא את המטרה״.
איך Meta AI בנה פרופיל מפוסטים של סבים וסבתות
לפי הדיווח, הפנים של הבת נראו בסרטון, אבל איש לא הזכיר את שמה. אחרי שלחצה על השאלה המוצעת, העוזר זיהה את שתי הבנות. ביניהן גם הבת שלא הופיעה בסרטון.
בהמשך הציע העוזר שאלות נוספות, כמו מה הגילאים של הבנות ואיפה המשפחה גרה. לפי Futurism, התשובות פירטו גילאים וציר זמן על בסיס ברכות יום הולדת והודעות לידה. הן כללו גם פוסט של סבתא על הלידה, ואפילו את משקל הלידה.
העוזר הסיק מהגילאים באיזו כיתה הבנות לומדות. הוא ציין שיש באזור רק בית ספר אחד. בנוסף, פירט חופים, ספרים ומסלולי טיול שהמשפחה אוהבת.
הוא גם הקדיש כמה פסקאות למקום שבו Robins כנראה גרה. בכך הסתמך על פוסט ברכה בפייסבוק מ-2018. כמו כן, פירט את ההיסטוריה התעסוקתית שלה ושל בעלה. בני משפחה פרסמו את רוב המידע לאורך שנים, לא Robins עצמה.
החשבונות שלה היו ציבוריים, עם כמה מאות עוקבים בלבד. זאת משום שהיא בונה קהל כיוצרת תכנים בתחום הטיולים. לפי הדיווח, כמה מקרוביה החלו למחוק פוסטים ישנים, חלקם בבכי.
מה Meta אמרה ומה השתנה
Meta אישרה ל-Futurism ש-Meta AI יכול לחפש בתוכן של המשתמש ובמידע ציבורי ברשת. החברה אמרה שהפיצ׳ר נועד לעזור לאנשים לקבל מידע נוסף על נושאים ופוסטים שמעניינים אותם. אבל לדברי החברה, הוא לא היה צריך להציע שאלות כאלה. היא גם אמרה שתיקנה את הבעיה.
לפי The Verge, כפי שצוטט באתרים נוספים, השינוי יסיר הצעות לשאלות בנושאים אישיים. Meta לא פירטה אילו נושאים היא מגדירה כאישיים. היא גם לא פירטה אם השינוי חל באותה צורה בכל האפליקציות שלה. Meta AI משולב בכולן: פייסבוק, אינסטגרם, WhatsApp ו-Messenger.
הבעיה האמיתית ב-Meta AI: חיבור הנקודות
שום פרט בפני עצמו לא היה סודי. ברכת יום הולדת, הודעת לידה או צילום מטיול הם בדיוק מה שמשפחות מפרסמות כל הזמן. זה קורה גם בישראל.
החידוש הוא שכלי AI עם גישה לתכנים ציבוריים מחבר את כל הנקודות האלה בשניות. הוא מרכיב מהן פרופיל אחד ומגיש אותו למי שלוחץ על שאלה מוצעת. מה שהיה פעם עבודת בילוש של שעות הפך לתוצאה של לחיצה אחת. בנוסף, השאלה עצמה לא הגיעה מהמשתמש אלא מהמערכת.
Meta אמנם הסירה את ההצעות, אבל היכולת לחפש במידע ציבורי נשארת, ולא רק אצלה. כל עוזר AI עם גישה לרשת יכול לנסות לבצע חיבור דומה כשמישהו שואל אותו במפורש. לכן ההגנה הטובה ביותר היא לצמצם מראש את מה שפתוח לכולם.
מה זה אומר עבורכם
- בדקו מה ציבורי אצלכם. השתמשו באפשרות לצפות בפרופיל כפי שאדם זר רואה אותו. עברו על פוסטים ישנים שבהם מופיעים ילדים.
- הגבילו פוסטים ישנים. בפייסבוק אפשר להגביל בבת אחת את הקהל של כל הפוסטים הקודמים לחברים בלבד. באינסטגרם שקלו להפוך חשבון משפחתי לפרטי.
- דברו עם המשפחה. סבים, דודים וחברים מפרסמים לעיתים שם מלא, תאריך לידה ובית ספר. בקשו מהם לא לכתוב את שלושת הפרטים האלה יחד, ולשתף ברכות כאלה בקהל מצומצם.
- יוצרי תכנים ובעלי עסקים: הפרידו בין החשבון העסקי או הציבורי לבין החשבון המשפחתי. אל תפרסמו פרטים מזהים כמו מדי בית ספר, שמות או מיקום בזמן אמת.
- אל תלחצו על כל הצעה. שאלות שמערכת AI מציעה מתחת לפוסטים אינן בדיקת אבטחה ואינן חובה. אם שאלה נראית לא במקום, דווחו עליה דרך האפליקציה.
מקורות והרחבה
- Mother Horrified When Meta's AI Scours Instagram and Facebook for Invasive Information About Her Young DaughtersFuturism
- Meta Removes Invasive AI Prompt SuggestionsLet's Data Science (citing The Verge)
- ‘Who’s the child passenger?’: The kids’ privacy problem that AI’s exposing (Politico)Benton Institute / Politico
הכתבה נכתבה במקור בעברית על ידי מערכת GEEKLIK, על בסיס המקורות שלמעלה ובדיקת העובדות מולם.
מצאתם טעות? דווחו לנו
