דיווח: מאות קבלנים של OpenAI קוראים שיחות אמיתיות ב-ChatGPT כדי לדרג תשובות

מי שמשתמש ב-ChatGPT בחשבון פרטי צריך להניח שאדם עשוי לקרוא את מה שהוא מקליד. ב-14 בספטמבר חשף אתר התחקירים 404 Media את Project Lily. לפי החשיפה, OpenAI מעסיקה מאות קבלנים חיצוניים שקוראים שיחות אמיתיות של משתמשים. הם גם מדרגים את התשובות של הצ'אטבוט.

לפי הדיווח, חלק מהשיחות כוללות מידע אישי רגיש. OpenAI עצמה מודה שפרטים כאלה עלולים לעבור את הסינון.

מה רואים המדרגים של Project Lily, ומה הם עושים

לפי 404 Media, המדרגים לא רואים את שם המשתמש. אבל הם מקבלים את הבקשה המקורית, ולעיתים את השיחה כולה. לפי TNW ו-ForkLog, שסיכמו את התחקיר, מעל הבקשה מופיע לעיתים גם סיכום של הזיכרונות. אלה הזיכרונות ש-ChatGPT שמר על המשתמש. הסיכום יכול לחשוף במה המשתמש השתמש בעבר, איפה הוא כנראה גר ומה מצבו האישי.

העבודה עצמה בנויה כך: המדרג מסכם מה המשתמש רצה. הוא מדרג ארבע תשובות אפשריות בסולם של 1 עד 7. אחר כך הוא מסמן קטעים ומנמק את הבחירה.

לפי ForkLog, אחד המקורות, מצפון אמריקה, קיבל מעל 50 דולר לשעה. הוא הגיע לעבודה דרך חברת גיוס. לפי המסמכים הפנימיים שהגיעו ל-404 Media, מטרת ההדרכה היא בין השאר להפחית האנשה. האנשה היא תשובות שמתנהגות כמו בן אדם. המטרות כוללות גם הפחתת תשובות חנפניות.

OpenAI אומרת שמודל בשם Privacy Filter מטפל בשיחות תחילה. הוא מזהה ומסיר פרטים אישיים. אבל בעמוד התיאור של המודל החברה מציינת שהוא עלול לטעות. לדבריה, הוא עלול לפספס מזהים נדירים או לא חד-משמעיים.

לפי TNW, 404 Media שאל היכן OpenAI מודיעה למשתמשים שבני אדם עשויים לקרוא את השיחות. החברה לא ענתה. היא הפנתה לעמוד עזרה רק אחרי הפרסום.

ההגדרה שמאפשרת את Project Lily, ושכדאי להכיר

מה שקובע אם שיחה יכולה להיכנס לתהליך הוא ההגדרה Improve the model for everyone. לפי הדיווחים, היא פעילה כברירת מחדל בחשבונות Free, Plus ו-Pro. במסלולים העסקיים Business, Enterprise ו-Edu היא כבויה כברירת מחדל.

כיבוי שלה חל רק על שיחות חדשות. השינוי לא חל על שיחות שכבר נשלחו כשההגדרה הייתה פעילה.

OpenAI לא לבד. לפי TNW, Anthropic אישרה שגם היא משתמשת בבדיקה אנושית אצל משתמשים שהפעילו את ההגדרה המתאימה. היא מסירה מזהי חשבון לפני כן. Gemini של Google מציג הודעה שבני אדם בודקים חלק מהשיחות השמורות.

ההבדל הוא בשקיפות. התחקיר טוען שהקריאה ב-Project Lily מתנהלת בנפרד מהבדיקה ש-OpenAI תיארה בפומבי. הבדיקה ההיא עוסקת בשיחות שסומנו כאיום על אחרים.

באירופה הנושא רגיש במיוחד. TNW מזכיר שרשות הגנת הפרטיות באיטליה כבר קנסה את OpenAI ב-15 מיליון יורו. מהם 9 מיליון על עיבוד מידע בלי בסיס משפטי מספק.

מה קרה מאז: ב-24 בספטמבר דיווח Decrypt על תביעה ייצוגית נגד OpenAI. את התביעה הגישו בבית המשפט הפדרלי בצפון קליפורניה. התובעים דורשים בין השאר שההגדרה תהיה כבויה כברירת מחדל. הם דורשים גם אזהרה בתוך חלון השיחה.

עוד ב-GEEKLIK: OpenAI חשפה שישה מקרים שבהם מודלים בניסוי הסתירו טעויות ועקפו הרשאות