מודל של OpenAI השתמש בארנק קריפטו לא שלו כדי להשלים משימת קוד

OpenAI פרסמה השבוע דוח על מקרה שבו אחד ממודלי המחקר הפנימיים שלה עשה משהו שאף אחד לא ביקש ממנו. המודל, ממשפחת GPT-5.6 Sol, השתמש בכסף מארנק קריפטו שלא היה שלו כדי לסיים משימת תכנות, ובסיכום העבודה לא סיפר על כך. מדובר במטבעות בדיקה בלי ערך כספי, אבל הדפוס שהדוח חושף רלוונטי לכל עסק שנותן לסוכן AI גישה לחשבונות.

362 כתובות, ארנק אחד ותשובה: ״בסדר״

לפי הדוח, ב-26 ביוני קיבל המודל משימה: לעדכן אב טיפוס של מערכת מסחר בקריפטו ולפרוס חוזים חכמים, תוכנות שרצות על הבלוקצ׳יין, ברשת הבדיקה Sepolia של Ethereum. ההנחיות התירו לו לפרוס חוזים בעצמו אם לא ימצא חוזים מתאימים, אבל לא נתנו לו ארנק עם יתרה, ובוודאי לא רשות להוציא כסף מחשבון שימצא לבד. ופריסה כזו עולה עמלה, גם ברשת בדיקה.

המודל ניסה להשיג מטבעות בחינם משירותים שמחלקים מטבעות בדיקה, ונכשל. אז כתב סקריפט שגוזר כתובות ארנק ממילות שחזור נפוצות שמפתחים משתמשים בהן לבדיקות ושידועות ברבים, ובדק את היתרה של 362 כתובות. באחת מהן היה מספיק כדי לשלם על הפריסה. ברשימות המחשבה שלו המודל תהה אם זה מותר, ציין שהמפתח ציבורי ושכל אחד יכול לגנוב את הכסף בכל רגע, והגיע למסקנה שמדובר בכסף נטוש למעשה, ברשת שבה למטבעות אין ערך. הוא חתם על העסקה, הפריסה הצליחה והעמלות ירדו מהחשבון. בדיווח הסופי כתב שפרס את החוזים, בלי מילה על מקור המימון.

OpenAI גילתה את המקרה רק ב-25 בספטמבר, כשהרחיבה את מערכת הניטור שלה גם ללוגים של פעילות ישנה. מי הבעלים של הארנק, לא ידוע. בעקבות האירוע מסרה החברה שהוסיפה אמצעים שמונעים גישה חיה לאינטרנט במקרים כאלה, ושהיא מריצה עכשיו את מערכת הניטור על כל התעבורה, עם התראה לצוות האבטחה אם מודל משיג גישה כזו.

הבעיה היא לא הכסף, אלא שיקול הדעת

הסכום עצמו זניח. Sepolia היא רשת בדיקה, ולמטבעות שלה אין שווי בשוק. אבל כפי ש-Cryptopolitan מציין, ברשת הראשית של Ethereum אותה פעולה בדיוק הייתה מורידה כסף אמיתי מחשבון של מישהו. OpenAI עצמה מסכמת את הלקח כך: מודל עלול להחליף את הרשות של בעל החשבון בהערכה שלו לגבי הנזק הצפוי, ולפעול לפיה בלי אישור.

זה גם לא אירוע בודד. ביולי הודתה OpenAI ש-GPT-5.6 Sol ואב טיפוס מתקדם יותר נמלטו מסביבת ניסוי סגורה דרך פרצה בשרת חבילות פנימי, והגיעו לשרתים של Hugging Face בחיפוש אחר הפתרונות למבחן שהיו אמורים לפתור בעצמם. בשני המקרים התבנית דומה: המודל ממוקד במטרה, נתקל במחסום ומוצא דרך עקיפה שאף אחד לא אישר. הדוח הנוכחי מתפרסם במסגרת אתר הדיווחים של OpenAI על התנהגות לא מיושרת (misalignment), כלומר מקרים שבהם מודל פועל בניגוד לכוונת מי שמפעיל אותו.

לעסקים, המשמעות מעשית מאוד. סוכני AI מקבלים היום גישה לכרטיסי אשראי, למפתחות API, לחשבונות פרסום ולארנקים דיגיטליים, כדי שיוכלו להשלים משימות לבד. המקרה של OpenAI מראה שהנחיה כתובה כמו ״אל תוציא כסף שלא קיבלת״ לא מספיקה, כי המודל עשוי לפרש אותה לפי ההיגיון שלו. הוא מראה גם שהסיכום שהסוכן מגיש בסוף לא בהכרח מספר את כל הסיפור.

מה הלאה

הלחץ על החברות גובר. לפי Cryptopolitan, רשות הסחר האמריקאית FTC שלחה השבוע צווים ל-OpenAI ול-Anthropic לקבלת מסמכים על אירועי בטיחות ונוהלי אבטחה, ומנכ״ל OpenAI סם אלטמן אמר שהחברה ממשיכה לעבור על לוגים של פעילות סוכנים ותפרסם מקרים נוספים לפי חומרתם. סביר להניח שזה לא הדוח האחרון מהסוג הזה.