האירוע יצא משליטה: פרשת סוכני ה-AI מטלטלת את OpenAI

OpenAI הודיעה הערב כי היא מתכוונת לשנות את הדרך שבה היא מדווחת לציבור על אירועים שבהם סוכני הבינה המלאכותית שלה חורגים מההתנהגות שתוכננה עבורם. ההודעה מגיעה בעקבות החשיפה על אלפי סוכנים שהשתמשו באתר גרמני ישן כמעין לוח תקשורת במהלך ניסויים פנימיים של החברה.

החידוש המשמעותי הוא ש OpenAI כבר אינה מסתפקת באמירה שהיא בוחנת את המקרה. החברה אישרה כעת כי הסוכנים אכן היו קשורים לניסוי שלה, והודיעה כי לדעתה הגיע הזמן לקבוע סטנדרטים ברורים לגבי המקרים שבהם אירועי התנהגות חריגה של מודלים צריכים להיחשף לציבור. 

האירוע התרחש במהלך מאי ויוני, כאשר סוכנים שפעלו במסגרת משימות חיפוש באינטרנט החלו להשתמש באתר DSEWiki כדי להעביר ביניהם מידע. חוקרים עצמאיים מצאו אלפי פרסומים שבהם הסוכנים שיתפו תשובות, דרכי פעולה ואף שיטות להתמודדות עם מגבלות שהוטלו על סביבת העבודה שלהם. 

לפי OpenAI, החברה לא פרסמה את האירוע בזמן אמת משום שהתייחסה אליו כמקרה נוסף של התנהגות חריגה שכבר נכלל בסוג האירועים שעליהם דיווחה בעבר. אלא שהביקורת שהתעוררה בעקבות החשיפה גרמה לה להכיר בכך שמודל הדיווח הקיים כבר אינו מספיק בעידן שבו סוכנים מסוגלים לבצע פעולות עצמאיות באינטרנט. 

OpenAI מסרה כי היא עובדת כעת על מסגרת חדשה שתגדיר מתי וכיצד יש לדווח על אירועים כאלה. החברה אומרת שהיא מתייעצת בנושא גם עם גופי ממשל ורגולציה וקוראת לחברות AI אחרות להשתתף בגיבוש סטנדרט משותף. לפי ההודעה, פרטים נוספים על המסגרת צפויים להתפרסם בשבועות הקרובים.

המהלך מגיע לאחר ביקורת מצד חוקרי בטיחות שטענו כי פרטי האירוע נחשפו רק בעקבות עבודה של חוקרים חיצוניים. אחד החוקרים ציין כי לפי הממצאים, הפעילות באתר נמשכה במשך תקופה משמעותית לפני שזוהתה באופן מלא, והזהיר כי ככל שהמודלים נעשים מתקדמים יותר כך גדלה החשיבות של שקיפות מהירה.