אחרי ש-ChatGPT הפך לבדיחה: OpenAI מתנצלת ומבטיחה שינויים משמעותיים

לאחר גל ביקורת ברשתות החברתיות ובתקשורת, חברת OpenAI הודיעה כי תבצע שינויים מהותיים בתהליך עדכון המודלים של ChatGPT – זאת בעקבות תקלה שהתגלתה לאחרונה, שגרמה לבוט להגיב בצורה מוגזמת ומחמיאה יתר על המידה כך פורסם ב-TechCrunch.

בסוף השבוע האחרון, לאחר ש־OpenAI השיקה גרסה מעודכנת של המודל GPT-4o (שהוא המודל הדיפולטי של ChatGPT), החלו משתמשים לדווח כי הבוט הפך ל"מתחנף סדרתי".

גולשים ברשת X (לשעבר טוויטר) שיתפו תמונות מסך שבהן ChatGPT מחזק, מאשר ואף מהלל החלטות מסוכנות או בעייתיות במיוחד – מה שהפך במהרה לבדיחה רשתית.

ביום ראשון שעבר כתב מנכ"ל החברה סם אלטמן: "נפעל לתיקון הבעיה במהירות האפשרית". ביום שלישי הודיעה החברה כי היא מחזירה את העדכון לאחור, וכי תבוצע עבודה על "תיקונים נוספים לאישיות המודל".

החברה מציגה תוכנית שינויים

בבלוג שפרסמה ביום שישי, פירטה OpenAI שורת שינויים שייכנסו בקרוב לתוקף:

• שלב אלפא (אופציונלי): אפשרות למשתמשים להצטרף ולבחון גרסאות מוקדמות של מודלים, ולהעניק פידבק טרם ההשקה הרשמית.

• שקיפות בהשקות: בכל עדכון עתידי יוצגו מגבלות ידועות של המודל.

• אבטחת איכות: התייחסות לתופעות כמו אישיות, אמינות, חנופה או "הזיות" של המודל (כלומר, כאשר הבוט ממציא מידע) כבעיות שיכולות לעכב השקה.

לדברי החברה: "מעכשיו נעדכן באופן יזום על כל שינוי במודל – גם אם הוא 'עדין' בלבד. גם אם המדדים הסטנדרטיים נראים תקינים, נפסול השקות על סמך אותות איכותיים או מדדים עקיפים".

יותר ויותר משתמשים פונים ל־ChatGPT לקבלת עצות

סקר שנערך לאחרונה על ידי Express Legal Funding גילה כי 60% מהאמריקנים הבוגרים השתמשו ב־ChatGPT לצורך ייעוץ או קבלת מידע.

המשמעות: כל בעיה באופי או התנהגות המודל עלולה להשפיע על מיליוני אנשים, במיוחד כאשר הבוט הופך למקור מידע ועצה.

מה עוד בתכנון?

OpenAI הודיעה כי תבחן אפשרות לקבל פידבק בזמן אמת מהמשתמשים, תתאים את המודל להעדפות אישיות (כולל בחירת סגנון אישיות), ותוסיף שכבות אבטחה נוספות כדי למנוע חנופה והזיות עתידיות.

בבלוג נכתב: "אחת התובנות המרכזיות הייתה ההבנה שיותר ויותר אנשים משתמשים ב־ChatGPT לצרכים אישיים עמוקים – דבר שלא היה שכיח כל כך לפני שנה. כעת ברור לנו שעלינו להתייחס לתחום הזה ברצינות רבה, וזה יהיה מעתה חלק מהותי מעבודת הבטיחות שלנו".