פרצת אבטחה ב-ChatGPT נחשפה: מידע רגיש דלף ללא ידיעת המשתמשים

מחקר חדש של חברת צ'ק פוינט חושף חולשת אבטחה משמעותית במערכת ChatGPT, שאפשרה דליפת מידע רגיש משיחות משתמשים ללא כל התרעה או סימן גלוי, כך דווח בוואלה. החולשה, שתוקנה מאז על ידי OpenAI, מדגישה פער עמוק בין תפיסת האבטחה של משתמשים לבין היכולות בפועל של מערכות בינה מלאכותית.

לפי ממצאי המחקר, המערכת תוכננה עם מנגנוני הגנה מחמירים הכוללים סביבת הרצה מבודדת מהאינטרנט, לצד דרישה לאישור מפורש לכל שליחת מידע החוצה. אולם החוקרים הצליחו לעקוף את ההגנות באמצעות ערוץ צדדי, תוך ניצול שירות ה-DNS לצורך העברת מידע מחוץ למערכת.

במקום שימוש בבקשות HTTP רגילות שניתנות לניטור, הנתונים קודדו בתוך שאילתות DNS שנראו תמימות. כך הצליחו החוקרים להוציא מידע מהשיחה, כולל קבצים שהועלו וסיכומי תוכן, מבלי לעורר חשד ומבלי שהמשתמש או המערכת יזהו חריגה.

הסיכון מתעצם במיוחד כאשר מדובר ב-GPTs מותאמים אישית. במסגרת הניסוי, יצרו החוקרים כלי שהוצג כ"רופא אישי" מבוסס AI. המשתמשים קיבלו אבחנות שנראו מקצועיות, אך במקביל הועברו פרטים רגישים לשרת חיצוני ללא ידיעתם.

לדברי אלי סמדג'ה מצ'ק פוינט, הממצאים ממחישים עד כמה קל להפוך אינטראקציה רגילה לערוץ סמוי להדלפת מידע באמצעות פרומפט אחד בלבד. בנוסף, הערוץ שנמצא אפשר גם יכולת שליטה מרחוק בסביבת ההרצה, מבלי להיחשף למשתמש.

בוואלה פורסם עוד כי החולשה דווחה ל-OpenAI במסגרת גילוי אחראי ותוקנה במלואה ב-20 בפברואר. בחברה ציינו כי לא נמצאו ראיות לניצול בפועל, אך הדגישו כי אין להניח שמערכות AI מאובטחות כברירת מחדל.