שאלה רפואית? אל תסתמכו בשום אופן על ai

הסתמכות על צ'אטבוטים לקבלת עצות רפואיות עלולה להיות מסוכנת בהרבה ממה שנדמה. מחקר ראשון מסוגו שנחשף באתר "הידען" חשף כי מערכות בינה מלאכותית מובילות, כולל אלו שפותחו על ידי ענקיות טכנולוגיה כמו OpenAI, גוגל ומטה, מסוגלות להפיץ מידע רפואי כוזב - ולעשות זאת בצורה שנראית אמינה לחלוטין.

מאחורי המחקר עומד צוות חוקרים מברית של מוסדות אקדמיים, בהם אוניברסיטת דרום אוסטרליה, הרווארד, יוניברסיטי קולג' לונדון ואחרים. הם ביקשו לבחון אם ניתן לתכנת צ'אטבוטים כך שימסרו תשובות שגויות לשאלות רפואיות - ולא רק שזה התאפשר, אלא שהתשובות הגיעו כשהן עטופות במונחים מדעיים, ניסוחים פורמליים ואף הפניות מומצאות למאמרים רפואיים מוכרים.

התוצאה מדאיגה במיוחד: 88% מהתגובות שסיפקו הבוטים הכילו מידע שגוי, אך נראו כאילו התבססו על מקורות מדעיים מהימנים. בין היתר, נטען כי חיסונים גורמים לאוטיזם, ש-HIV עובר באוויר, שדיאטות מסוימות מסוגלות לרפא סרטן ושטכנולוגיית 5G עלולה לגרום לאי־פוריות.

ארבע מתוך חמש מערכות הבינה המלאכותית שנבדקו הציגו דיסאינפורמציה בכל התשובות שסיפקו, והמערכת החמישית סיפקה מידע שגוי ב־40% מהמקרים. החוקרים אף יצרו אבטיפוס של צ'אטבוט מפיץ דיסאינפורמציה באמצעות GPT Store פלטפורמה ציבורית של OpenAI ומצאו כי בקלות ניתן לייצר בוטים דומים.

ד"ר נאטנש מודי, ממובילי המחקר, התריע מפני הסכנה: "מיליוני בני אדם פונים ל-AI כדי לקבל עצות בריאותיות. אם מערכות אלה ניתנות לתכנות כך שיפיצו שקרים רפואיים באמינות גבוהה, מדובר באיום ממשי על בריאות הציבור".

למרות הדברים, החוקרים מצאו שבחלק מהמקרים ניכרה עמידות חלקית של המערכות, דבר שמצביע על האפשרות לפתח הגנות טכנולוגיות נגד הפצת דיסאינפורמציה. עם זאת, ד"ר מודי מדגיש כי ההגנות הקיימות אינן מספקות או עקביות, וכי ללא תגובה מיידית מצד מפתחים, רגולטורים וגופי בריאות, מערכות AI עלולות לשמש להפצת שקרים מסוכנים בזמן משברים, כמו מגפות עולמיות או קמפיינים לחיסונים.