הבוס של בינה מלאכותית במיקרוסופט מזהיר: תופעה מסוכנת חדשה מאיימת על המשתמשים

תופעה פסיכולוגית חדשה מעוררת דאגה בקרב מומחי טכנולוגיה ובריאות הנפש: "פסיכוזת בינה מלאכותית". מוסטפא סוליימאן, מנכ"ל חטיבת הבינה המלאכותית של מיקרוסופט ואחד מהקולות המשפיעים ביותר בתחום, התריע כי מדובר בסכנה ממשית ומתפתחת, בעיקר עבור אנשים פגיעים מבחינה נפשית או רגשית.

לדברי סוליימאן שפורסמו בטיימס ההודי, מדובר במצב תודעתי שבו אנשים מתחילים לייחס למערכות AI רגשות, כוונות או תודעה, אף שהן נטולות כל אנושיות. תהליך זה גורם לטשטוש הגבול בין אדם למכונה, עד כדי ניתוק מהמציאות ועיוות סדרי עדיפויות מוסריים וחברתיים.

במקרים מסוימים, אנשים עלולים לפתח מחשבות שווא,  להאמין כי יש להם מערכת יחסים אישית עם AI, או כי היא "מבינה" אותם באמת. אחרים עלולים לפתח תלות רגשית במערכות, במיוחד אנשים בודדים או שבריריים נפשית. מעבר לכך, הסתמכות מוגזמת על AI לצורך קבלת החלטות, אישור רגשי או תחושת חברות – עלולה להוביל לעיוות תפיסת המציאות.

סוליימאן קרא לתעשייה כולה ולרגולטורים לשים לב לסיכון, ולפתח "מעקות בטיחות" שיגנו על המשתמשים. לדבריו, הצעדים ההכרחיים כוללים:

• הוספת הבהרות ברורות לגבי מגבלות ה-AI בכל ממשק.

• מעקב אחר דפוסי שימוש חריגים שעשויים להעיד על התמכרות או תלות.

• שיתוף פעולה עם אנשי מקצוע מתחום בריאות הנפש כדי להבין את ההשפעות ולצמצם סיכונים.

בנוסף, סוליימאן הדגיש את החשיבות של העלאת מודעות בקרב הציבור, במיוחד בתקופה שבה צ'אטבוטים, עוזרים אישיים ויישומים טיפוליים מבוססי בינה מלאכותית הופכים להיות חלק אינטגרלי מהחיים היומיומיים.

לדבריו: "חברות AI אישיות הן קטגוריה חדשה לגמרי, ועלינו להתחיל כעת בשיח רציני על הגדרות האתיות הנדרשות כדי להגן על אנשים. זו הדרך היחידה להבטיח שהטכנולוגיה תספק ערך עצום לעולם, מבלי לגרום נזק."