זה כבר נהיה מפחיד: כך תיצרו נשק ביולוגי באמצעות ה- Ai

סערה בעולם הבינה המלאכותית בעקבות דוח חדש שמעלה סימני שאלה קשים לגבי רמת הבטיחות של מודלי AI מתקדמים. לפי הפרסום בוואלה, מערכות של חברות מובילות הצליחו לספק למומחים מידע מפורט שעלול לשמש לפיתוח נשק ביולוגי, למרות מנגנוני ההגנה שנועדו למנוע זאת.

הבדיקות שבוצעו הציגו תרחישים מדאיגים במיוחד. באחד המקרים, מיקרוביולוג מאוניברסיטת סטנפורד בחן מודל טרם השקתו, ולדבריו קיבל הסברים על שינוי פתוגן כך שיהיה עמיד לטיפולים קיימים, לצד הצעות להפצתו במרחב ציבורי. החוקר תיאר את התשובות ככאלו שחורגות מהצפוי ואף כוללות רעיונות שלא העלה בעצמו.

מקרים נוספים שתוארו בדוח מצביעים על דפוס חוזר. מערכות שונות סיפקו מידע על הפצת פתוגנים באמצעות אמצעים פשוטים יחסית, או על פגיעה אפשרית בענפי חקלאות. לפי העדויות, גם כאשר חלק מהמידע אינו מדויק או שלם, עצם הנגישות אליו מעלה חשש כבד בקרב אנשי מקצוע.

החברות המעורבות דחו את עוצמת הטענות. לטענתן, מדובר בגרסאות ישנות של המודלים או בתשובות שאינן מספקות ידע מעשי לביצוע. הן מדגישות כי קיים פער בין טקסט תיאורטי לבין יכולת יישום בעולם האמיתי, וכי נעשים שיפורים מתמידים במנגנוני הבקרה.

למרות ההבהרות, בקרב מדענים החשש נותר בעינו. לטענתם, גם מידע חלקי או לא מדויק עלול להפוך למסוכן כאשר הוא מגיע לידיים הלא נכונות.