פריצת דרך: כלי ה-AI שמסוגל לייצר סרטוני דיפ-פייק מציאותיים במיוחד

ההתפתחות הטכנולוגית המרשימה של מודלי AI ליצירת וידאו הביאה עמה חידושים מסעירים, אך גם חששות כבדים. אחת הסכנות המרכזיות היא דיפ-פייק – היכולת לזייף סרטוני וידאו של אנשים, ובפרט דמויות מוכרות. עד כה, החברות הגדולות נמנעו מלשחרר טכנולוגיות שמאפשרות יצירה של דמויות מפורסמות, אך OmniHuman-1 משנה את הכללים.

באתר geektime פורסם כי מאחורי הכלי החדש עומדים חוקרים מחטיבת הבינה המלאכותית של ByteDance, החברה האם של טיקטוק, אשר פרסמו מחקר חדש המציג את המודל המתקדם לצד מספר סרטוני דמו מרשימים. בין היתר, הכלי הצליח ליצור סרטונים בהם ג'נסן הואנג, מנכ"ל NVIDIA, שר בסינית; טיילור סוויפט מדברת ביפנית; אלברט איינשטיין דן ברגשות; ודוברים נראים נושאים נאומים בכנסים שמעולם לא התרחשו.

OmniHuman-1 מצריך תמונה בודדת בלבד של אדם על מנת להמיר אותה לסרטון, בשילוב עם דגימת קול רלוונטית. שלא כמו מודלים קודמים שהוגבלו לייצור דמויות סטטיות או יושבות, המודל מסוגל ליצור גם דמויות עומדות ונעות באופן טבעי – משימה שהייתה עד כה מאתגרת במיוחד. המודל מתבסס על שיטת אימון ייחודית הכוללת שילוב של טקסט, תמונות ומידע על תנוחות גוף, מה שמאפשר לו ליצור תנועות משכנעות וריאליסטיות. הוא מסוגל להחיות לא רק בני אדם אמיתיים, אלא גם דמויות מצוירות ודמויות ממוצאים שונים.

עם עוצמה כזו מגיעות גם מגבלות. לדברי החוקרים, הכלי דורש תמונת בסיס איכותית על מנת להפיק סרטון משכנע, וישנם אובייקטים מסוימים שעדיין אינם מתורגמים היטב מתמונה לווידאו – כפי שניתן לראות בסרטוני הדגמה בהם חפצים מסוימים, כמו כוס יין, נראים מעוותים או מטושטשים.

אך הסוגיה הגדולה ביותר היא כמובן שאלת השימוש בטכנולוגיה. כלים מסוג זה טומנים בחובם פוטנציאל משמעותי להטעיית הציבור, הפצת דיסאינפורמציה ויצירת תוכן מזויף בשם אנשים שמעולם לא אישרו זאת. אמנם הכלי עדיין אינו זמין לציבור הרחב, אך אין ספק שבעתיד נראה טכנולוגיות דומות משתחררות לשוק – כפי שקרה עם כלים כמו ElevenLabs, המאפשרים ג'נרציה של קולות מציאותיים.