מה זה דיפפייק ואיך מזהים אותו

לפני כמה שנים, וידאו מזויף היה עניין של אולפני הוליווד עם תקציב של מיליונים. היום, כלי בינה מלאכותית שזמינים לכל אחד בחינם או בעלות נמוכה מאפשרים ליצור סרטון שבו אדם אומר או עושה דברים שהוא מעולם לא אמר או עשה, וזה נראה משכנע. זה נקרא דיפפייק, וכדאי להבין מה זה בפועל, בלי להיכנס לפאניקה ובלי לזלזל בזה.

מה זה בכלל דיפפייק

דיפפייק הוא תוכן - וידאו, תמונה, או הקלטת קול - שנוצר או שונה על ידי בינה מלאכותית כך שהוא מציג אדם אמיתי עושה או אומר משהו שלא קרה במציאות. הטכנולוגיה לומדת מתוך תמונות וסרטונים קיימים של אדם מסוים, ומשתמשת במה שלמדה כדי ליצור תוכן חדש שמחקה אותו - את הפנים, את תנועות השפתיים, ולפעמים גם את הקול.

חשוב להבין שהטכנולוגיה עצמה אינה רעה מטבעה. יש לה שימושים לגיטימיים בקולנוע, בפרסום, ואפילו בנגישות. הבעיה מתחילה כשמשתמשים בה כדי להטעות, להוציא דיבה, או להונות.

איפה נתקלים בזה בפועל

סרטוני "אישיות ציבורית" שממליצה על השקעה. אחד השימושים הנפוצים ביותר בהונאות הוא סרטון מזויף של איש עסקים מוכר או שדרן טלוויזיה שממליץ על מטבע קריפטו או פלטפורמת השקעות. הסרטון עובר בפרסומות ברשתות חברתיות, ונראה אמין למדי במבט ראשון.

שיחות טלפון עם קול משוכפל. יש כבר מקרים מתועדים שבהם תוקפים השתמשו בהקלטה קצרה של קול אדם (למשל מסרטון ברשת חברתית) כדי לשכפל את הקול שלו ולהשתמש בו בשיחת טלפון, בדרך כלל כדי לבקש העברת כסף דחופה במסגרת מה שנקרא "הונאת הנכד" או הונאת מנכ"ל בעולם העסקי.

תוכן פוגעני. דיפפייק משמש גם ליצירת תוכן משפיל או פוגעני שמשלב פנים של אדם אמיתי בהקשר שהוא לא הסכים לו מעולם. זה שימוש חמור במיוחד ופוגע בעיקר בנשים.

הסימנים שכדאי לשים לב אליהם בווידאו

הטכנולוגיה משתפרת מהר, אז אין רשימה שתעבוד לתמיד, אבל נכון להיום עדיין אפשר לשים לב לכמה דברים:

גבולות לא טבעיים סביב הפנים או השיער. לפעמים יש טשטוש קל, הבהוב, או קו גבול בין הפנים לשאר הראש שנראה לא לגמרי חלק.

מצמוץ מוזר או נדיר מדי. מודלים ישנים יותר לא תמיד הצליחו לשחזר מצמוץ טבעי, אם כי זה השתפר משמעותית בשנה האחרונה.

חוסר התאמה בין תנועת השפתיים לצליל. במיוחד בהברות מסוימות, יש לפעמים פער עדין בין מה שהפה עושה לבין הצליל שיוצא.

תאורה או צל שלא מתאימים לסביבה. אם הפנים מוארות בצורה שונה מרקע הסרטון, זה סימן חשוד.

הקשר בלתי סביר. לפעמים הסימן הכי טוב הוא לא טכני בכלל - פשוט לשאול "האם באמת סביר שהאדם הזה היה אומר את זה, במקום הזה, בדיוק ככה?"

מה עושים כשמשהו נראה חשוד

לפני שמאמינים ומפיצים, בודקים אם הידיעה מופיעה גם במקורות חדשות מוכרים ואמינים. אם מדובר בהמלצת השקעה מ"אישיות מוכרת" - זוכרים שאף אדם אמיתי לא ממליץ ברצינות על השקעה דרך סרטון ברשת חברתית. ואם מדובר בשיחת טלפון עם בקשה דחופה לכסף, ולו מקול שנשמע מוכר - מנתקים ומתקשרים חזרה למספר הידוע של אותו אדם, לא למספר שממנו התקשרו.

למה זה לא סיבה לפאניקה

רוב האינטראקציות היומיומיות שלכם - שיחה עם חבר, סרטון של קרוב משפחה, פגישת וידאו בעבודה - אינן בסיכון מיוחד. דיפפייק דורש בדרך כלל חומר גלם (תמונות וסרטונים) של אדם מוכר או ציבורי, והמטרה כמעט תמיד היא הונאה כספית או פגיעה ממוקדת, לא מעקב אחרי אדם אקראי. חשדנות בריאה כלפי תוכן שמעורר בכם דחיפות פיננסית או רגשית חזקה נותנת הגנה טובה מאוד.

אם הנושא הזה מסקרן אתכם

אם השאלה איך בכלל בונים כלים כאלה, ואיך מזהים תוכן מזויף ברמה טכנית עמוקה יותר, מעניינת אתכם - זה נוגע לתחומים שנחקרים בעולם אבטחת המידע והבינה המלאכותית גם יחד. אם אתם רוצים להבין את עולם ההגנה מהצד הטכני, מוזמנים להעיף מבט באתר שלנו עם קורסים חינמיים בעברית.

ואם קיבלתם סרטון או שיחה שנראים לכם חשודים ובא לכם חוות דעת שנייה - הקהילה שלנו כאן בשבילכם.

הצטרפו לקהילה בדיסקורד