מדיה סינתטית: האיום הגובר של תוכן שנוצר בבינה מלאכותית

נכנסנו לעידן שבו ההנחה הבסיסית העומדת בבסיס כל המדיה, שתצלום מציג משהו שקרה, שהקלטה לוכדת משהו שנאמר, שוידאו מתעד משהו שהתרחש, אי אפשר עוד לקחתה כמובנת מאליה. מדיה סינתטית, תוכן שנוצר או שונה באופן מהותי על ידי בינה מלאכותית, התפתחה מסקרנות שהוצגה בכנסי מחקר לאיום חדיר המשפיע על יחידים, עסקים, ממשלות ורקמת המציאות המשותפת.

המונח מדיה סינתטית מקיף ספקטרום רחב: וידאוי דיפ-פייק השמים מילים בפיהם של אנשים, תצלומים שנוצרו בבינה מלאכותית של אנשים שמעולם לא היו קיימים, קולות מושכפלים המתחזים לאנשים אמיתיים, וטקסט שנכתב על ידי מכונה החיקוי לכתיבה אנושית.

הגדרת מדיה סינתטית

מדיה סינתטית אינה מזיקה מטבעה. אותה טכנולוגיה היוצרת הונאת דיפ-פייק מניעה גם יישומים לגיטימיים: אולפני קולנוע משתמשים בבינה מלאכותית להצערת שחקנים, כלי נגישות משכפלים קולות עבור אנשים שאיבדו את יכולת הדיבור, ויצרנים יצירתיים משתמשים ביצירת תמונות בבינה מלאכותית כחלק מתהליכם האמנותי.

הבעיה היא שיישומים זדוניים עלו על אמצעי ההגנה. חוקרים מעריכים שנפח המדיה הסינתטית המקוונת גדל ביותר מ-900 אחוזים בין 2023 ל-2025.

איום וידאו הדיפ-פייק

טכנולוגיית וידאו הדיפ-פייק התקדמה מזיופים בולטים לסימולציות כמעט מושלמות. כלים של הדור הנוכחי יכולים להחליף פנים בזמן אמת במהלך שיחות וידאו חיות, ליצור דיפ-פייקים של גוף שלם ולייצר צילומים סינתטיים השומרים על עקביות לאורך דקות של וידאו רציף.

האיום מתבטא בכמה קטגוריות ברורות. הונאה פיננסית משתמשת בוידאו דיפ-פייק להתחזות למנהלים בוועידות וידאו, ומאשרת עסקאות מרמה. מקרים מרובים הכוללים הפסדים העולים על 10 מיליון דולר תועדו.

התקפות מוניטין יוצרות סרטונים בדויים של אנשים ציבוריים, פוליטיקאים, מנהיגי עסקים, מפורסמים, האומרים או עושים דברים שמעולם לא עשו. תוכן אינטימי שלא בהסכמה מהווה את היישום המזיק ביותר אישית.

הונאה רומנטית וזהותית משתמשת בוידאו דיפ-פייק לקיום פרסונות מזויפות. רמאים יכולים כעת לנהל שיחות וידאו חיות תוך שימוש בהחלפת פנים בזמן אמת. מדריך זיהוי קטפישינג שלנו מכסה את טכניקות האתגר-תגובה הספציפיות שעדיין יכולות לזהות שיחות וידאו דיפ-פייק.

חשודים לגבי וידאו או תמונה? סרקו אותם לאיתור סימני מניפולציית דיפ-פייק.

שמע סינתטי ושכפול קולות

טכנולוגיית שכפול הקול כנראה מחזיקה את ההשלכות הניתנות לניצול המיידי ביותר מכל קטגוריית מדיה סינתטית. שכפול קול משכנע יכול להיווצר מדוגמת שמע קצרה, קצרה כשלוש שניות, ולפרוס בשיחות טלפון בזמן אמת.

היישומים בהונאה הם ישירים והרסניים. שיחות טלפון עם קול מושכפל המתחזות לבני משפחה, מנהלים ורשויות הביאו להפסדים כספיים ניכרים.

דיפ-פייקים קוליים משמשים גם ליצירת ראיות בדויות. לחקירה מעמיקה של אופן שינוי שכפול הקול את ההונאות הטלפוניות, ראו את המאמר שלנו על הונאות רובוקול וכיצד לעצור אותן.

תמונות שנוצרו בבינה מלאכותית בקנה מידה

יצירת תמונות בבינה מלאכותית הגיעה לרמת איכות שתמונות שנוצרו עוברות באופן קבוע כתצלומים אמיתיים. יכולת זו מנוצלת לרעה במספר קטגוריות הונאה.

יצירת פרופיל מזויף בקנה מידה תעשייתי אפשרית כעת. תמונות מוצר וביקורת מזויפות מערערות את האמון בסחר אלקטרוני. תמונות חדשות ותעמולה מזויפות יוצרות 'ראיות' חזותיות לאירועים שמעולם לא קרו.

מכונת המידע המוטעה

ההשפעה הנרחבת ביותר של מדיה סינתטית עשויה להיות על אקוסיסטם המידע עצמו. כשכל פיסת תוכן, כל תמונה, כל וידאו, כל הקלטת שמע, עלולה להיות שנוצרה בבינה מלאכותית, מושג הראיות התיעודיות מתחיל להישחק. זה יוצר פרדוקס שחוקרים מכנים 'דיבידנד השקרן': עצם קיום טכנולוגיית הדיפ-פייק מאפשר דחיית תוכן אמיתי כמזויף על ידי מי שמוצאים אותו מטריד.

שילוב טקסט, תמונות, שמע ווידאו שנוצרו בבינה מלאכותית מאפשר גם קמפיינים של מדיה סינתטית מלאה. אתר חדשות שלם עם עיתונאים שנוצרו בבינה מלאכותית, המפרסם מאמרים שנכתבו במכונה עם תמונות שנוצרו בבינה מלאכותית, ניתן ליצור תוך ימים.

השלכות בעולם האמיתי

ההשלכות של מדיה סינתטית אינן תיאורטיות. בשנתיים האחרונות בלבד, סרטוני דיפ-פייק שימשו לתמרון בחירות במספר מדינות. הונאה תאגידית תוך שימוש בהתחזות מנהלים בדיפ-פייק הביאה להפסדים מתועדים העולים על 200 מיליון דולר ברחבי העולם.

מערכת המשפט מתקשה לעמוד בקצב. שווקים פיננסיים הם יעד גובר נוסף. הצהרות מנהלים בדויות, הודעות רווחים מזויפות ופרשנות אנליסטים סינתטית יכולים להניע מחירי מניות לפני שהאימות מתרחש. כפי שנסקר במאמר שלנו על כיצד הבינה המלאכותית הופכת הונאות למסוכנות יותר, התמריצים הפיננסיים ליצירת מדיה סינתטית משכנעת עצומים וגדלים.

זיהוי והגנה

ההגנה מפני מדיה סינתטית דורשת גישה רב-שכבתית המשלבת טכנולוגיה, חינוך ופרקטיקות מוסדיות.

כלי זיהוי מבוסס בינה מלאכותית מייצגים את ההגנה הטכנולוגית המבטיחה ביותר. מערכות אלה מנתחות תוכן לאיתור טביעות האצבע הסטטיסטיות של יצירת בינה מלאכותית, דפוסים בהתפלגויות פיקסלים, מאפיינים ספקטרליים של שמע, אי-עקביות זמניות בוידאו וחתימות לשוניות בטקסט.

פלטפורמת הסריקה של Truvizy מביאה יכולות זיהוי אלה למשתמשים יומיומיים. תקני מקוריות תוכן כמו C2PA מציעים פתרון מבני. פרוטוקולי אימות לקרות רגישות מספקים הגנה ארגונית. חינוך לאוריינות מדיה בונה חוסן אישי.

קבלו הגנה מבוסס בינה מלאכותית נגד דיפ-פייקים, שכפולי קול ומדיה סינתטית.

תוכניות ההגנה של Truvizy מביאות ניתוח מדיה מבוסס בינה מלאכותית לידיהם של יחידים הצריכים לקבל החלטות אמון לגבי תוכן דיגיטלי מדי יום.

כיצד לזהות סרטון דיפ-פייק — רמזים חזותיים וכלי בינה מלאכותית לזיהוי וידאו מניפולטיבי

כיצד לאמת אותנטיות וידאו — שיטות שלב-אחר-שלב לאישור שתוכן וידאו הוא אמיתי

כיצד לדעת אם תוכן נוצר על ידי בינה מלאכותית — מדריך זיהוי מעשי לטקסט, תמונות ווידאו