שלוש שניות זה כל מה שצריך: איך בינה מלאכותית משכפלת את הקול שלכם מהרשתות החברתיות

השיחה מגיעה ב 23:40 בלילה של יום שלישי. זו הבת שלכם, בוכה, אומרת שהייתה תאונה ושהיא בתחנת משטרה ושאסור לה לדבר הרבה זמן. מבוגר רגוע לוקח את הטלפון ומסביר את הסידור לשחרור בערבות. הקול הוא שלה: הגובה, הרעד בנשימה, הדרך שבה היא מקצרת את השם שלכם. הוא הורכב מסרטון בישול באורך תשע עשרה שניות שהיא העלתה לפני שלושה שבועות, והיא ישנה למעלה.

שכפול קול בבינה מלאכותית מהרשתות החברתיות הפסיק להיות הדגמה מעבדתית והפך לשיחת טלפון רגילה. לפי מחקר שפרסמה McAfee, כשלוש שניות של אודיו נקי מספיקות כדי לייצר שכפול שתואם למקור בדיוק גבוה, וקומץ משפטים מייצרים משהו שרוב הקרובים לא יצליחו להפריד מהאדם האמיתי תחת לחץ. לפי ספר הנתונים של רשת Consumer Sentinel של ה FTC לשנת 2024, צרכנים דיווחו על כ 2.95 מיליארד דולר שאבדו בהונאות התחזות, הקטגוריה שאליה שייכת השיחה הזאת, ואלה רק האנשים שטרחו להגיש דיווח.

החלק הלא נוח הוא שכלום לא נפרץ, לא נגנב ולא דלף. חומר הגלם הוא תוכן שפרסמתם בכוונה.

תשובה מהירה

מה זה שכפול קול בבינה מלאכותית מהרשתות החברתיות?

שכפול קול הוא התהליך שבו לוקחים דגימה קצרה של אדם אמיתי שמדבר ומייצרים ממנה מודל סינתטי שיכול להגיד כל דבר באותו קול, על פי דרישה, עם רגש נשלט. הטכנולוגיה נבנתה עבור נגישות, דיבוב והקראת ספרי שמע. אותם כלים עצמם, וגם העתקים חינמיים שלהם, הם היום ציוד סטנדרטי בהונאות התחזות.

הרשתות החברתיות הן המקור המועדף מפני שהאודיו שם כמעט מושלם. סרטון קצר מוקלט כמה סנטימטרים מהמיקרופון, בחדר שקט, כשהדובר מול הטלפון ומבטא בבירור בשביל האלגוריתם. קטע בישול, עדכון מחדר הכושר, נאום סיום לימודים, ברכה בחתונה שמישהו תייג אתכם בה, שידור חי, הודעה קולית שהועברה לקבוצה, ואפילו הודעת הפתיחה בתא הקולי שלכם: כל אחד מהם הוא מערך אימון נקי. חשבונות ציבוריים קל מאוד לקצור בהיקף גדול, ולנוכל מספיק לחפש שם.

זה השינוי המכריע, וזו הסיבה שהאיום הזה לא באמת נוגע לכם. הקול שלכם הוא הנכס, אבל המטרה היא האדם שהיה זונח הכול בשבילכם. השכפול כמעט אף פעם לא משמש כדי להתחזות לכם מול בנק. הוא משמש כדי להתחזות לכם מול אמא שלכם.

איך פועלות הונאות שכפול קול, שלב אחר שלב

כמעט כל מקרה עובר את אותם חמישה שלבים, וזיהוי הרצף הוא מה שמאפשר למישהו לעצור אותו באמצע.

1. <strong>קצירה.</strong> פרופיל ציבורי נסרק לאיתור כל קטע שיש בו דיבור. שלוש שניות הן הרצפה; שלושים שניות הן נוחות. אין שום יצירת קשר עם האדם שהקול שלו נלקח.
2. <strong>מיפוי הקשרים.</strong> תמונות מתויגות, ברכות ליום הולדת, רשימות עוקבים וכיתובים חושפים מי ההורים, הסבים, בן או בת הזוג והמעסיק. המפה הזאת קובעת מי יקבל את השיחה.
3. <strong>בניית התרחיש.</strong> מעצר, תאונת דרכים, בית חולים, טלפון גנוב, חטיפה, או העברה דחופה מהמנהל. התסריט קצר מפני ששיחה ארוכה מסתכנת בשאלה שהשכפול לא יודע לענות עליה.
4. <strong>ביצוע השיחה.</strong> מזהה המתקשר מזויף כך שייראה מקומי או מוכר. השכפול מדבר כמה משפטים, נסער וממהר, ואז מעביר את הטלפון לשותף אנושי שמשחק שוטר, עורך דין, אח או עוזר.
5. <strong>הוצאת הכסף במהירות.</strong> התשלום נדרש בהעברה בנקאית, בכרטיסי מתנה, במטבעות דיגיטליים, באפליקציית תשלומים או באמצעות שליח שאוסף מזומן, תמיד עם סיבה לא לנתק ולא להתקשר לאף אחד אחר.

סימני אזהרה שחושפים קול משוכפל בבינה מלאכותית

התייחסו לכל אחד מהסימנים האלה כאל סיבה מספקת לעצור את השיחה ולאמת בערוץ עצמאי.

• <strong>דחיפות קיצונית יחד עם איסור לנתק.</strong> מקרי חירום אמיתיים שורדים שיחה חוזרת. מי שמתעקש שתישארו על הקו מגן על התסריט, לא עליכם.
• <strong>העברה מיידית לאדם זר.</strong> הקרוב מדבר בקצרה, ואז מבוגר בעל נימה רשמית משתלט ומנהל את כל המשא ומתן.
• <strong>סודיות.</strong> אל תספרי לאבא, אל תתקשר לאחות שלך, עורך הדין אומר שזה נשאר בינינו. בידוד הוא הדבר היחיד שעומד בין ההונאה לבין אימות של שלושים שניות.
• <strong>תשלום שאי אפשר לעקוב אחריו.</strong> כרטיסי מתנה, מטבעות דיגיטליים, העברה בנקאית, אפליקציית תשלומים לאיש קשר חדש, או שליח שמגיע לאסוף מזומן. שום בית משפט, בית חולים או משטרה לא גובים כסף בדרך הזאת.
• <strong>רגש שטוח מתחת למילים.</strong> דיבור משוכפל נושא לעיתים קרובות את הטון הנכון אבל את המקצב הלא נכון: הפסקות במקומות מוזרים, נשימה שלא מתאימה לבכי, משפטים שנגמרים אחיד מדי.
• <strong>אין אף זיכרון משותף ספציפי.</strong> המתקשר מתחמק מכל שאלה שרק האדם האמיתי יכול לענות עליה, ומאשים בהלם, בקו גרוע או במגבלת זמן.
• <strong>רקע שלא מסתדר.</strong> תחנת משטרה, מסדרון בבית חולים או שוליים של כביש אף פעם אינם שקטים. אודיו נקי כמו באולפן מאחורי תאונת דרכים כביכול הוא הסגרה מלאה.

קיבלתם הודעה קולית, סרטון או קטע שהועבר אליכם ואתם לא בטוחים? סרקו אותו עם Truvizy וקבלו תשובה ברורה תוך שניות, בחינם.

איך Truvizy מזהה הונאות של קול משוכפל

ההחלטה במקרים האלה מתקבלת בתוך תשעים שניות בערך, בלילה, על ידי מישהו מבוהל. זה בדיוק הפער ש Truvizy נבנה כדי לסגור. העלו את ההודעה הקולית, את הסרטון או את הקטע שהועבר לקבוצה המשפחתית בכתובת truvizy.app, והזיהוי מבוסס הבינה המלאכותית של Truvizy מריץ ניתוח רב שכבתי של האודיו ושל כל מדיה נלווית, מחפש את העקבות שיצירה סינתטית משאירה בדיבור ובווידאו, וקורא את ההודעה שמסביב כדי לאתר את דפוסי הדחיפות, הסודיות והתשלום שמאפיינים הונאות התחזות.

התוצאה היא תשובה ברורה ולא דוח טכני, מפני שהאדם שזקוק לה נדחף למהר בכוונה. אפשר להתנסות ב Truvizy בחינם ובלי חשבון לסריקה ראשונה, וזה משנה כשהחלופה היא העברה בנקאית. אפשר להתחיל מסורק Truvizy. לתמונה הרחבה של האופן שבו השיחות האלה מבוצעות, המדריך שלנו להונאות שכפול קול בבינה מלאכותית מכסה לעומק את המנגנון בצד הטלפוני.

מה לעשות אם קיבלתם שיחה עם קול משוכפל

פעלו בסדר הזה. שני הצעדים הראשונים מסיימים את רוב השיחות האלה על המקום.

נתקו והתקשרו חזרה למספר ששמור אצלכם. לא למספר שהתקשר, ולא למספר שהמתקשר מכתיב לכם. השתמשו באיש הקשר ששמור בטלפון שלכם. אם אין מענה, התקשרו לבן משפחה נוסף. שכפול לא יכול לענות למכשיר האמיתי.

בקשו את מילת הקוד המשפחתית. סכמו אחת עוד היום, אל תפרסמו אותה בשום פלטפורמה, ובחרו צירוף ששום עוקב לא יוכל לנחש. שכפול מעתיק את הקול, לעולם לא ידע פרטי. המדריך שלנו למילות קוד משפחתיות מסביר איך לבחור אחת שתחזיק מעמד מול נוכל אמיתי.

אל תשלחו כסף ואל תקנו כרטיסי מתנה. שום משטרה, בית משפט, בית חולים או שגרירות לא מקבלים תשלום בכרטיס מתנה, במטבעות דיגיטליים או דרך שליח שאוסף מזומן. הבקשה הזאת לבדה סוגרת את העניין.

שמרו הכול לפני שאתם מוחקים. שמרו את ההודעה הקולית, רשמו את המספר, את השעה המדויקת ואת הסכום שנדרש, וצלמו כל הודעת המשך. זה מה שחוקרים צריכים כדי לקשר שיחה אחת לרשת שלמה.

דווחו. בארצות הברית מגישים ל ic3.gov מול ה FBI ול reportfraud.ftc.gov מול ה FTC. במדינות אחרות פנו ליחידה הלאומית לפשיעת סייבר ולרשות להגנת הצרכן. הונאות נגד קשישים מדווחות בחסר משמעותי, ודיווחים הם מה שהופך שיחות מפוזרות לתיק אחד.

ואז צמצמו את היצע האודיו. הגדירו פוסטים ישנים לחברים בלבד, קצצו סרטונים ציבוריים שבהם אתם בעיקר מדברים, החליפו הודעת פתיחה בתא קולי שהוקלטה בקול שלכם, ודברו עם הקרובים שהכי סביר שיתקשרו אליהם לפני שמתקשרים אליהם.

הערת מומחה: שכפול קול עבר מגימיק לסחורה זמינה ברגע שדרישת הדגימה ירדה לכמה שניות, מפני שזה בדיוק אורך האודיו שכמעט כל אדם ברשת חברתית כבר פרסם. הכלכלה מתגמלת היום נפח, כשקטע קצור אחד מזין עשרות שיחות לתוך רשת משפחתית אחת, וזו הסיבה ש Truvizy מתייחס לזה כאל בעיה של אימות מדיה ולא כאל בעיה של טלפוניה. הממצא שהנפגע מחזיק בפועל הוא הודעה קולית או קטע שהועבר אליו, ואת הממצא הזה אפשר לבדוק תוך שניות, לפני ההעברה במקום אחריה.

שאלות נפוצות

כמה אודיו בינה מלאכותית צריכה כדי לשכפל את הקול שלכם?

כשלוש שניות של דיבור נקי מספיקות לעותק שמיש, וכמה משפטים מייצרים עותק משכנע. לפי מחקר שפרסמה McAfee, שלוש שניות אודיו יכולות לייצר שכפול קול עם רמת דמיון גבוהה. סרטון טיקטוק אחד, ריל, סטורי או קליפ יום הולדת מתויג מכילים בדרך כלל הרבה יותר מזה.

האם נוכלים יכולים לשכפל את הקול שלי מסרטון בטיקטוק או באינסטגרם?

כן. כל קטע ציבורי שבו אתם מדברים בבירור הוא חומר אימון, ופלטפורמות הווידאו הקצר אידיאליות מפני שהאודיו חזק, קרוב למיקרופון ונקי מרעשי רקע. פודקאסטים, הודעות קוליות שהועברו לקבוצות, שידורים חיים והודעות פתיחה בתא הקולי עובדים באותה מידה. שום דבר לא צריך להיפרץ כדי שזה יקרה.

האם Truvizy יכול לזהות קול משוכפל בבינה מלאכותית?

כן. העלו את הסרטון, את ההודעה הקולית או את הקטע שהועבר אליכם בכתובת truvizy.app, והזיהוי מבוסס הבינה המלאכותית של Truvizy מריץ ניתוח רב שכבתי של האודיו ושל כל מדיה נלווית, ואז מחזיר תשובה ברורה תוך שניות. Truvizy נבנה בדיוק לרגע של השיחה, כשלאדם שמחליט יש שתי דקות ואפס רקע טכני.

כמה נפוצות הונאות קול בבינה מלאכותית וכמה הן עולות לנפגעים?

לפי ספר הנתונים של רשת Consumer Sentinel של ה FTC, צרכנים דיווחו על כ 2.95 מיליארד דולר שאבדו בהונאות התחזות בשנת 2024, הקטגוריה שאליה שייכות השיחות האלה. סקר של McAfee בקרב 7,000 מבוגרים מצא שאחד מכל ארבעה חווה הונאת קול מבוססת בינה מלאכותית או מכיר מישהו שחווה אותה, ורובם של אלה שהגיבו הפסידו כסף.

מה זו מילת קוד משפחתית והאם היא באמת עוצרת שכפול קול?

זו מילה או צירוף קצר שרק בני הבית מכירים, שלעולם לא מתפרסם בשום מקום, וכל מי שמתקשר וטוען שהוא בן משפחה חייב למסור אותו לפני שכסף או פרטים אישיים זזים. זה עובד מפני ששכפול מעתיק את הקול ולא ידע פרטי. בחרו משהו קונקרטי ובלתי ניתן לניחוש, הימנעו משמות של חיות מחמד או של רחובות, ולמדו אותו לקרובים שגרים לבד.

הונאות שכפול קול בבינה מלאכותית: איך מבוצעת השיחה — המנגנון הטלפוני שמאחורי הונאות הקול הסינתטי

מילת הקוד המשפחתית: ההגנה הטובה ביותר מפני הונאות קול — איך לבחור צירוף שמחזיק מעמד בשיחת הונאה אמיתית

התחזות ברשתות החברתיות: כשמישהו הופך להיות אתם באינטרנט — איך פרופילים ציבוריים הופכים לחומר גלם להונאה