الوسائط الاصطناعية: التهديد المتنامي للمحتوى المُولَّد بالذكاء الاصطناعي

دخلنا عصراً لم يعد فيه الافتراض الأساسي لكل الوسائط, أن صورة تُظهر شيئاً حدث، وتسجيلاً يلتقط شيئاً قيل، وفيديو يوثق شيئاً وقع, يمكن اعتباره أمراً مسلّماً به. الوسائط الاصطناعية، المحتوى الذي أنشأه أو عدّله الذكاء الاصطناعي بشكل كبير، تطورت من فضول عُرض في مؤتمرات البحث إلى تهديد واسع الانتشار يؤثر على الأفراد والشركات والحكومات ونسيج الواقع المشترك.

مصطلح الوسائط الاصطناعية يشمل طيفاً واسعاً: فيديوهات التزييف العميق التي تضع كلمات في أفواه الناس، وصور مُولَّدة بالذكاء الاصطناعي لأشخاص لم يوجدوا قط، وأصوات مستنسخة تنتحل أشخاصاً حقيقيين، ونصوص مكتوبة آلياً تحاكي التأليف البشري. كل من هذه التقنيات وصلت مستوى من التطور يتحدى قدرتنا على التمييز بين الحقيقي والملفق.

تعريف الوسائط الاصطناعية

الوسائط الاصطناعية ليست خبيثة بطبيعتها. نفس التقنية التي تُنشئ احتيال التزييف العميق تدعم تطبيقات مشروعة: استوديوهات الأفلام تستخدم الذكاء الاصطناعي لتجديد شباب الممثلين، وأدوات إمكانية الوصول تستنسخ أصوات أشخاص فقدوا القدرة على الكلام، والمحترفون المبدعون يستخدمون توليد الصور بالذكاء الاصطناعي كجزء من عمليتهم الفنية.

المشكلة أن التطبيقات الخبيثة تجاوزت الإجراءات الوقائية. أدوات إنشاء الوسائط الاصطناعية متاحة على نطاق واسع ومجانية غالباً وتتطلب خبرة تقنية ضئيلة. أدوات كشف الوسائط الاصطناعية أقل وصولاً وأقل نضجاً وتتطلب غالباً معرفة متخصصة. هذا عدم التماثل, سهولة الإنشاء وصعوبة الكشف, هو ما يجعل الوسائط الاصطناعية تهديداً متنامياً.

حجم المشكلة يصعب المبالغة فيه. يقدّر الباحثون أن حجم الوسائط الاصطناعية على الإنترنت ازداد بأكثر من 900% بين 2023 و2025. فيديوهات التزييف العميق وحدها تُنتَج بمعدل ملايين يومياً، رغم أن معظمها يُنشأ للتسلية. التحدي أن نفس البنية التحتية التي تنتج ملايين فيديوهات تبديل الوجوه غير الضارة تُنتج أيضاً التزييفات المستهدفة المستخدمة في الاحتيال والابتزاز والتضليل.

تهديد فيديو التزييف العميق

تقنية فيديو التزييف العميق تقدمت من تزوير واضح إلى محاكاة شبه مثالية. أدوات الجيل الحالي يمكنها تبديل الوجوه في الوقت الحقيقي أثناء مكالمات الفيديو المباشرة، وتوليد تزييفات بكامل الجسد تتضمن لغة جسد وإيماءات واقعية، وإنتاج لقطات اصطناعية تحافظ على الاتساق عبر دقائق من الفيديو المتواصل.

التهديد يتجلى في عدة فئات متميزة. الاحتيال المالي يستخدم فيديو التزييف العميق لانتحال شخصية المديرين التنفيذيين في مكالمات الفيديو والسماح بمعاملات احتيالية. حالات متعددة بخسائر تتجاوز 10 ملايين دولار وُثّقت.

هجمات السمعة تُنشئ فيديوهات ملفقة تُظهر شخصيات عامة, سياسيين وقادة أعمال ومشاهير, يقولون أو يفعلون أشياء لم تحدث قط. هذه الفيديوهات تنتشر أسرع من التصحيحات.

المحتوى الحميمي غير التوافقي يمثل أكثر التطبيقات تدميراً على المستوى الشخصي. يمكن للذكاء الاصطناعي توليد صور حميمية واقعية لأي شخص من صور عادية. كما فصّلنا في تغطيتنا لـعمليات احتيال الابتزاز الجنسي، غيّرت هذه التقنية مشهد التهديد جذرياً.

الاحتيال العاطفي وانتحال الهوية يستخدم فيديو التزييف العميق لاستدامة شخصيات مزيفة. يمكن للمحتالين الآن إجراء مكالمات فيديو حية باستخدام تبديل الوجوه في الوقت الحقيقي. دليلنا لكشف الانتحال يغطي تقنيات التحدي والاستجابة المحددة.

شكوك حول فيديو أو صورة؟ امسحه للتحقق من علامات التلاعب بالتزييف العميق.

الصوت الاصطناعي واستنساخ الصوت

تقنية استنساخ الصوت لها ربما أكثر التأثيرات قابلية للاستغلال الفوري من أي فئة وسائط اصطناعية. يمكن إنشاء نسخة صوتية مقنعة من عينة صوتية قصيرة, لا تتجاوز ثلاث ثوانٍ, ونشرها في محادثات هاتفية في الوقت الحقيقي أو رسائل مسجلة مسبقاً.

تطبيقات الاحتيال مباشرة ومدمّرة. المكالمات الهاتفية المستنسخة صوتياً التي تنتحل أفراد العائلة والمديرين التنفيذيين وشخصيات ذات سلطة أسفرت عن خسائر مالية كبيرة. الهجوم ينجح لأن الصوت البشري أحد أكثر إشارات التعريف ثقة لدينا.

التزييفات الصوتية العميقة تُستخدم أيضاً لإنشاء أدلة ملفقة. تسجيلات مزيفة لمحادثات لم تحدث قط يمكن استخدامها في نزاعات قانونية ومفاوضات تجارية أو صراعات شخصية.

للاستكشاف المفصل لكيفية تحويل استنساخ الصوت لعمليات الاحتيال الهاتفية، راجع مقالنا حول عمليات احتيال المكالمات الآلية وكيفية إيقافها.

الصور المُولَّدة بالذكاء الاصطناعي على نطاق واسع

توليد الصور بالذكاء الاصطناعي وصل لمستوى جودة حيث تمر الصور المُولَّدة بانتظام كصور فوتوغرافية أصلية. هذه القدرة تُستغل عبر فئات احتيال متعددة.

إنشاء ملفات شخصية مزيفة على نطاق صناعي أصبح ممكناً الآن. محتالو العلاقات العاطفية ومشغّلو التضليل وحملات الهندسة الاجتماعية يستخدمون الذكاء الاصطناعي لتوليد صور ملفات شخصية فوتوغرافية فريدة لحسابات مزيفة. على عكس الصور المسروقة، هذه الصور المُولَّدة محصّنة من البحث العكسي, لا يوجد أصل يمكن إيجاده لأن الشخص لم يوجد قط.

صور المنتجات والمراجعات المزيفة تُقوّض ثقة التجارة الإلكترونية. صور مُولَّدة تُظهر منتجات قيد الاستخدام بواسطة أشخاص واقعيين, كل ذلك ملفق. مقترنة بمراجعات مُولَّدة بالذكاء الاصطناعي، تُنشئ هذه الصور مظهراً شاملاً لكنه زائف بالكامل لجودة المنتج ورضا العملاء.

صور الأخبار والدعاية المزيفة تُنشئ «أدلة» بصرية لأحداث لم تحدث. صور ملفقة لكوارث طبيعية وأحداث سياسية وصراعات عسكرية أو فضائح المشاهير تنتشر على وسائل التواصل، وغالباً تجمع آلاف المشاركات قبل أن يتمكن مدققو الحقائق من الاستجابة.

آلة التضليل

قد يكون التأثير الأبعد مدى للوسائط الاصطناعية على منظومة المعلومات نفسها. عندما يكون أي محتوى, أي صورة أو فيديو أو تسجيل صوتي, قد يكون مُولَّداً بالذكاء الاصطناعي، يبدأ مفهوم الدليل التوثيقي بالتآكل. هذا يخلق مفارقة يسميها الباحثون «ربح الكاذب»: مجرد وجود تقنية التزييف العميق يسمح برفض المحتوى الحقيقي على أنه مزيف من قبل من يجدونه مزعجاً.

شخصيات سياسية ضُبطت أمام الكاميرا وهي تقول أشياء مرفوضة يمكنها الادعاء بأن اللقطات تزييف عميق. فظائع موثّقة يمكن رفضها كدعاية مُولَّدة بالذكاء الاصطناعي. أدلة الفساد أو الإساءة يمكن التلويح بها على أنها ملفقة. بهذه الطريقة، تقنية الوسائط الاصطناعية تُقوّض الحقيقة حتى عندما لا تُستخدم مباشرة, مجرد وجودها يوفر ذريعة شاملة لإنكار الواقع.

الجمع بين النصوص والصور والصوت والفيديو المُولَّدة بالذكاء الاصطناعي يُمكّن أيضاً من حملات إعلامية اصطناعية بالكامل. موقع إخباري كامل يعمل بصحفيين مُولَّدين بالذكاء الاصطناعي وينشر مقالات مكتوبة بالذكاء الاصطناعي مصورة بصور مُولَّدة بالذكاء الاصطناعي يمكن إنشاؤه في أيام.

العواقب الواقعية

عواقب الوسائط الاصطناعية ليست نظرية. خلال العامين الماضيين فقط، استُخدمت فيديوهات التزييف العميق للتلاعب بالانتخابات في عدة دول. الاحتيال المؤسسي باستخدام انتحال المديرين التنفيذيين بالتزييف العميق أسفر عن خسائر موثّقة تتجاوز 200 مليون دولار عالمياً. التزييفات العميقة الحميمية غير التوافقية دفعت ضحايا إلى إيذاء أنفسهم.

النظام القانوني يكافح لمواكبة التطور. بينما أصدرت بعض الولايات القضائية قوانين تستهدف تطبيقات محددة للتزييف العميق، يظل التطبيق صعباً عندما يُنتج المحتوى بشكل مجهول ويُوزّع عبر منصات دولية.

الأسواق المالية هدف متنامٍ آخر. تصريحات تنفيذية ملفقة وإعلانات أرباح مزيفة وتعليقات محللين اصطناعية يمكنها تحريك أسعار الأسهم قبل حدوث التحقق. كما استُكشف في مقالنا حول كيف يجعل الذكاء الاصطناعي الاحتيال أكثر خطورة، الحوافز المالية لإنشاء وسائط اصطناعية مقنعة هائلة ومتنامية.

الكشف والدفاع

الدفاع ضد الوسائط الاصطناعية يتطلب نهجاً متعدد الطبقات يجمع بين التقنية والتعليم والممارسات المؤسسية.

أدوات الكشف المدعومة بالذكاء الاصطناعي تمثل أكثر الدفاعات التقنية وعداً. تحلّل هذه الأنظمة المحتوى بحثاً عن البصمات الإحصائية للتوليد بالذكاء الاصطناعي, أنماط في توزيعات البكسل والخصائص الطيفية للصوت والتناقضات الزمنية في الفيديو والبصمات اللغوية في النص.

منصة Truvizy للمسح تُوفّر قدرات الكشف هذه للمستخدمين اليوميين. دليلنا الشامل حول كيف تعرف إذا كان المحتوى من صنع الذكاء الاصطناعي يُفصّل التقنيات المحددة المستخدمة في كشف النصوص والصور والفيديو.

معايير مصدر المحتوى مثل C2PA تُقدّم حلاً بنيوياً من خلال إنشاء سجلات قابلة للتحقق لكيفية إنشاء المحتوى وتعديله. عند اعتمادها على نطاق واسع، تسمح هذه المعايير للمستهلكين والمنصات بالتحقق من أن صورة التُقطت بكاميرا حقيقية وأن فيديو سُجّل على جهاز محدد ولم يُعدَّل أي منهما بشكل جوهري.

بروتوكولات التحقق للقرارات الحساسة توفر دفاعاً مؤسسياً. يجب أن تُنشئ الشركات إجراءات تأكيد عبر قنوات مستقلة لأي طلب غير عادي يُتلقّى عبر الفيديو أو الصوت أو النص, خاصة الطلبات المتعلقة بالمعاملات المالية.

التثقيف الإعلامي يبني المرونة الفردية. فهم أن أي محتوى رقمي يمكن تلفيقه ومعرفة إشارات الكشف الأساسية وتطوير عادة التحقق قبل الثقة أو المشاركة هي مهارات أساسية للتنقل في مشهد الوسائط الاصطناعية.

احصل على دفاع مدعوم بالذكاء الاصطناعي ضد التزييف العميق واستنساخ الصوت والوسائط الاصطناعية.

خطط Truvizy للحماية تضع تحليل الوسائط المدعوم بالذكاء الاصطناعي في أيدي الأفراد الذين يحتاجون لاتخاذ قرارات ثقة حول المحتوى الرقمي يومياً. سواء كنت تقيّم ملفاً شخصياً للمواعدة أو تتحقق من خبر أو تُصادق على اتصال تجاري، امتلاك القدرة على كشف المحتوى الاصطناعي أصبح أساسياً بقدر امتلاك برنامج مكافحة فيروسات قبل عقد.

كيف تكتشف فيديو التزييف العميق — إشارات بصرية وأدوات ذكاء اصطناعي لتحديد الفيديو المُتلاعَب به

كيف تتحقق من أصالة الفيديو — طرق خطوة بخطوة لتأكيد أن محتوى الفيديو أصلي

كيف تعرف إذا كان المحتوى من صنع الذكاء الاصطناعي — دليل عملي لكشف النصوص والصور والفيديو