Media Synthetic: Ewu Ti N Dagba ti Akoonu Ti AI Ṣẹda

A ti wọ ọjọ-ori nibiti arosọ ipilẹ ti o wa labẹ gbogbo media, pe fọto n ṣafihan nkan ti ṣẹlẹ, pe gbigbasilẹ n mu nkan ti a sọ, pe fidio n ṣe iwe aṣẹ nkan ti waye, ko le gbẹkẹle mọ. Media synthetic, akoonu ti a ṣẹda tabi ti a ṣe atunṣe pataki nipasẹ oye atọwọda, ti dagba lati ohun iyalẹnu ti a ṣafihan ni awọn apejọ iwadi si irokeke ti o gbooro ti o ni ipa lori awọn ẹni kọọkan, awọn iṣowo, awọn ijọba, ati aṣọ otitọ ti a pin.

Ọrọ naa media synthetic pẹlu ọpọlọpọ awọn nkan: awọn fidio deepfake ti o fi ọrọ ninu ẹnu eniyan, awọn fọto ti AI ṣẹda ti awọn eniyan ti ko tii wà, awọn ohun ti a ṣe ẹda ti o ṣe apẹẹrẹ awọn ẹni kọọkan gidi, ati ọrọ ti ẹrọ kọ ti o ṣe ẹda atilẹyin eniyan. Imọ-ẹrọ kọọkan ti wọn ti de ipele ti idiju ti o ni ipenija agbara wa lati ṣe iyatọ gidi lati ti a ṣe, ati ni apapọ wọn ṣe aṣoju ọkan ninu awọn irokeke nla julọ si igbẹkẹle ni ọjọ-ori dijitali.

Ṣiṣe Asọye Media Synthetic

Media synthetic kii ṣe ipalara ni ẹda. Imọ-ẹrọ kanna ti o ṣẹda ẹtan deepfake tun ṣe agbara awọn ohun elo ti o tọ: awọn ile-iṣẹ fiimu lo AI lati di-ọjọ awọn oṣere, awọn irinṣẹ iraye si ṣe ẹda awọn ohun fun awọn eniyan ti o ti padanu agbara lati sọrọ, ati awọn akosemose ẹda n lo ṣiṣẹda aworan AI gẹgẹ bi apakan ti ilana iṣẹ ọna wọn. Imọ-ẹrọ funrararẹ jẹ didoju, o jẹ ohun elo ti o pinnu boya o ṣe iranlọwọ tabi ipalara.

Iṣoro naa ni pe awọn ohun elo ipalara ti kọja awọn igbesẹ idaabobo. Awọn irinṣẹ fun ṣiṣẹda media synthetic wa ni ọpọlọpọ, nigbagbogbo ọfẹ, ati nilo imọ imọ-ẹrọ kekere. Awọn irinṣẹ fun wiwa media synthetic kere si iraye si, kere si dagba, ati nigbagbogbo nilo imọ amọja tabi awọn iṣẹ isanwo. Aidogba yii, ṣiṣẹda rọrun, wiwa nira, ni ohun ti o jẹ media synthetic irokeke ti n dagba dipo ipenija ti a le ṣakoso.

Iwọn iṣoro naa nira lati pọ si i. Awọn oniwadi ṣero pe iye media synthetic ori ayelujara pọ si nipasẹ 900 ogorun laarin 2023 ati 2025. Awọn fidio deepfake nikan ni a ṣẹda ni oṣuwọn ọkẹ milionu fun ọjọ, botilẹjẹpe ọpọlọpọ ni a ṣẹda fun ere dipo ẹtan. Ipenija naa ni pe ilana kanna ti o ṣẹda ọkẹ milionu awọn fidio paarọ oju ti ko lewu tun ṣẹda awọn deepfake ti a fojusi ti a lo fun ẹtan, iṣe ipaya, ati iro.

Irokeke Fidio Deepfake

Imọ-ẹrọ fidio deepfake ti ni ilọsiwaju lati awọn iro ti o han gbangba si awọn iṣeṣe ti o fẹrẹ pipe. Awọn irinṣẹ iran lọwọlọwọ le paarọ awọn oju ni akoko gidi lakoko awọn ipe fidio laaye, ṣẹda awọn deepfake ara kikun ti o pẹlu ede ara ati awọn iṣẹ igun gidi, ati ṣẹda fiimu synthetic ti o ṣe itọju ibamu lori awọn iṣẹju ti fidio ti o tẹsiwaju.

Irokeke naa n farahan ni ọpọlọpọ awọn ẹka oriṣiriṣi. Ẹtan owo n lo fidio deepfake lati ṣe apẹẹrẹ awọn oludari ni awọn apejọ fidio, ti n fun laṣẹ awọn iṣowo ẹtan. Awọn ọran pupọ ti o pẹlu awọn isonu ti o ju $10 milionu lọ ti jẹ iwe aṣẹ. Ikọlu naa n lo igbẹkẹle ti o wa ninu ibaraẹnisọrọ oju si oju, tabi ohun ti o dabi ibaraẹnisọrọ oju si oju.

Awọn ikọlu orukọ ṣẹda awọn fidio ti a ṣe, ti n ṣafihan awọn eniyan olokiki, awọn oloselu, awọn aṣaaju iṣowo, awọn olokiki, ti wọn n sọ tabi ṣe awọn nkan ti wọn ko tii ṣe. Awọn fidio wọnyi le tan kaakiri ni iyara ju awọn atunṣe lọ, ti n fa ipalara gidi si awọn iṣẹ, awọn ibatan, ati igbẹkẹle gbogbo eniyan ṣaaju ki wọn to jẹ ẹlẹgbẹ. Ṣeeṣe pe fidio eyikeyi le jẹ deepfake ti bẹrẹ tẹlẹ lati ba igbẹkẹle ninu ẹri fidio ti o tọ jẹ.

Akoonu ti ko ni ifọwọsi ti o jẹ alailorukọ jẹ aṣayan elo ti o jẹ ipalara julọ ti ara ẹni. AI le ṣẹda aworan ti o jẹ alailorukọ ti o ni iyawo ti eniyan eyikeyi lati awọn fọto deede. Akoonu yii ni a lo fun ipanilara, iṣe ipaya, ati ilokulo. Bi a ti ṣe alaye ni agbegbe wa ti awọn ẹtan sextortion, imọ-ẹrọ yii ti yi ilẹ irokeke fun ilokulo aworan ti o jẹ alailorukọ pada patapata nipa yiyọ ibeere pe olufaragba ti pin akoonu ti o jẹ alailorukọ rara.

Ẹtan ifẹ ati idamọ n lo fidio deepfake lati ṣe atilẹyin awọn eniyan eke. Awọn oloṣere ẹtan le bayi ṣe awọn ipe fidio laaye nipa lilo paarọ-oju akoko-gidi, ti n jẹ ki o ṣeeṣe lati kọja ohun ti o jẹ igbeyewo ṣayẹwo ipari. Itọsọna wiwa catfishing wa n bo awọn ọgbọn idahun-ìdánwò kan pato ti o tun le ṣe idanimọ awọn ipe fidio deepfake.

Ifura nipa fidio tabi aworan? Ṣayẹwo rẹ fun awọn ami ifọwọyi deepfake.

Orin Synthetic ati Ṣiṣe Ẹda Ohun

Imọ-ẹrọ ṣiṣe ẹda ohun le ni awọn ipa ti o le lo lẹsẹkẹsẹ julọ ti eyikeyi ẹka media synthetic. A le ṣẹda ẹda ohun ti o ni iyawo lati apẹẹrẹ orin kukuru, kukuru bi iṣẹju mẹta, ati fi ranṣẹ ni awọn ibaraẹnisọrọ foonu akoko-gidi tabi awọn ifiranṣẹ ti a gbasilẹ tẹlẹ.

Awọn ohun elo ninu ẹtan jẹ taara ati apaniyan. Awọn ipe foonu ti a ṣe ẹda ohun ti n ṣe apẹẹrẹ awọn ẹbi, awọn oludari, ati awọn eeyan aṣẹ ti yorisi awọn isonu owo nla. Ikọlu naa n ṣe aṣeyọri nitori pe ohun eniyan jẹ ọkan ninu awọn ami ẹri idamọ ti a gbẹkẹle julọ. Nigbati o ba gbọ ohun ti o mọ, ọpọlọ rẹ n ṣe ilana rẹ bi idamọ ti o jẹrisi, idahun ti ibi-aye ti ṣiṣe ẹda ohun n lo taara.

Awọn deepfake orin tun n ṣee lo lati ṣẹda ẹri ti a ṣe. Awọn gbigbasilẹ eke ti awọn ibaraẹnisọrọ ti ko tii waye ni a le lo ninu awọn ariyanjiyan ofin, awọn ijiroro iṣowo, tabi awọn ija ti ara ẹni. Gbigba wọle ati itupalẹ ẹri orin ni agbegbe ti idagbasoke ofin ati imọ-ẹrọ ti n ṣiṣẹ, bi awọn ile-ẹjọ ṣe n tiraka pẹlu otitọ pe awọn gbigbasilẹ orin le bayi jẹ ti a ṣe pẹlu iyawo.

Fun iwadii ijinle bi ṣiṣe ẹda ohun ṣe n yi awọn ẹtan da lori foonu pada, wo nkan wa lori awọn ẹtan robocall ati bi o ṣe le da wọn duro.

Awọn Aworan Ti AI Ṣẹda ni Iwọn Nla

Ṣiṣẹda aworan AI ti de ipele didara nibiti awọn aworan ti a ṣẹda n kọja nigbagbogbo gẹgẹbi awọn fọto ti o ṣe gidi. Agbara yii n jẹ ilokulo lori ọpọlọpọ awọn ẹka ẹtan.

Ṣiṣẹda profaili eke ni iwọn ile-iṣẹ ṣeeṣe bayi. Awọn oloṣere ẹtan ifẹ, awọn oniṣẹ iro, ati awọn ipolongo ẹrọ awujọ n lo AI lati ṣẹda awọn fọto profaili alailẹgbẹ, ti o ṣe gidi fọto fun awọn akaunti eke. Ko dabi awọn fọto ti a ji, awọn aworan ti a ṣẹda wọnyi ko ni ẹyọkan si wiwa aworan yiyipada, ko si atilẹba lati wa nitori pe eniyan naa ko tii wà.

Aworan ọja eke ati atunyẹwo ba igbẹkẹle e-commerce jẹ. Awọn fọto ti a ṣẹda n ṣafihan awọn ọja ni lilo, ni awọn eto ti o dabi gidi, nipasẹ awọn eniyan ti o dabi gidi, gbogbo wọn ni a ṣe. Ni idapo pẹlu awọn atunyẹwo ti AI kọ, awọn aworan eke wọnyi ṣẹda irisi ti o ni ibamu ṣugbọn ti a ṣe patapata ti didara ọja ati itẹlọrun onibara.

Aworan iroyin eke ati ete ṣẹda "ẹri" wiwo fun awọn iṣẹlẹ ti ko tii waye. Awọn fọto ti a ṣe ti awọn ajalu ẹda, awọn iṣẹlẹ oṣelu, awọn ija ologun, tabi awọn itanjẹ olokiki n tan kaakiri lori media awujọ, nigbagbogbo n kojọpọ ẹgbẹẹgbẹrun awọn ipin ṣaaju ki awọn oluwadi otitọ to le fesi. Ipa ẹdun ti aworan jẹ lẹsẹkẹsẹ, lakoko ti atunṣe nilo ilana imọye ti o nira, aidogba ipilẹ ti awọn ipolongo iro n lo.

Ẹrọ Iro

Ipa ti o gbooro julọ ti media synthetic le jẹ lori ilolupo alaye funrararẹ. Nigbati eyikeyi akoonu, eyikeyi fọto, eyikeyi fidio, eyikeyi gbigbasilẹ orin, le ni ifojuṣọna jẹ ti AI ṣẹda, imọran ti ẹri iwe aṣẹ bẹrẹ lati bajẹ. Eyi ṣẹda paradox ti awọn oniwadi n pe ni "ere-ẹri olo": wiwa imọ-ẹrọ deepfake nikan gba akoonu gidi laaye lati gbagbe gẹgẹ bi eke nipasẹ awọn ti o ri i bi aisọpọ.

Awọn eeyan oṣelu ti a ti mu ni kamẹra ti wọn n sọ awọn nkan ti ko tọ le sọ pe fiimu naa jẹ deepfake. Awọn iwa ika ti a ṣe iwe aṣẹ le gbagbe gẹgẹ bi ete ti AI ṣẹda. Ẹri ibajẹ, ilokulo, tabi ailagbara le fọnrọ pẹlu ìgbẹ́jọ pe a ṣe rẹ. Ni ọna yii, imọ-ẹrọ media synthetic ba otitọ jẹ paapaa nigbati a ko lo rẹ taara, wiwa rẹ nikan pese idi aṣọ fun jiyin otitọ.

Apapọ ọrọ ti AI ṣẹda, awọn aworan, orin, ati fidio tun mu ki awọn ipolongo media synthetic kikun ṣeeṣe. Aaye iroyin kan gangan ti o kun fun awọn oniroyin ti AI ṣẹda, ti n tẹ awọn nkan ti AI kọ ti o ṣe afihan awọn fọto ti AI ṣẹda, ni a le ṣẹda ni awọn ọjọ. Awọn aaye wọnyi, ti awọn akaunti media awujọ ti AI n wa ṣe igbelaruge, le yi iwoye gbogbo eniyan pada lori awọn ọrọ oṣelu, awọn ọja iṣowo, tabi awọn eeyan gbogbo eniyan.

Awọn Abajade Agbaye Gidi

Awọn abajade media synthetic kii ṣe imọ-imọ. Ni ọdun meji to kọja nikan, awọn fidio deepfake ti ni lilo lati ṣe atọwọdọwọ awọn idibo ni awọn orilẹ-ede pupọ, pẹlu fiimu ti a ṣe ti awọn oludije ti wọn n sọ awọn alaye ti o nfa ija ti o tan kaakiri ni awọn ọjọ ṣaaju idibo. Ẹtan ile-iṣẹ nipa lilo ifarabale oludari deepfake ti yorisi awọn isonu ti a ṣe iwe aṣẹ ti o ju $200 milionu lọ ni agbaye. Awọn deepfake ti ko ni ifọwọsi ti o jẹ alailorukọ ti ti awọn olufaragba lọ si ipalara ara ẹni ati igbẹmi ara ẹni.

Eto ofin n tiraka lati ṣe atẹle. Lakoko ti diẹ ninu awọn agbegbe ti kọja awọn ofin ti o fojusi awọn ohun elo kan pato ti awọn deepfake, ni pataki akoonu ti ko ni ifọwọsi ti o jẹ alailorukọ ati ifọwọyi idibo, ẹjọ wa ni ipenija nigbati akoonu ti a ṣẹda ni aṣiri ati pin nipasẹ awọn iru aaye kariaye. Imọ-ẹrọ n gbe ni iyara ju ofin lọ, ti n ṣẹda awọn aafo ti awọn eeyan ipalara n lo.

Awọn ọja owo jẹ ibi-afẹde ti n dagba miiran. Awọn alaye oludari ti a ṣe, awọn ikede owo-wiwọle eke, ati asọye onínọmbà synthetic le yi awọn iye ọja ṣe ṣaaju ki ṣayẹwo waye. Ni kete ti a ba ṣe idanimọ akoonu naa gẹgẹ bi eke, awọn oniṣowo ti o fi si ibẹ ti tẹlẹ jere lati idahun ọja. Bi a ti ṣe iwadii ninu nkan wa lori bi AI ṣe n jẹ ki awọn ẹtan lewu sii, awọn iwuri owo fun ṣiṣẹda media synthetic ti o ni iyawo tobi ati n dagba.

Wiwa ati Aabo

Aabo lodi si media synthetic nilo ọna ti o ni ọpọlọpọ awọn ipele ti o darapo imọ-ẹrọ, ẹkọ, ati awọn iwa ti ile-iṣẹ.

Awọn irinṣẹ wiwa ti AI ṣe agbara jẹ aabo imọ-ẹrọ ti o ni ẹhun pupọ julọ. Awọn eto wọnyi n ṣe itupalẹ akoonu fun awọn ika ika iṣiro ti ṣiṣẹda AI, awọn apẹẹrẹ ninu awọn pinpin pixel, awọn abuda ìgbéro ti orin, awọn aidogba akoko ninu fidio, ati awọn ibuwọlu ede ninu ọrọ ti ko ni han si imọ eniyan ṣugbọn ti o wa nigbagbogbo ninu akoonu synthetic.

Iru aaye ṣiṣayẹwo Truvizy mu awọn agbara wiwa wọnyi wa si awọn olumulo ojoojumọ. Nipa ṣiṣe itupalẹ awọn aworan, fidio, ati media miiran nipasẹ ọpọlọpọ awọn ipele wiwa, o ṣe idanimọ awọn ami ṣiṣẹda AI ati ifọwọyi ti yoo kọja ayẹwo eniyan. Itọsọna ti o ni ibamu wa lori bi o ṣe le sọ ti akoonu ba jẹ AI ṣe ṣe alaye awọn ọgbọn kan pato ti a lo lori ọrọ, aworan, ati wiwa fidio.

Awọn boṣewa ilẹ-nla akoonu bii C2PA pese ojutu ẹda nipa ṣiṣẹda awọn igbasilẹ ti o le ṣayẹwo ti bi akoonu ti a ṣẹda ati ṣe atunṣe. Nigbati a ba gbagbọ jẹ, awọn boṣewa wọnyi gba awọn onibara ati awọn iru aaye laaye lati ṣayẹwo pe fọto kan ti kamẹra gidi ya, pe fidio kan ti a gbasilẹ lori ẹrọ kan pato, ati pe boya ko jẹ atunṣe pataki. Lakoko ti gbigba n pọ, ko jẹ agbaye tẹlẹ, ti n jẹ ki ilẹ-nla jẹ ami iranlọwọ nigbati o ba wa ṣugbọn ko to fun ara rẹ.

Awọn ilana ṣayẹwo fun awọn ipinnu ti o ni iyebiye pese aabo ti ile-iṣẹ. Awọn iṣowo yẹ ki o ṣeto awọn ilana ìmúrege ita-ipa fun eyikeyi ibeere ti o ṣeeṣe ti a gba nipasẹ fidio, orin, tabi ọrọ, ni pataki awọn ibeere ti o pẹlu awọn iṣowo owo. Ipe-pada ti o rọrun si nọmba foonu ti a mọ tabi ìmúrege nipasẹ ipa ibaraẹnisọrọ omiiran le bori paapaa deepfake ti o ni iyawo julọ.

Ẹkọ imọ media kọ ifarabalẹ kọọkan. Oye pe eyikeyi akoonu dijitali le jẹ ti a ṣe, mimọ awọn ami wiwa ipilẹ, ati dagba iwa ṣayẹwo ṣaaju ki o to gbẹkẹle tabi pin jẹ awọn ọgbọn ipilẹ fun lilọ ni ilẹ media synthetic. Eyi kii ṣe nipa iparanọja, o wa nipa isọdọtun igbẹkẹle ti o tọ ni agbegbe nibiti ṣiṣe jẹ din owo ati ṣayẹwo jẹ pataki.

Gba aabo ti AI ṣe agbara lodi si awọn deepfake, awọn ẹda ohun, ati media synthetic.

Awọn eto idaabobo Truvizy fi itupalẹ media ti AI ṣe agbara si ọwọ awọn ẹni kọọkan ti o nilo lati ṣe awọn ipinnu igbẹkẹle nipa akoonu dijitali lojoojumọ. Boya o n ṣe iṣiro profaili ẹlẹkọ, n ṣayẹwo itan iroyin, tabi n ṣayẹwo ibaraẹnisọrọ iṣowo, nini agbara lati ṣe awari akoonu synthetic di pataki bi nini sọfitiwia antivirus jẹ ni ọdun mẹwa sẹyin. Awọn irokeke n dagba, ati awọn aabo wa gbọdọ ṣe bẹ pẹlu.

Bi O Ṣe Le Ṣe Awari Fidio Deepfake — Awọn ami wiwo ati awọn irinṣẹ AI fun ṣiṣe idanimọ fidio ti a ṣe atunṣe

Bi O Ṣe Le Ṣayẹwo Otitọ Fidio — Awọn ọna igbesẹ-ni-igbesẹ fun jẹrisi pe akoonu fidio jẹ gidi

Bi O Ṣe Le Sọ Ti Akoonu Ba Jẹ AI Ṣe — Itọsọna wiwa to wulo fun ọrọ, awọn aworan, ati fidio