ສື່ສັງເຄາະ: ໄພຂົ່ມຂູ່ທີ່ເພີ່ມຂຶ້ນຂອງເນື້ອຫາທີ່ສ້າງໂດຍ AI
ສຳຫຼວດຄວາມອັນຕະລາຍທີ່ເພີ່ມຂຶ້ນຂອງສື່ສັງເຄາະ - ວິດີໂອປອມ, ຮູບພາບທີ່ສ້າງຂຶ້ນໂດຍ AI, ສຽງໂຄນ ແລະຂໍ້ຄວາມທີ່ສ້າງຂຶ້ນ - ແລະຮຽນຮູ້ວິທີປ້ອງກັນຕົວທ່ານຈາກໄພຂົ່ມຂູ່ທີ່ພວມພັດທະນານີ້.
· Truvizy Research Team · 8 min read
TL;DR
ສື່ສັງເຄາະກວມເອົາເນື້ອໃນທີ່ສ້າງຂຶ້ນໂດຍ AI ທັງໝົດ, ວິດີໂອປອມ, ສຽງໂຄນ, ຮູບພາບທີ່ສ້າງຂຶ້ນ ແລະຂໍ້ຄວາມທີ່ຂຽນດ້ວຍເຄື່ອງຈັກ. ໃນປີ 2026, ເທັກໂນໂລຍີນີ້ໄດ້ກາຍເປັນທີ່ສາມາດເຂົ້າເຖິງໄດ້, ສາມາດຊື້ໄດ້, ແລະເຊື່ອຖືໄດ້ພຽງພໍທີ່ຈະຂົ່ມຂູ່ບຸກຄົນ, ທຸລະກິດ, ແລະສະຖາບັນປະຊາທິປະໄຕ. ການປົກປ້ອງຮຽກຮ້ອງໃຫ້ມີການປະສົມປະສານຂອງເຄື່ອງມືກວດຫາທີ່ຂັບເຄື່ອນດ້ວຍ AI, ຄວາມຮູ້ທາງດ້ານສື່ ແລະນິໄສການຢັ້ງຢືນທີ່ປະຕິບັດຕໍ່ເນື້ອຫາທີ່ບໍ່ໄດ້ຮັບການຢັ້ງຢືນທັງໝົດດ້ວຍຄວາມສົງໄສທີ່ເໝາະສົມ.
ພວກເຮົາໄດ້ເຂົ້າໄປໃນຍຸກທີ່ສົມມຸດຕິຖານພື້ນຖານທີ່ຕິດພັນກັບສື່ທັງຫມົດ - ວ່າຮູບຖ່າຍສະແດງໃຫ້ເຫັນບາງສິ່ງບາງຢ່າງທີ່ເກີດຂຶ້ນ, ການບັນທຶກການຈັບບາງສິ່ງບາງຢ່າງທີ່ເວົ້າ, ວິດີໂອບັນທຶກບາງສິ່ງບາງຢ່າງທີ່ເກີດຂຶ້ນ - ບໍ່ສາມາດປະຕິບັດໄດ້ອີກຕໍ່ໄປ. ສື່ສັງເຄາະ, ເນື້ອຫາທີ່ຖືກສ້າງຂື້ນຫຼືປ່ຽນແປງຢ່າງຫຼວງຫຼາຍໂດຍປັນຍາປະດິດ, ໄດ້ພັດທະນາຈາກຄວາມແປກໃຫມ່ທີ່ສະແດງໃຫ້ເຫັນໃນກອງປະຊຸມຄົ້ນຄ້ວາໄປສູ່ໄພຂົ່ມຂູ່ທີ່ແຜ່ລາມທີ່ມີຜົນກະທົບຕໍ່ບຸກຄົນ, ທຸລະກິດ, ລັດຖະບານ, ແລະຜ້າຂອງຄວາມເປັນຈິງຮ່ວມກັນ.
ຄຳວ່າ ສື່ສັງເຄາະລວມເຖິງຂອບເຂດກວ້າງ: ວິດີໂອປອມທີ່ໃສ່ຄຳເວົ້າໃນປາກຂອງຄົນ, ຮູບຖ່າຍທີ່ສ້າງຂຶ້ນໂດຍ AI ຂອງຄົນທີ່ບໍ່ເຄີຍມີຢູ່, ສຽງໂຄນທີ່ປອມຕົວເປັນບຸກຄົນແທ້, ແລະຂໍ້ຄວາມທີ່ຂຽນດ້ວຍເຄື່ອງຈັກທີ່ເຮັດຕາມການປະພັນຂອງມະນຸດ. ແຕ່ລະເທກໂນໂລຍີເຫຼົ່ານີ້ໄດ້ບັນລຸລະດັບຄວາມຊັບຊ້ອນທີ່ທ້າທາຍຄວາມສາມາດຂອງພວກເຮົາໃນການຈໍາແນກທີ່ແທ້ຈິງຈາກ fabricated, ແລະລວບລວມພວກເຂົາເປັນຕົວແທນຫນຶ່ງໃນໄພຂົ່ມຂູ່ທີ່ສໍາຄັນທີ່ສຸດທີ່ຈະໄວ້ວາງໃຈໃນຍຸກດິຈິຕອນ.
ການກໍານົດສື່ສັງເຄາະ
ສື່ສັງເຄາະບໍ່ໄດ້ເປັນອັນຕະລາຍໂດຍປົກກະຕິ. ເທກໂນໂລຍີດຽວກັນທີ່ສ້າງການສໍ້ໂກງແບບເລິກຊຶ້ງຍັງເຮັດໃຫ້ຄໍາຮ້ອງສະຫມັກທີ່ຖືກຕ້ອງຕາມກົດຫມາຍ: ສະຕູດິໂອຮູບເງົາໃຊ້ AI ເພື່ອຫຼຸດອາຍຸນັກສະແດງ, ເຄື່ອງມືການເຂົ້າເຖິງ clone ສຽງສໍາລັບຜູ້ທີ່ສູນເສຍຄວາມສາມາດໃນການເວົ້າ, ແລະຜູ້ຊ່ຽວຊານດ້ານຄວາມຄິດສ້າງສັນໃຊ້ການສ້າງຮູບພາບ AI ເປັນສ່ວນຫນຶ່ງຂອງຂະບວນການສິລະປະຂອງພວກເຂົາ. ເທັກໂນໂລຍີຕົວມັນເອງເປັນກາງ - ມັນແມ່ນແອັບພລິເຄຊັນທີ່ກໍານົດວ່າມັນຊ່ວຍຫຼືເປັນອັນຕະລາຍ.
ບັນຫາແມ່ນວ່າແອັບພລິເຄຊັນທີ່ເປັນອັນຕະລາຍມີມາດຕະການປ້ອງກັນເກີນກວ່າ. ເຄື່ອງມືສໍາລັບການສ້າງສື່ສັງເຄາະແມ່ນມີຢູ່ຢ່າງກວ້າງຂວາງ, ມັກຈະບໍ່ເສຍຄ່າ, ແລະຕ້ອງການຄວາມຊໍານານດ້ານວິຊາການຫນ້ອຍທີ່ສຸດ. ເຄື່ອງມືສໍາລັບການກວດສອບສື່ສັງເຄາະແມ່ນສາມາດເຂົ້າເຖິງໄດ້ຫນ້ອຍ, ຜູ້ໃຫຍ່ຫນ້ອຍ, ແລະມັກຈະຕ້ອງການຄວາມຮູ້ພິເສດຫຼືການບໍລິການທີ່ຈ່າຍ. ຄວາມບໍ່ສົມດຸນນີ້ - ການສ້າງງ່າຍ, ກວດພົບຄວາມຫຍຸ້ງຍາກ - ແມ່ນສິ່ງທີ່ເຮັດໃຫ້ສື່ສັງເຄາະກາຍເປັນໄພຂົ່ມຂູ່ທີ່ເພີ່ມຂຶ້ນແທນທີ່ຈະເປັນສິ່ງທ້າທາຍທີ່ສາມາດຈັດການໄດ້.
ຂະຫນາດຂອງບັນຫາແມ່ນຍາກທີ່ຈະ overstate. ນັກຄົ້ນຄວ້າຄາດຄະເນວ່າປະລິມານຂອງສື່ສັງເຄາະອອນໄລນ໌ເພີ່ມຂຶ້ນຫຼາຍກວ່າ 900% ລະຫວ່າງ 2023 ແລະ 2025. ວິດີໂອ Deepfake ດຽວແມ່ນຜະລິດຢູ່ໃນອັດຕາລ້ານໆຕໍ່ມື້, ເຖິງແມ່ນວ່າສ່ວນຫຼາຍແມ່ນສ້າງຂື້ນເພື່ອຄວາມບັນເທີງຫຼາຍກວ່າການສໍ້ໂກງ. ສິ່ງທ້າທາຍແມ່ນວ່າໂຄງສ້າງພື້ນຖານດຽວກັນທີ່ຜະລິດວິດີໂອແລກປ່ຽນໃບຫນ້າທີ່ບໍ່ມີອັນຕະລາຍຫຼາຍລ້ານຍັງຜະລິດການປອມແປງເປົ້າຫມາຍທີ່ຖືກນໍາໃຊ້ເພື່ອການສໍ້ໂກງ, ການສໍ້ໂກງ, ແລະການເຜີຍແຜ່ຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງ.
ໄພຂົ່ມຂູ່ຕໍ່ວິດີໂອ Deepfake
ເທກໂນໂລຍີ Deepfake ວິດີໂອໄດ້ກ້າວຫນ້າຈາກການປອມແປງທີ່ຊັດເຈນໄປສູ່ການຈໍາລອງທີ່ໃກ້ສົມບູນ. ເຄື່ອງມືການຜະລິດໃນປະຈຸບັນສາມາດແລກປ່ຽນໃບຫນ້າແບບສົດໆໃນລະຫວ່າງການໂທວິດີໂອສົດໆ, ສ້າງການປອມແປງເຕັມຮ່າງກາຍທີ່ປະກອບມີພາສາແລະທ່າທາງຂອງຮ່າງກາຍທີ່ແທ້ຈິງ, ແລະຜະລິດ footage ສັງເຄາະທີ່ຮັກສາຄວາມສອດຄ່ອງໃນທົ່ວນາທີຂອງວິດີໂອຢ່າງຕໍ່ເນື່ອງ.
ໄພຂົ່ມຂູ່ສະແດງອອກໃນຫຼາຍປະເພດທີ່ແຕກຕ່າງກັນ.ການສໍ້ໂກງທາງດ້ານການເງິນໃຊ້ວິດີໂອປອມເພື່ອປອມຕົວເປັນຜູ້ບໍລິຫານໃນກອງປະຊຸມວິດີໂອ, ອະນຸຍາດໃຫ້ເຮັດທຸລະກໍາທີ່ຫຼອກລວງ. ຫຼາຍກໍລະນີທີ່ກ່ຽວຂ້ອງກັບການສູນເສຍເກີນ $10 ລ້ານໄດ້ຖືກບັນທຶກໄວ້. ການໂຈມຕີສວຍໃຊ້ຄວາມໄວ້ວາງໃຈທີ່ມີຢູ່ໃນການສື່ສານແບບຕໍ່ໜ້າ, ຫຼືສິ່ງທີ່ເບິ່ງຄືວ່າເປັນການສື່ສານແບບຕໍ່ໜ້າ.
ການໂຈມຕີຊື່ສຽງສ້າງວິດີໂອທີ່ປະດິດສ້າງສະແດງໃຫ້ເຫັນບຸກຄົນສາທາລະນະ - ນັກການເມືອງ, ຜູ້ນໍາທຸລະກິດ, ຄົນດັງ - ເວົ້າຫຼືເຮັດສິ່ງທີ່ພວກເຂົາບໍ່ເຄີຍເຮັດ. ວິດີໂອເຫຼົ່ານີ້ສາມາດແຜ່ລາມໄວກວ່າການແກ້ໄຂ, ເຊິ່ງກໍ່ໃຫ້ເກີດຄວາມເສຍຫາຍໃນໂລກທີ່ແທ້ຈິງຕໍ່ອາຊີບ, ຄວາມສໍາພັນ, ແລະຄວາມໄວ້ວາງໃຈຂອງສາທາລະນະກ່ອນທີ່ພວກມັນຈະຖືກຍົກເລີກ. ຄວາມເປັນໄປໄດ້ພຽງແຕ່ວ່າວິດີໂອໃດໆອາດຈະເປັນການປອມແປງເລິກໄດ້ເລີ່ມທໍາລາຍຄວາມໄວ້ວາງໃຈໃນຫຼັກຖານວິດີໂອທີ່ຖືກຕ້ອງແລ້ວ.
ເນື້ອຫາທີ່ສະໜິດສະໜົມທີ່ບໍ່ເຫັນດີເຫັນພ້ອມເປັນຕົວແທນຂອງຄໍາຮ້ອງສະຫມັກທີ່ຮ້າຍກາດສ່ວນບຸກຄົນທີ່ສຸດ. AI ສາມາດສ້າງຮູບພາບທີ່ສະໜິດສະໜົມທີ່ແທ້ຈິງຂອງບຸກຄົນໃດ ໜຶ່ງ ຈາກຮູບຖ່າຍ ທຳ ມະດາ. ເນື້ອໃນນີ້ຖືກນໍາໃຊ້ສໍາລັບການຂົ່ມເຫັງ, extortion, ແລະການລ່ວງລະເມີດ. ຕາມລາຍລະອຽດໃນການຄຸ້ມຄອງຂອງພວກເຮົາການຫລອກລວງທາງເພດ, ເທກໂນໂລຍີນີ້ໄດ້ປ່ຽນແປງພື້ນຖານຂອງພູມສັນຖານໄພຂົ່ມຂູ່ຕໍ່ການລ່ວງລະເມີດຮູບພາບທີ່ໃກ້ຊິດໂດຍການກໍາຈັດຄວາມຕ້ອງການຂອງຜູ້ຖືກເຄາະຮ້າຍທີ່ເຄີຍແບ່ງປັນເນື້ອໃນທີ່ໃກ້ຊິດ.
ຄວາມໂລແມນຕິກແລະການສໍ້ໂກງຕົວຕົນໃຊ້ວິດີໂອປອມເລິກເພື່ອຍືນຍົງຄົນປອມ. ດຽວນີ້ຜູ້ຫລອກລວງສາມາດດໍາເນີນການໂທວິດີໂອສົດໆໂດຍໃຊ້ການຫັນຫນ້າໃນເວລາຈິງ, ເຮັດໃຫ້ມັນເປັນໄປໄດ້ທີ່ຈະຜ່ານການທົດສອບການຢັ້ງຢືນສຸດທ້າຍ. ຂອງພວກເຮົາຄູ່ມືການຫາປາກວມເອົາເຕັກນິກການຕອບໂຕ້ສິ່ງທ້າທາຍສະເພາະທີ່ຍັງສາມາດລະບຸການໂທວິດີໂອປອມໄດ້.
ສົງໃສກ່ຽວກັບວິດີໂອ ຫຼືຮູບພາບບໍ? ສະແກນມັນເພື່ອເບິ່ງສັນຍານການຫມູນໃຊ້ແບບເລິກລັບ.
ສຽງສັງເຄາະ ແລະສຽງໂຄລນ
ເທກໂນໂລຍີ cloning ສຽງບາງທີອາດມີຜົນສະທ້ອນທີ່ສາມາດຂຸດຄົ້ນໄດ້ທັນທີທັນໃດຂອງປະເພດສື່ສັງເຄາະໃດໆ. ສາມາດສ້າງໂຄນສຽງທີ່ໜ້າເຊື່ອຖືໄດ້ຈາກຕົວຢ່າງສຽງສັ້ນໆ, ສັ້ນເຖິງສາມວິນາທີ, ແລະຖືກນຳໃຊ້ໃນການສົນທະນາທາງໂທລະສັບແບບສົດໆ ຫຼື ຂໍ້ຄວາມທີ່ບັນທຶກໄວ້ລ່ວງໜ້າ.
ຄໍາຮ້ອງສະຫມັກໃນການສໍ້ໂກງແມ່ນໂດຍກົງແລະເປັນອັນຕະລາຍ. ການໂທລະສັບດ້ວຍສຽງທີ່ປອມຕົວເປັນສະມາຊິກຄອບຄົວ, ຜູ້ບໍລິຫານ, ແລະຜູ້ມີສິດອຳນາດໄດ້ເຮັດໃຫ້ເກີດຄວາມເສຍຫາຍທາງດ້ານການເງິນຢ່າງຫຼວງຫຼາຍ. ການໂຈມຕີໄດ້ສຳເລັດຜົນເນື່ອງຈາກສຽງຂອງມະນຸດເປັນໜຶ່ງໃນສັນຍານທີ່ເຊື່ອຖືໄດ້ທີ່ສຸດຂອງພວກເຮົາ. ໃນເວລາທີ່ທ່ານໄດ້ຍິນສຽງທີ່ທ່ານຮັບຮູ້, ສະຫມອງຂອງທ່ານປະມວນຜົນມັນເປັນການຢືນຢັນ - ການຕອບສະຫນອງທາງຊີວະພາບທີ່ cloning ສຽງໂດຍກົງ.
ການປອມແປງສຽງຍັງຖືກໃຊ້ເພື່ອສ້າງຫຼັກຖານທີ່ສ້າງຂຶ້ນ. ການບັນທຶກສຽງຂອງການສົນທະນາທີ່ບໍ່ເຄີຍເກີດຂຶ້ນສາມາດຖືກໃຊ້ໃນການຂັດແຍ້ງທາງກົດໝາຍ, ການເຈລະຈາທຸລະກິດ ຫຼືຂໍ້ຂັດແຍ່ງສ່ວນຕົວ. ການຍອມຮັບແລະການວິເຄາະ forensic ຂອງຫຼັກຖານສຽງແມ່ນພື້ນທີ່ຂອງການພັດທະນາທາງດ້ານກົດຫມາຍແລະດ້ານວິຊາການຢ່າງຫ້າວຫັນ, ຍ້ອນວ່າສານຕໍ່ສູ້ກັບຄວາມເປັນຈິງທີ່ການບັນທຶກສຽງສາມາດຖືກສ້າງຂື້ນຢ່າງແນ່ນອນ.
ສໍາລັບການສໍາຫຼວດລະອຽດຂອງວິທີການ cloning ສຽງແມ່ນການຫັນປ່ຽນການຫລອກລວງໂທລະສັບ, ເບິ່ງບົດຄວາມຂອງພວກເຮົາກ່ຽວກັບການການຫລອກລວງ robocall ແລະວິທີການຢຸດພວກມັນ.
ຮູບພາບທີ່ສ້າງຂຶ້ນດ້ວຍ AI ໃນລະດັບ
ການສ້າງຮູບພາບ AI ໄດ້ບັນລຸລະດັບຄຸນນະພາບທີ່ຮູບພາບທີ່ສ້າງຂຶ້ນເປັນປົກກະຕິຜ່ານເປັນຮູບຖ່າຍທີ່ແທ້ຈິງ. ຄວາມສາມາດນີ້ຈະຖືກຂູດຮີດໃນທົ່ວປະເພດການສໍ້ໂກງຫຼາຍປະເພດ.
ການສ້າງໂປຣໄຟລ໌ປອມໃນລະດັບອຸດສາຫະກໍາໃນປັດຈຸບັນແມ່ນເປັນໄປໄດ້. scammers ໂຣແມນຕິກ, ຜູ້ປະຕິບັດການປອມແປງ, ແລະການໂຄສະນາວິສະວະກໍາສັງຄົມໃຊ້ AI ເພື່ອສ້າງຮູບພາບໂປຣໄຟລ໌ທີ່ເປັນເອກະລັກ, photorealistic ສໍາລັບບັນຊີປອມ. ບໍ່ເຫມືອນກັບຮູບທີ່ຖືກລັກ, ຮູບພາບທີ່ສ້າງຂຶ້ນເຫຼົ່ານີ້ມີພູມຕ້ານທານກັບການຊອກຫາຮູບພາບແບບປີ້ນຄືນ - ບໍ່ມີຕົ້ນສະບັບທີ່ຈະຊອກຫາເພາະວ່າຄົນນັ້ນບໍ່ເຄີຍມີຢູ່.
ຜະລິດຕະພັນປອມແລະການທົບທວນຄືນຮູບພາບທຳລາຍຄວາມໄວ້ວາງໃຈທາງອີຄອມເມີຊ. ຮູບພາບທີ່ສ້າງຂຶ້ນຈະສະແດງຜະລິດຕະພັນທີ່ໃຊ້ຢູ່, ໃນການຕັ້ງຄ່າຈິງ, ໂດຍຄົນທີ່ມີຮູບຮ່າງຕົວຈິງ - ທັງໝົດແມ່ນສ້າງຂຶ້ນ. ຄຽງຄູ່ກັບການທົບທວນທີ່ສ້າງໂດຍ AI, ຮູບພາບປອມເຫຼົ່ານີ້ສ້າງຮູບລັກສະນະທີ່ສົມບູນແບບແຕ່ປອມທັງຫມົດຂອງຄຸນນະພາບຜະລິດຕະພັນແລະຄວາມພໍໃຈຂອງລູກຄ້າ.
ຂ່າວປອມ ແລະຮູບພາບການໂຄສະນາເຜີຍແຜ່ສ້າງ "ຫຼັກຖານ" ທີ່ເບິ່ງເຫັນສໍາລັບເຫດການທີ່ບໍ່ເຄີຍເກີດຂຶ້ນ. ການສ້າງຮູບພາບຂອງໄພພິບັດທາງທໍາມະຊາດ, ເຫດການທາງດ້ານການເມືອງ, ຄວາມຂັດແຍ້ງທາງທະຫານ, ຫຼືເລື່ອງອື້ສາວທີ່ມີຊື່ສຽງທີ່ເຜີຍແຜ່ໃນສື່ສັງຄົມ, ມັກຈະສະສົມຫຼາຍພັນຮຸ້ນກ່ອນທີ່ຜູ້ກວດສອບຄວາມຈິງສາມາດຕອບສະຫນອງໄດ້. ຜົນກະທົບທາງດ້ານຈິດໃຈຂອງຮູບພາບແມ່ນທັນທີທັນໃດ, ໃນຂະນະທີ່ການແກ້ໄຂຮຽກຮ້ອງໃຫ້ມີການປຸງແຕ່ງສະຕິປັນຍາທີ່ພະຍາຍາມ - ຄວາມບໍ່ສົມດຸນພື້ນຖານທີ່ການໂຄສະນາເຜີຍແຜ່ຂໍ້ມູນທີ່ບໍ່ຖືກຕ້ອງ.
ທ່ານເຫັນຮູບພາບທີ່ຫນ້າຕົກໃຈໃນສື່ມວນຊົນສັງຄົມສະແດງໃຫ້ເຫັນຕົວເລກທາງດ້ານການເມືອງໃນສະຖານະການປະນີປະນອມ. ຮູບພາບເບິ່ງຄືວ່າແທ້ຈິງ. ຂັ້ນຕອນທໍາອິດທີ່ດີທີ່ສຸດແມ່ນຫຍັງ?
- ແບ່ງປັນມັນທັນທີ, ຄົນຕ້ອງການຮູ້
- ກວດເບິ່ງວ່າເລື່ອງດັ່ງກ່າວໄດ້ຖືກລາຍງານໂດຍຜູ້ເຜີຍແຜ່ຂ່າວທີ່ຖືກສ້າງຕັ້ງຂື້ນຫຼາຍກ່ອນທີ່ຈະເຊື່ອຫຼືແບ່ງປັນມັນ
- ສົມມຸດວ່າມັນເປັນການປອມແປງຢ່າງເລິກເຊິ່ງແລະບໍ່ສົນໃຈມັນຢ່າງສົມບູນ
- ຄອມເມັ້ນໃນໂພສຖາມວ່າແມ່ນແທ້
Answer: ບໍ່ເຄີຍແບ່ງປັນເນື້ອຫາທີ່ຫນ້າຕົກໃຈກ່ອນທີ່ຈະກວດສອບມັນຜ່ານແຫຼ່ງທີ່ເຊື່ອຖືໄດ້ຫຼາຍ. ຮູບພາບທີ່ສ້າງໂດຍ AI ດຽວນີ້ສາມາດເບິ່ງຕົວຈິງແລ້ວ. ຖ້າອົງການຂ່າວທີ່ຕັ້ງຂຶ້ນບໍ່ໄດ້ລາຍງານເລື່ອງດັ່ງກ່າວ, ອາດຈະຖືກສ້າງຂຶ້ນ. ໃຊ້ເຄື່ອງມືກວດຫາທີ່ຂັບເຄື່ອນດ້ວຍ AI ສໍາລັບການຢັ້ງຢືນເພີ່ມເຕີມ.
The Disinformation Machine
ຜົນກະທົບທາງໄກທີ່ສຸດຂອງສື່ສັງເຄາະອາດຈະຢູ່ໃນລະບົບນິເວດຂໍ້ມູນຂ່າວສານ. ເມື່ອເນື້ອຫາໃດໆ - ຮູບ, ວິດີໂອ, ການບັນທຶກສຽງໃດໆ - ອາດຈະເປັນການສ້າງ AI, ແນວຄວາມຄິດຂອງຫຼັກຖານເອກະສານເລີ່ມຕົ້ນທີ່ຈະທໍາລາຍ. ນີ້ສ້າງຄວາມຂັດແຍ້ງທີ່ນັກຄົ້ນຄວ້າເອີ້ນວ່າ "ເງິນປັນຜົນຂອງຜູ້ຂີ້ຕົວະ": ການມີຢູ່ພຽງແຕ່ຂອງເທກໂນໂລຍີ deepfake ອະນຸຍາດໃຫ້ເນື້ອຫາທີ່ແທ້ຈິງຖືກປະຕິເສດວ່າເປັນການປອມແປງໂດຍຜູ້ທີ່ພົບວ່າມັນບໍ່ສະດວກ.
ຕົວເລກທາງການເມືອງທີ່ຖືກຈັບຢູ່ໃນກ້ອງຖ່າຍຮູບກ່າວວ່າສິ່ງທີ່ໜ້າສົງໄສສາມາດອ້າງວ່າຮູບພາບດັ່ງກ່າວເປັນການປອມແປງຢ່າງເລິກເຊິ່ງ. ຄວາມໂຫດຮ້າຍທີ່ບັນທຶກໄວ້ສາມາດຖືກຍົກເລີກເປັນການໂຄສະນາເຜີຍແຜ່ທີ່ສ້າງໂດຍ AI. ຫຼັກຖານຂອງການສໍ້ລາດບັງຫຼວງ, ການລ່ວງລະເມີດ, ຫຼືຄວາມບໍ່ມີຄວາມສາມາດສາມາດຖືກຍົກເລີກດ້ວຍການຢືນຢັນວ່າມັນຖືກຜະລິດ. ດ້ວຍວິທີນີ້, ເຕັກໂນໂລຢີສື່ສັງເຄາະ ທຳ ລາຍຄວາມຈິງເຖິງແມ່ນວ່າມັນບໍ່ໄດ້ຖືກ ນຳ ໃຊ້ໂດຍກົງ - ການມີຢູ່ຂອງມັນຢ່າງດຽວແມ່ນໃຫ້ຂໍ້ແກ້ຕົວ ສຳ ລັບການປະຕິເສດຄວາມເປັນຈິງ.
ການປະສົມປະສານຂອງຂໍ້ຄວາມ, ຮູບພາບ, ສຽງ, ແລະວິດີໂອທີ່ສ້າງໂດຍ AI ຍັງເຮັດໃຫ້ແຄມເປນມີເດຍສັງເຄາະຢ່າງສົມບູນ. ເວັບໄຊທ໌ຂ່າວທັງຫມົດທີ່ມີພະນັກງານໂດຍນັກຂ່າວທີ່ສ້າງໂດຍ AI, ເຜີຍແຜ່ບົດຄວາມທີ່ຂຽນໂດຍ AI ທີ່ສະແດງດ້ວຍຮູບພາບທີ່ສ້າງໂດຍ AI, ສາມາດສ້າງໄດ້ພາຍໃນມື້. ສະຖານທີ່ເຫຼົ່ານີ້, ຂະຫຍາຍໂດຍບັນຊີສື່ມວນຊົນສັງຄົມທີ່ຂັບເຄື່ອນໂດຍ AI, ສາມາດປ່ຽນຄວາມຮັບຮູ້ຂອງປະຊາຊົນກ່ຽວກັບບັນຫາທາງດ້ານການເມືອງ, ຜະລິດຕະພັນການຄ້າ, ຫຼືຕົວເລກສາທາລະນະ.
ຜົນສະທ້ອນຂອງໂລກທີ່ແທ້ຈິງ
ຜົນສະທ້ອນຂອງສື່ສັງເຄາະບໍ່ແມ່ນທິດສະດີ. ໃນສອງປີທີ່ຜ່ານມາ, ວິດີໂອປອມແປງເລິກໄດ້ຖືກນໍາໃຊ້ເພື່ອຈັດການການເລືອກຕັ້ງໃນຫຼາຍປະເທດ, ທີ່ມີ footage ຂອງຜູ້ສະຫມັກທີ່ສ້າງຄໍາຖະແຫຼງທີ່ອັກເສບໄດ້ແຜ່ລາມໄປໃນມື້ກ່ອນການລົງຄະແນນສຽງ. ການສໍ້ໂກງຂອງບໍລິສັດໂດຍໃຊ້ການປອມຕົວຜູ້ບໍລິຫານທີ່ປອມຕົວໄດ້ເຮັດໃຫ້ເກີດການສູນເສຍເອກະສານຫຼາຍກວ່າ 200 ລ້ານໂດລາທົ່ວໂລກ. ການປອມຕົວທີ່ສະໜິດສະໜົມແບບບໍ່ເຫັນດີເຫັນພ້ອມເຮັດໃຫ້ຜູ້ເຄາະຮ້າຍຖືກທຳຮ້າຍຕົນເອງ ແລະຂ້າຕົວຕາຍ.
ລະບົບກົດໝາຍພວມດີ້ນລົນເພື່ອຮັກສາຈັງຫວະ. ໃນຂະນະທີ່ບາງເຂດອຳນາດສານໄດ້ຜ່ານກົດໝາຍທີ່ແນໃສ່ການນຳໃຊ້ສະເພາະເຈາະຈົງ - ໂດຍສະເພາະແມ່ນເນື້ອໃນທີ່ສະໜິດສະໜົມທີ່ບໍ່ເຫັນດີເຫັນພ້ອມ ແລະ ການຈັດການການເລືອກຕັ້ງ - ການບັງຄັບໃຊ້ຍັງຄົງມີຄວາມທ້າທາຍເມື່ອເນື້ອຫາຖືກຜະລິດໂດຍບໍ່ເປີດເຜີຍຊື່ ແລະ ແຈກຢາຍຜ່ານເວທີສາກົນ. ເທກໂນໂລຍີກ້າວໄປໄວກວ່ານິຕິກໍາ, ການສ້າງຊ່ອງຫວ່າງທີ່ນັກສະແດງທີ່ເປັນອັນຕະລາຍຂູດຮີດ.
ຕະຫຼາດການເງິນແມ່ນເປົ້າຫມາຍທີ່ເພີ່ມຂຶ້ນອີກ. ຖະແຫຼງການຜູ້ບໍລິຫານທີ່ສ້າງຂຶ້ນ, ການປະກາດລາຍຮັບປອມ, ແລະຄໍາຄິດຄໍາເຫັນຂອງນັກວິເຄາະສັງເຄາະສາມາດຍ້າຍລາຄາຫຼັກຊັບກ່ອນທີ່ຈະມີການກວດສອບ. ເມື່ອເນື້ອຫາຖືກລະບຸວ່າເປັນການປອມແປງ, ພໍ່ຄ້າທີ່ວາງໄວ້ມັນໄດ້ຮັບຜົນກໍາໄລຈາກປະຕິກິລິຍາຂອງຕະຫຼາດ. ດັ່ງທີ່ໄດ້ສໍາຫຼວດໃນບົດຄວາມຂອງພວກເຮົາກ່ຽວກັບAI ກໍາລັງເຮັດໃຫ້ການຫລອກລວງອັນຕະລາຍຫຼາຍຂຶ້ນແນວໃດ, ແຮງຈູງໃຈທາງດ້ານການເງິນສໍາລັບການສ້າງສື່ສັງເຄາະທີ່ຫນ້າເຊື່ອຖືແມ່ນຂະຫນາດໃຫຍ່ແລະການຂະຫຍາຍຕົວ.
ການຊອກຫາແລະປ້ອງກັນປະເທດ
ການປ້ອງກັນສື່ມວນຊົນສັງເຄາະຮຽກຮ້ອງໃຫ້ມີວິທີການຫຼາຍຊັ້ນທີ່ປະສົມປະສານເຕັກໂນໂລຢີ, ການສຶກສາ, ແລະການປະຕິບັດຂອງສະຖາບັນ.
ເຄື່ອງມືກວດຫາທີ່ຂັບເຄື່ອນດ້ວຍ AIເປັນຕົວແທນຂອງການປ້ອງກັນເຕັກໂນໂລຢີທີ່ໂດດເດັ່ນທີ່ສຸດ. ລະບົບເຫຼົ່ານີ້ວິເຄາະເນື້ອໃນສໍາລັບລາຍນິ້ວມືສະຖິຕິຂອງການຜະລິດ AI - ຮູບແບບການແຈກຢາຍ pixels ລວງ, ຄຸນລັກສະນະຂອງສຽງ, ຄວາມບໍ່ສອດຄ່ອງຊົ່ວຄາວໃນວິດີໂອ, ແລະລາຍເຊັນທາງພາສາໃນຂໍ້ຄວາມທີ່ເບິ່ງບໍ່ເຫັນກັບການຮັບຮູ້ຂອງມະນຸດແຕ່ມີຢູ່ໃນເນື້ອຫາສັງເຄາະຢ່າງຕໍ່ເນື່ອງ.
ເວທີການສະແກນຂອງ Truvizyເອົາຄວາມສາມາດກວດຫາເຫຼົ່ານີ້ໃຫ້ກັບຜູ້ໃຊ້ປະຈໍາວັນ. ໂດຍການວິເຄາະຮູບພາບ, ວິດີໂອ, ແລະສື່ອື່ນໆໂດຍຜ່ານຂັ້ນຕອນການກວດສອບຫຼາຍ, ມັນກໍານົດອາການຂອງການຜະລິດ AI ແລະການຫມູນໃຊ້ທີ່ຈະຜ່ານການກວດສອບຂອງມະນຸດ. ຄູ່ມືທີ່ສົມບູນແບບຂອງພວກເຮົາກ່ຽວກັບວິທີການບອກວ່າເນື້ອຫາແມ່ນເຮັດໂດຍ AIລາຍລະອຽດເຕັກນິກການສະເພາະທີ່ນໍາໃຊ້ໃນການຊອກຫາຂໍ້ຄວາມ, ຮູບພາບ, ແລະວິດີໂອ.
ມາດຕະຖານການພິສູດເນື້ອຫາຄືກັບ C2PA ສະເຫນີການແກ້ໄຂໂຄງສ້າງໂດຍການສ້າງບັນທຶກທີ່ສາມາດກວດສອບໄດ້ກ່ຽວກັບວິທີການສ້າງແລະດັດແກ້ເນື້ອຫາ. ເມື່ອໄດ້ຮັບການຮັບຮອງເອົາຢ່າງກວ້າງຂວາງ, ມາດຕະຖານເຫຼົ່ານີ້ອະນຸຍາດໃຫ້ຜູ້ບໍລິໂພກແລະເວທີສາມາດກວດສອບໄດ້ວ່າຮູບພາບໄດ້ຖືກຖ່າຍໂດຍກ້ອງຖ່າຍຮູບທີ່ແທ້ຈິງ, ວິດີໂອໄດ້ຖືກບັນທຶກໄວ້ໃນອຸປະກອນສະເພາະໃດຫນຶ່ງ, ແລະທັງສອງບໍ່ໄດ້ມີການປ່ຽນແປງຢ່າງຫຼວງຫຼາຍ. ໃນຂະນະທີ່ການຮັບຮອງເອົາແມ່ນການຂະຫຍາຍຕົວ, ມັນຍັງບໍ່ທັນເປັນທົ່ວໄປ, ເຮັດໃຫ້ການພິສູດເປັນສັນຍານທີ່ເປັນປະໂຫຍດໃນເວລາທີ່ປະຈຸບັນແຕ່ບໍ່ພຽງພໍຂອງຕົນເອງ.
ໂປໂຕຄອນການຢັ້ງຢືນສໍາລັບການຕັດສິນໃຈທີ່ລະອຽດອ່ອນສະຫນອງການປ້ອງກັນອົງການຈັດຕັ້ງ. ທຸລະກິດຄວນສ້າງຂັ້ນຕອນການຢືນຢັນນອກວົງການສໍາລັບການຮ້ອງຂໍທີ່ຜິດປົກກະຕິທີ່ໄດ້ຮັບຜ່ານວິດີໂອ, ສຽງ, ຫຼືຂໍ້ຄວາມ, ໂດຍສະເພາະການຮ້ອງຂໍທີ່ກ່ຽວຂ້ອງກັບທຸລະກໍາທາງດ້ານການເງິນ. ການເອີ້ນຄືນແບບງ່າຍໆໄປຫາເບີໂທລະສັບທີ່ຮູ້ຈັກ ຫຼືການຢືນຢັນຜ່ານຊ່ອງທາງການສື່ສານແຍກຕ່າງຫາກສາມາດເອົາຊະນະການປອມແປງທີ່ໜ້າເຊື່ອຖືໄດ້.
ການສຶກສາຄວາມຮູ້ທາງດ້ານສື່ສ້າງຄວາມຢືດຢຸ່ນຂອງບຸກຄົນ. ຄວາມເຂົ້າໃຈທີ່ເນື້ອຫາດິຈິຕອນສາມາດປະດິດໄດ້, ການຮູ້ຈຸດພື້ນຖານຂອງການກວດຫາ, ແລະການພັດທະນານິໄສຂອງການກວດສອບກ່ອນຄວາມໄວ້ວາງໃຈຫຼືການແບ່ງປັນແມ່ນທັກສະພື້ນຖານສໍາລັບການນໍາທາງພູມສັນຖານຂອງສື່ສັງເຄາະ. ນີ້ບໍ່ແມ່ນກ່ຽວກັບ paranoia - ມັນແມ່ນກ່ຽວກັບການປັບຄວາມໄວ້ວາງໃຈທີ່ເຫມາະສົມໃນສະພາບແວດລ້ອມທີ່ fabrication ມີລາຄາຖືກແລະການກວດສອບເປັນສິ່ງຈໍາເປັນ.
Key Takeaways
- ປະລິມານສື່ສັງເຄາະໄດ້ເພີ່ມຂຶ້ນຫຼາຍກວ່າ 900% ນັບຕັ້ງແຕ່ປີ 2023 - ວິດີໂອປອມ, ສຽງໂຄນ ແລະຮູບພາບ AI ມີຢູ່ທົ່ວທຸກແຫ່ງ.
- "ຄົນຂີ້ຕົວະ"
- ,
- ,
ຮັບການປ້ອງກັນທີ່ຂັບເຄື່ອນດ້ວຍ AI ຕໍ່ກັບການປອມແປງເລິກ, ການໂຄນສຽງ ແລະສື່ສັງເຄາະ.
ແຜນການປົກປ້ອງ Truvizyເອົາການວິເຄາະສື່ມວນຊົນທີ່ຂັບເຄື່ອນດ້ວຍ AI ເຂົ້າໄປໃນມືຂອງບຸກຄົນທີ່ຕ້ອງການຕັດສິນໃຈຄວາມໄວ້ວາງໃຈກ່ຽວກັບເນື້ອຫາດິຈິຕອນປະຈໍາວັນ. ບໍ່ວ່າທ່ານກໍາລັງປະເມີນຂໍ້ມູນການນັດພົບ, ກວດເບິ່ງຂ່າວ, ຫຼືການກວດສອບການສື່ສານທາງທຸລະກິດ, ການມີຄວາມສາມາດໃນການກວດສອບເນື້ອຫາສັງເຄາະແມ່ນກາຍເປັນພື້ນຖານຄືກັບການມີຊອບແວປ້ອງກັນໄວຣັດໃນທົດສະວັດກ່ອນ. ໄພຂົ່ມຂູ່ແມ່ນພັດທະນາ, ແລະການປ້ອງກັນຂອງພວກເຮົາ.
ວິທີການສັງເກດວິດີໂອ Deepfake — Visual cues ແລະເຄື່ອງມື AI ສໍາລັບການກໍານົດວິດີໂອ manipulated
ວິທີການກວດສອບຄວາມຖືກຕ້ອງຂອງວິດີໂອ — ວິທີການຂັ້ນຕອນໂດຍຂັ້ນຕອນສໍາລັບການຢືນຢັນເນື້ອໃນວິດີໂອແມ່ນແທ້ຈິງ
ວິທີການບອກວ່າເນື້ອຫາແມ່ນເຮັດໂດຍ AI — ຄູ່ມືການຊອກຄົ້ນຫາພາກປະຕິບັດສໍາລັບຂໍ້ຄວາມ, ຮູບພາບ, ແລະວິດີໂອ
FAQ
ສື່ສັງເຄາະແມ່ນຫຍັງ?
ສື່ສັງເຄາະແມ່ນເນື້ອຫາຕ່າງໆ - ຂໍ້ຄວາມ, ຮູບພາບ, ສຽງ, ຫຼືວິດີໂອ - ທີ່ຖືກສ້າງຂື້ນຫຼືປ່ຽນແປງຢ່າງຫຼວງຫຼາຍໂດຍໃຊ້ປັນຍາປະດິດ. ນີ້ຮວມເຖິງວິດີໂອທີ່ປອມແປງເລິກ, ຮູບພາບທີ່ສ້າງຂຶ້ນໂດຍ AI, ສຽງໂຄນ ແລະບົດຄວາມທີ່ຂຽນດ້ວຍເຄື່ອງ. ຄໍາສັບດັ່ງກ່າວກວມເອົາທັງເນື້ອຫາທີ່ສ້າງຂື້ນຢ່າງເຕັມສ່ວນແລະເນື້ອຫາທີ່ແທ້ຈິງທີ່ໄດ້ຮັບການ AI-manipulated.
ວິດີໂອທີ່ປອມຕົວເປັນຈິງໃນປີ 2026 ເປັນແນວໃດ?
ເຕັກໂນໂລຊີ deepfake ໃນປັດຈຸບັນສາມາດຜະລິດວິດີໂອທີ່ virtually indistinguishable ຈາກ footage ທີ່ແທ້ຈິງພາຍໃຕ້ເງື່ອນໄຂການເບິ່ງປົກກະຕິ. Deepfakes ທີ່ມີຄຸນນະພາບສູງສາມາດຜ່ານການກວດກາແບບທໍາມະດາ, ເຖິງແມ່ນວ່າພວກມັນຍັງມີວັດຖຸປອມທີ່ສາມາດກວດພົບໄດ້ໂດຍເຄື່ອງມືການວິເຄາະ AI ແລະການກວດສອບກອບໂດຍກອບຢ່າງລະມັດລະວັງ.
ການສ້າງ deepfake ແມ່ນຜິດກົດຫມາຍ?
ຄວາມຖືກຕ້ອງທາງດ້ານກົດໝາຍແຕກຕ່າງກັນໄປຕາມສິດອຳນາດ ແລະເຈດຕະນາ. ຫຼາຍລັດມີກົດໝາຍຕ້ານການປອມແປງຄວາມສະໜິດສະໜົມທີ່ບໍ່ເຫັນດີເຫັນພ້ອມ ແລະການປອມແປງເລິກທີ່ກ່ຽວຂ້ອງກັບການເລືອກຕັ້ງ. ການໃຊ້ deepfakes ສໍາລັບການສໍ້ໂກງແມ່ນຜິດກົດຫມາຍພາຍໃຕ້ກົດຫມາຍການສໍ້ໂກງທີ່ມີຢູ່ແລ້ວ. ແນວໃດກໍ່ຕາມ, ການສ້າງການປອມແປງເລິກໆເພື່ອການເສຍສະລະ, ການສຶກສາ, ຫຼືການບັນເທີງໂດຍທົ່ວໄປແມ່ນຖືກຕ້ອງຕາມກົດໝາຍ, ການສ້າງພູມສັນຖານລະບຽບການທີ່ສັບສົນ.
ອົງການຈັດຕັ້ງສາມາດປ້ອງກັນການໂຈມຕີແບບເລິກລັບໄດ້ແນວໃດ?
ອົງການຈັດຕັ້ງຄວນປະຕິບັດໂປໂຕຄອນການຢັ້ງຢືນສໍາລັບຄໍາຮ້ອງຂໍທີ່ລະອຽດອ່ອນ (ໂດຍສະເພາະການເຮັດທຸລະກໍາທາງດ້ານການເງິນ), ຝຶກອົບຮົມໃຫ້ພະນັກງານຮັບຮູ້ສື່ສັງເຄາະ, ໃຊ້ເຄື່ອງມືກວດຫາທີ່ມີອໍານາດ AI ສໍາລັບການສື່ສານທີ່ມີສະເຕກສູງ, ແລະສ້າງຂັ້ນຕອນການຢືນຢັນນອກວົງການສໍາລັບການຮ້ອງຂໍທີ່ຜິດປົກກະຕິຈາກຜູ້ບໍລິຫານຫຼືຄູ່ຮ່ວມງານ.
C2PA ແມ່ນຫຍັງ ແລະມັນຊ່ວຍແນວໃດ?
C2PA (Coalition for Content Provenance and Authenticity) ແມ່ນມາດຕະຖານດ້ານວິຊາການທີ່ຝັງບັນທຶກການພິສູດການເຂົ້າລະຫັດໃນເນື້ອຫາດິຈິຕອນ, ການສ້າງລະບົບຕ່ອງໂສ້ການເບິ່ງແຍງກວດກາທີ່ສາມາດຢັ້ງຢືນໄດ້ຕັ້ງແຕ່ການສ້າງຈົນເຖິງການແຈກຢາຍ. ເມື່ອປະຈຸບັນ, C2PA metadata ສາມາດຢືນຢັນວິທີການແລະບ່ອນທີ່ເນື້ອຫາຖືກສ້າງຂຶ້ນ, ສະຫນອງຫຼັກຖານທີ່ເຂັ້ມແຂງຂອງຄວາມຖືກຕ້ອງ.