För att lära dig hur du skyddar dig från att falla offer för falsk information måste du först förstå vad deepfakes är. Deepfakes är bilder eller videor, genererade av AI för att producera mycket realistiskt innehåll.
Hur görs deepfakes?
Deep learning är en avancerad artificiell intelligens (AI)-metod som använder flera lager av maskininlärningsalgoritmer för att extrahera funktioner på en högre nivå från rå input. Med den här tekniken är det möjligt att läsa in ostrukturerade data som ett ansikte.
Dessa data bearbetas för att skapa en Deepfake-video genom ett GAN (Generative Adversarial Network) - ett specialiserat maskininlärningssystem. Två neurala nätverk används som tävlar mot varandra för att bemästra inlärningsuppgifterna (som porträttbilder) för att sedan generera nya data med samma egenskaper (nya ”bilder”).
När nätverket testar de skapade bilderna mot träningssetet blir de falska bilderna, videorna och ljudet mer övertygande. Detta gör Deepfake till ett allt mer potent hot, eftersom de kan använda syntetiseringstekniker för att replikera röster.
En annan metod för att skapa deepfakes är att använda autoencoder-arkitektur. Ett neuralt nätverk för autoencoder är utformat för att koda data (som en bild) till en latent representation med lägre dimensioner (dvs till matematiska vektorer istället för pixlar), komprimera data och sedan rekonstruera samma data i andra änden av pipelinen. Autoencoders används för många ändamål inom datorseende, såsom handskriftsanalys och ansiktsigenkänning.
Eftersom autokodare söker "väsentliga" data från en bild (som en ansiktsbild), är de mycket bra på att eliminera visuellt brus. När det gäller deepfake-programvara betyder detta att en autokodararkitektur kan lära sig grundläggande egenskaper och egenskaper från en ansiktsbild samtidigt som man i stort sett ignorerar främmande faktorer som korn, skuggor och andra "icke-ansikts"-element som kan finnas i bilden, vilket resulterar i mångsidiga och välgeneraliserade modeller (dvs modeller som kan utföra användbara transformationer på deras ursprungliga data).
Hur används deepfakes
Medan konceptet deepfakes också används för att skapa visuella effekter i filmer, har online deepfakes många avsikter:
Desinformationskampanjer, särskilt under val, för att påverka människors åsikter.
Utpressning är där någon skapar en deepfake video eller bild av dig och hotar att släppa den om du inte ger efter för deras krav.
Deepfake phishing är att imitera någon i realtid under sken av att hjälpa en vän, familjemedlem eller kollega.
Ekonomiskt bedrägeri med hjälp av deepfakes identitetsstöld .
Farorna med Deepfakes
I takt med att teknik och AI utvecklas blir deepfake-videor och bilder online lättare att generera och mer övertygande. Farorna med att falla offer för deepfakes utgör en hög risk för företag, kändisar, anställda, valkandidater och vanliga individer.
Bedrägeri
År 2023 betalade en finansarbetare i Hongkong 25 miljoner dollar till en bluffartist på grund av en deepfake-teknik. Arbetaren bjöds in att delta i ett videosamtal med kollegor och företagets ekonomichef. Under samtalet gick den anställde med på att betala 200 miljoner dollar i Hongkong.
Trots att han såg de andra anställda och finanschefen på mötet, var det helt djupfalsk AI som manipulerade ansiktsigenkänningsfunktionerna för att se ut som arbetskamraterna och finanschefen.
Utpressning och ärekränkning
2020 upptäckte sydkoreansk polis en ring av män som tog bilder av gymnasieflickor för att skapa och distribuera på meddelandeappen Telegram. Att hjälpa männen var gymnasiepojkar som tog bilder av sina klasskamrater, av vilka några var minderåriga, och sedan skickade dem till skaparna.
Dessa videor skulle distribueras på olika plattformar , vilket gör att tjejerna blir hjälplösa att göra någonting. Även om det inte är dem på bar gärning, påverkar de falska bevisen hur de ses av samhället och är fortfarande traumatiserande.
Deepfake nätfiske
År 2024 blev en 77-årig brittisk kvinna, Nikki, lurad ut 17 000 pund genom deepfake-videor. Kvinnan träffade en annan kvinna på nätet, och de bildade en relation – eller så trodde hon. Bedragaren hävdade att de arbetade på en oljerigg och inte kunde videosamtal, och att hennes offer behövde betala för kuponger så att de kunde ha tillgång till internet. När Nikki blev misstänksam började gärningsmannen skicka videor till henne om "själv på oljeriggen", vilket satte Nikkis misstankar till ro. När förhållandet fortsatte begärde Nikki ofta ett videosamtal, vilket alltid nekades, men kort efter fick hon AI-genererade dokument, bilder och videor för att göra henne till mods – och bad sedan om mer pengar.
Nikki blev bara informerad om bluffen när hon försökte överföra pengar till sin partners bankkonto.
Harmlösa deepfakes
Vissa online deepfakes kan vara enbart i underhållningssyfte i ett försök att få fler följare på sociala medieplattformar.
En av de mest populära deepfakes var Tom Cruise som släpptes på TikTok. Kontot hade en miljon följare och vissa videor nådde nästan 50 miljoner visningar, trots att det inte var Tom Cruise. Till en början trodde folk att kändisen hade anslutit sig till plattformen eftersom videorna, likheten, rösten till och med personligheten var så övertygande.
År 2022 tog en YouTube-skapare, Shamook, den nya Spider-man-filmtrailern och ersatte skådespelaren Tom Holland med den ursprungliga skådespelaren Tobey Maguire. Med videon listad som Deepfake i titeln är den enbart i underhållningssyfte.
Hur man förhindrar deepfakes
Med deepfakes som snabbt blir ett växande problem och säkerhetsrisk finns det åtgärder du kan vidta för att förhindra att det händer dig eller ditt företag.
Verifiera alla förfrågningar
Om du blir tillfrågad om personlig eller känslig information, bekräfta uppringarens identitet via en sekundär kanal, som att ringa tillbaka till företaget som de sa att de kom från.
Använd sekretessinställningar på alla onlinekonton
Begränsa åtkomsten till sociala mediekonton med videor eller bilder på dig för att minska möjligheterna att replikera din likhet.
Lösenordsskydd
Byt lösenord regelbundet. Se till att alla lösenord är starka , unika, komplexa och minst 16 tecken långa. På delade konton, använd programvara för lösenordsdelning så att du inte behöver ge ut ditt lösenord till familj eller anställda.
Lägg till tvåfaktorsautentisering för konton
Se till att alla onlinekonton kräver att du verifierar din identitet innan du får åtkomst med tvåfaktorsautentisering. Detta gör det svårare för bedragare att hacka sig in på dina konton.
Uppdatera programvaran regelbundet
Programuppdateringar är avgörande för att säkerställa att dina enheter är skyddade mot den senaste skadliga programvaran , spionprogram och buggar.
Utbilda anställda regelbundet
Precis som tekniken utvecklas, så gör deepfake-bedrägerierna det. Det är viktigt att hålla sig uppdaterad med de senaste bedrägerierna och samarbeta med anställda om hur man identifierar dem.
Vet hur man identifierar en deepfake-video
Följ individens ansiktsdrag i videon för att verifiera att det överensstämmer med normala mänskliga rörelser.
Rycker videon eller har den inkonsekvent klarhet?
Kontrollera naturliga rörelser, som att blinka. Är det för lite eller för mycket?
Titta på eventuella skuggor och ljus i videon för att se om de är konsekventa.
Ta en skärmdump och ladda upp den till Google för att autentisera källan.
Vad du ska göra om du är ett offer
Dokumentera bevisen
Se till att spara deepfakes och allt relaterat till det, detta inkluderar kommentarer, plattformar som det delades på (om tillämpligt), skärmdumpar och all data som är associerad med den. Notera datum, tid och plattform det hände.
Meddela plattformar
Om det djupt falska innehållet kommer från en plattform, rapportera det till värdplattformen som du såg det på, till exempel YouTube, Facebook eller X. De flesta plattformar har policyer för att ta bort manipulerad media .
Kontakta myndigheter
Deepfakes som involverar identitet eller ekonomisk stöld är brott. Meddela lokala brottsbekämpande myndigheter och presentera dina bevis så att myndigheterna kan utfärda en formell rapport. Denna rapport kan användas för din bank, försäkring och andra officiella konton för brottet.
Sök rättsliga åtgärder
Sök efter ärekränkning, upphovsrätt eller integritetslagar i din jurisdiktion för att säkerställa att du har ett övertygande fall. Kontrollera om andra personer inte har fallit offer för samma bedrägeri och om möjligt, undersök en grupptalan.
Anlita ett PR-företag
Om ditt eller ditt företags rykte står på spel kan samarbetet med en PR-expert hjälpa dig att skapa ett svar och distribuera det till de nödvändiga parterna för att mildra eventuella skador.
Toppmodern anti-fake-teknik
Flera teknikföretag producerar deepfake-detekteringsverktyg för att hjälpa till att stoppa spridningen av desinformation, bedrägerier och phishing-bedrägerier.
Teknikutvecklingen strävar mot att göra det möjligt att autentisera sina videor. Genom att använda kryptografiska algoritmer kan du lägga till hashar med jämna mellanrum i klippet. Om klippet ändras kommer även dessa att ändras. Med hjälp av AI-teknik och blockkedjor går det att tillämpa digitala fingeravtryck i videon som inte går att manipulera. Dessa påminner om vattenstämplar i dokument. Det knepiga är att se till att hasharna inte försvinner om videon komprimeras till andra koder.
Du kan även använda program som lägger till digitala ”felaktigheter” i videon för att dölja de pixelmönster som finns i programvaror för ansiktsigenkänning. Felaktigheterna minskar hastigheten på deepfake-algoritmerna, vilket leder till dålig bildkvalitet och gör det lättare att upptäcka förfalskade videor.
Förebyggande säkerhetsskydd:
göra personalen och familjen medveten om vad deepfake är och vilka risker som finns
lära dig mer om hur man kan upptäcka deepfake
hålla dig uppdaterad och använda nyhetskällor av hög kvalitet
Ha bra grundläggande protokoll. Det är bra att vara skeptisk mot röstsamtal och videor för att försöka undvika att utsättas för bedrägeri. Men detta räcker inte alltid.
Säkerhetskopiera regelbundet för att skydda dina data mot utpressningsvirus och för att kunna återställa data.
Använda olika starka lösenord för dina konton för att undvika att alla dina nätverk och tjänster påverkas vid eventuella angrepp. Om ditt Facebook-konto hackas är det skönt att veta att inga fler konton riskerar samma sak.
Använd ett bra säkerhetspaket som Kaspersky Antivirus för att skydda ditt hemnätverk, din bärbara dator och din smartphone mot cyberhot. Det här paketet innehåller antivirusprogram, ett VPN för att förhindra att dina Wi-Fi-anslutningar hackas och skydd för dina webbkameror.
Vad är framtiden för Deepfake?
Deepfake-tekniken utvecklas hela tiden. För två år sedan kunde man enkelt avslöja om en video var riktig eller inte eftersom kvaliteten var betydligt sämre och att personen i videon sällan blinkade. Att se till att du är säker på nätet och att du förblir vaksam och misstänksam mot all onlineaktivitet, särskilt när det kommer till personlig information, hjälper människor att identifiera bedrägeriet innan det inträffar.
Vanliga frågor och svar
Vad är skräppost och nätfiske?
Socialt utformade attacker mot bedrägeri är en typ av nätfiske-bedrägeri som motarbetar och manipulerar individer genom att utge sig för människor. Målet med dessa bedrägerier är att extrahera känslig information och få offer att överföra pengar eller komma åt system.
Bör jag vara orolig för röstdeepfakes använda bedrägerier?
Ja. Bedragare kan nu generera djupt falskt ljud som låter precis som du, för att pressa pengar från vänner, familj eller kollegor under sken av att hjälpa dig. För att kringgå detta, ställ in ett kodord eller en säkerhetsfråga med nära och kära, som en bedragare inte vet svaret på, vilket du kan fråga under ett samtal, för att verifiera sin identitet.
Hur sker identitetskapning?
Bedragare kan använda din likhet eller röst för att förfalska dokument, ändra kontonummer eller utge sig för att vara dig via telefon.
Hur görs deepfakes?
Deepfake videor, ljud och bilder är gjorda av AI. Maskininlärningen tar in all data om ditt fysiska utseende och skapar en syntetiserad version.
Rekommenderade produkter
