AI-röst och djupfalska bedrägerier: varför du inte längre kan lita på en bekant röst

Det låter som en sci-fi-trop, men tekniken är här just nu – AI-röstbedrägerier använder artificiell intelligens för att kopiera riktiga röster och utge sig för att vara personer du litar på. Detta leder till ett skrämmande scenario där en bekant röst inte längre är ett bevis på att ett samtal är äkta.

Bedrägerier med AI-röstförfalskning är inte beroende av enheter som hackar enheter eller brott mot säkerhetssystem. Bedragarna använder skyndsamhet och påtryckningar för att driva människor till att agera innan de hinner ifrågasätta det de hör. Samtal kan låta lugna eller så kan de vara väldigt känslomässiga och påträngande.

Det säkraste svaret är enkelt. Stoppa samtalet och verifiera begäran på ett oberoende sätt med en tillförlitlig metod. Med några få vanor och grundläggande verktyg går det att minska risken att råka ut för dessa bedrägerier utan att behöva tekniska kunskaper.

Vad du behöver veta:

• Röstbedrägerier med AI använder klonade eller djupt falska röster för att utge sig för att vara personer du litar på, så en välbekant röst är inte längre ett bevis på att ett samtal är på riktigt.
• Dessa bedrägerier är beroende av brådska och känslomässigt påtryckningar, inte tekniskt hacking, för att hindra dig från att verifiera förfrågningar.
• Nödsituationer i familjen och auktoritetsutbildning (chefer och företagstjänstemän) är de vanligaste scenarierna i den verkliga världen.
• Det säkraste svaret är att avsluta samtalet och kontrollera oberoende med hjälp av tillförlitliga kontaktuppgifter.
• Enkla vanor som verifiering och användning av verktyg för samtalsfiltrering kan minska riskerna avsevärt.

Vad är en AI-röstbedrägeri?

Röstbedrägeri med AI är ett bedrägeri där angripare använder artificiell intelligens för att generera eller klona en persons röst och använda den under telefonsamtal eller röstmeddelanden för att lura någon att göra något.

Dessa bedrägerier tillhör den bredare kategorin nätfiske , ofta kallad röstnätfiske eller vishing . Istället för falska e-postmeddelanden eller meddelanden, litar bedragare på realistiskt klingande röster för att skapa förtroende och pressa människor att handla snabbt.

Den här typen av cyberbrottslighet har redan en massiv inverkan i vissa branscher , särskilt i områden där telefonbaserade förfrågningar, godkännanden eller interaktioner med support är vanliga.

Bedragare kan utge sig för att vara en familjemedlem som ber om akut hjälp eller pengar. De kan utge sig för att vara en ansvarig som begär betalning eller en supportombud som hävdar att det finns ett problem med ett konto. Rösten låter äkta eftersom den är skickligt byggd från inspelningar av en faktisk person.

Röstbedrägerier med AI är riktade och interaktiva. Den som ringer kan svara naturligt och justera tonen under hela samtalet. Det kan få situationen att kännas verklig och personlig snarare än automatiserad som en gammal robocaller.

Vad är en djupfalsk röst och hur används den vid bedrägerier?

En djupfalsk röst är en AI-genererad kopia av en riktig persons röst som kan användas som en övertygande bluff. Tekniken används för att utge sig för att vara någon som offret redan känner eller litar på.

Många av oss använder nu AI-assistenter som visar hur effektiva syntetiserade röster kan vara. Saker och ting blir hela tiden mer övertygande på ett sätt som kan sudda ut gränserna för det som är verkligt.

Deepfake-röster är ett verktyg inom AI-röstbedrägeri. De kombineras ofta med stulna personuppgifter för att samtalen ska kännas trovärdiga och akuta. Det är därför som begäran kan låta rimlig eller realistisk.

Många människor associerar deepfakes med falska videoklipp på nätet snarare än röstsamtal. Det förväntningsgapet är vad bedragare utnyttjar. Människor kanske inte är uppmärksamma på riskerna. När en röst låter bekant är det mer sannolikt att folk agerar snabbt utan att stanna för att verifiera.

Hur klonar bedragare någons röst?

Bedragare klonar röster genom att samla in korta ljudprover och använda AI-verktyg för att återskapa hur en person låter. De kanske bara behöver några sekunders klart tal för att få en viss uppskattning av någons röst och intonation.

Röstprover kan ibland vara lätta att hitta. Offentliga videoklipp på sociala medier och till och med korta telefonsamtal kan ge tillräckligt med material. Ljud matas in i verktyg för röstkloning som lär sig någons tonläge och uttal. Fundera på om du har ljudklipp på sociala medier som någon skulle kunna ta och använda.

Modern röstkloning är snabb och skalbar. Det som en gång skulle ha behövt enormt specialistkompetens kan nu göras snabbt med hjälp av allmänt tillgängliga verktyg. Detta är ett bekymmer eftersom det gör att bedragare kan skapa övertygande röster och återanvända dem vid många samtal eller mål.

Varför är AI-röstbedrägerier så övertygande?

Bedrägerier med AI-röst är övertygande eftersom en hög nivå av förtroende ger dig omedelbart höra en välbekant röst. I känslomässiga eller brådskande situationer förväntar sig inte folk bedrägeri.

Bedragare skapar ofta press genom att hävda nödsituationer eller tidskänsliga problem som att ha fastnat i en stad eller till och med utomlands utan möjlighet att ta sig tillbaka. Känslor av panik och brådska minskar chansen att någon pausar och ifrågasätter det de hör, även om begäran känns ovanlig eller olämplig.

Det är därför som även de mest säkerhetsmedvetna kan bli lurade. Bedrägeriet är inte beroende av tekniska svagheter. Den utnyttjar normala mänskliga reaktioner på stress och känslor.

Vilka är de vanligaste scenarierna för AI-röstbedrägeri?

De flesta bedrägerier med AI-röst följer välbekanta situationer där människor förväntar sig brådskande samtal och känner en press att svara snabbt. Det gör verifieringen svår eller till och med känns onödig för tillfället.

Röstbedrägerier i familjen

Nödlägesbedrägerier i familjen använder klonade röster för att skapa falska problem som involverar släktingar och personer du bryr dig mest om.

Offren rapporterar ofta samtal som hävdar att någon har gripits eller skadats och som akut behöver pengar. Den som ringer kan be om hjälp eller låta bedrövad. De kommer sannolikt att uppmana lyssnaren att inte lägga på luren eller kontakta någon annan, eftersom detta känslomässiga tryck är utformat för att stoppa verifieringen och hålla situationen privat.

Bedragaren kan kräva omedelbar betalning eller ge instruktioner om att hålla sig på linjen och förklaringar till varför vanliga kontaktmetoder påstås inte fungera. Målet är snabbhet och bedrägeri snarare än långa samtal.

Bedrägerier med arbete och auktoriteter

Dessa bedrägerier utger sig för att vara chefer eller personer i officiella roller och på arbetsplatser med lugna och säkra röster som låter bekanta eller professionella.

En upplevd auktoritetsnivå kan ibland öka chanserna för människor att rätta sig efter detta. När en förfrågan verkar komma från en chef eller en tillförlitlig institution är det mer sannolikt att folk följer instruktionerna utan att ifrågasätta dem. Samtalen kan innebära brådskande betalningar eller konfidentiella uppgifter (som båda ska behandlas som röda flaggor).

Dessa bedrägerier påverkar både privata telefoner och jobbtelefoner eftersom angripare riktar in sig på var som helst ett förtroende redan finns. Ett samtal kan vara riktat till en arbetsenhet under kontorstid eller en privat telefon efter öppettider.

Vilka varningstecken bör omedelbart väcka misstanke?

Ett röstsamtal bör ge upphov till misstankar om det skapar brådska eller påtryckningar som hindrar dig från att verifiera förfrågan på ditt föredragna sätt. Om den som ringer uppmanar till sekretess eller ringer från ett nummer du inte känner igen bör dina larmklockor ringa.

Personen som försöker lura dig kan insistera på att du håller samtalet hemligt eller säger att andra inte går att kontakta. Denna isolering är avsiktlig och avsedd att stänga av verifiering eller insikt om vad som faktiskt händer under samtalet.

Var särskilt försiktig med förfrågningar som involverar ovanliga eller oåterkalleliga betalningsmetoder som presentkort eller krypto. Dessa förfrågningar är utformade för att flytta pengar snabbt och försvåra återställningen. Att begära presentkort är en död giveaway av en bluff.

Vad ska du göra om du får ett misstänkt röstsamtal?

Det säkraste är att avsluta samtalet och skapa avstånd från trycket. Varje antydan till misstanke bör få dig att avbryta din förlovning.

Lägg på luren. Detta bryter det känslomässiga greppet och ger dig tid att tänka klart. Var inte på kö för att lista ut det och ställ följdfrågor inte, eftersom bedragare använder konversationer för att anpassa sin berättelse och komma på andra sätt att göra sin berättelse mer övertygande.

Verifiera begäran på ett oberoende sätt med hjälp av betrodda kontaktuppgifter. Insistera på att ni diskuterar saker via ett sparat telefonnummer eller känd e-postadress. Undvik att fortsätta konversationen eller ringa tillbaka på samma nummer. Legitima uppringare förstår verifieringen. Bedragare kommer att försöka stoppa det.

Hur kan du skydda dig från AI-röstbedrägerier på lång sikt?

Långsiktigt skydd innebär både att minska hur ofta du utsätts för mål och att göra det svårare för bedragare att nå framgång.

Röstbedrägerier med AI är beroende av tillförlitlighet och brådska. Enkla vanor och realistiska skyddsåtgärder hjälper till att minska risken utan att ändra hur du använder telefonen dagligen.

Personliga vanor som minskar risken

Små vanor kan göra stor skillnad. Vissa familjer och nära kontakter använder nu kodord för riktiga nödsituationer. Det betyder att ett äkta samtal kan verifieras snabbt (läcka bara inte kodordet).

Tänk på offentliga röstinspelningar. Videoklipp, röstanteckningar och hälsningar till röstmeddelanden kan alla användas som källmaterial för kloning. Du behöver inte undvika att dela helt, men om du begränsar långa eller tydliga inspelningar minskar exponeringen.

Behandla verifiering som vanligt och inte oförskämt. Att lägga på för att ringa tillbaka eller höra med en annan person ska vara normalt. Att använda en pålitlig kontaktmetod är ett rimligt svar och alla legitima kommer att förstå. Bedragare avråder från detta och försöker hålla dig på linjen så att det kan ge ett användbart filter och test.

Kan programvara hjälpa till att minska AI-röstbedrägerisamtal?

Bara upp till en viss punkt. Verktygen för samtalsfiltrering och skräppostavkänning analyserar samtalsmönster och ovanligt beteende för att blockera eller flagga misstänkta samtal innan du svarar. Den kan också söka efter misstänkta eller kända skräppostnummer.

Skydd på telefonnivå kan minska exponeringen genom att stoppa kända bedrägerikampanjer och varna för troliga bedrägerier. De kan inte fånga upp alla samtal. Det finns många mycket riktade bedrägerier som använder nya nummer.

Det är därför som programvara ska ses som ett stödlager och inte en ersättning för ditt bättre omdöme. Tekniken kan sänka hur ofta bedrägerier når dig, men mänsklig verifiering är fortfarande det starkaste försvaret när ett samtal låter på riktigt.

Vad ska du göra om du redan delat med dig av pengar eller information?

Kontakta omedelbart din bank eller betalningsleverantör om några pengar överförts eller om kontouppgifter har angetts. Byt lösenord och aktivera flerfaktorsautentisering direkt. Om personlig information delades ska du övervaka konton noggrant för ovanlig aktivitet.

Att agera snabbt efter att ha delat pengar eller läckt information kan begränsa ytterligare skador och öka chanserna till återhämtning.

Dokumentera vad som hände medan det är färskt. Spara samtalsuppgifter som nummer och tider så att du har dem som bevis. Du kan också föra en anteckning om eventuella instruktioner du fått. Den här posten hjälper leverantörer och myndigheter att reagera snabbare och kan förhindra att samma bedrägeri drabbar andra.

Varför AI-röstbedrägerierna sannolikt kommer att öka och hur man ändå förblir säker

AI-röstbedrägerierna kommer sannolikt att växa eftersom rösten ger bedragare ett sätt att utge sig för att vara någon på övertygande sätt. Det är lättare för bedragare att utnyttja det förtroendet i stor skala och det blir allt bättre.

Enbart förtrogenhet kan inte längre användas som bevis. Det betyder inte att människor är maktlösa. Verifiering fungerar fortfarande, även när bedrägerier blir mer övertygande. Att lägga på luren och verifiera identiteten är starka verktyg som kan stoppa en bedrägeri i spåren.

Genom att behandla verifieringen som normalt och förväntat får du tillbaka kontrollen i dina händer. Att utveckla goda vanor kan fortfarande få enorm inverkan och hjälpa människor att undvika att fastna. Medvetenhet innebär också att veta att allt kanske inte är som det ser ut när folk ringer dig.

Relaterade artiklar:

• Vad du behöver veta om nätfiskebedrägerier
• Hur undviker du att bli offer för onlinebedrägerier
• Vad är Vishing?
• Hur skyddar man sig från AI-hackning?

Relaterade produkter:

• Kaspersky Premium
  
• Ladda ner en kostnadsfri provperiod i 30 dagar på vår premiumplan

Vanliga frågor

Kan bedragare klona din röst utan att du vet?

Ja. Offentliga videoklipp eller korta inspelningar kan räcka för att klona en röst utan direkt kontakt.

Vem riktar sig AI-röstbedrägerierna mest?

Alla kan bli riktade men bedragare fokuserar ofta på personer vars röster eller personliga detaljer är lätta att hitta online.

Är AI-röstbedrägeri olagliga?

Bedrägerier, inklusive att använda klonade röster för att lura, är olagligt i många länder, även om tekniken i sig är laglig.