Är artificiell intelligens säker? Det är utan tvekan det mest populära ämnet i teknikens värld just nu, och det är ett ämne som väcker stor debatt.
Vid ett globalt toppmöte i Paris i februari 2025 skilde sig åsikterna om AI-säkerhet bland världens ledare. Till exempel efterlyste Frankrikes president, Emmanuel Macron, ytterligare reglering för att hjälpa AI att komma vidare, medan USA:s vicepresident, JD Vance, sa att ”tillväxtfrämjande åtgärder för AI” borde prioriteras framför säkerhetsproblem.
Även om legitima företag, myndigheter och personer undersöker sätt att använda AI på ett ansvarsfullt och säkert sätt, finns det också ett annat hot: cyberbrottslingars användning av AI för att göra deras skadliga aktiviteter ännu mer kraftfulla och framgångsrika.
AI cyberbrottslighet är en game-changer för säkerhet i det digitala landskapet, och det är viktigt att alla är medvetna om riskerna och de åtgärder som krävs för att vara säkra. Den här guiden utforskar de olika typerna av AI-cyberattacker, vad dessa attacker betyder ur säkerhetssynpunkt och vad du nu kan göra för att stödja ditt försvar.
Exempel på lyckat hacking med AI
Risken för AI-genererad skadlig programvara och annan kriminell aktivitet är mycket mer än teoretisk – dessa attacker sker redan och skördar offer över hela världen. Här är bara tre av ett stort antal exempel:
Identifiering: Guido Crosetto
I början av 2025 använde bedragare AI-genererad röstteknik för att utge sig för att vara den italienska försvarsministern, Guido Crosetto. De kontaktade sedan rika entreprenörer i Italien med en fiktiv vädjan om ekonomiskt stöd som påstås användas för att hjälpa befria italienska journalister som kidnappats i Mellanöstern. Minst en affärsman lurades till att skicka pengar till något som visade sig vara ett bedrägligt konto.
Skadlig programvara: DeepSeek ClickFix-bedrägeri
En cyberbrottslig verksamhet har skapat en verifieringssida som efterliknar det nya kinesiska AI-talet DeepSeek. Användare som slutför en vad de tror är en Captcha-verifiering styr installationen av Vidar Stealer och Lumma Stealer, skadlig programvara som kan användas för att stjäla känslig information, inklusive inloggningar och bankuppgifter, vilket i slutändan leder till bankbedrägerier online .
Användarfel: Samsungs ChatGPT-läcka
Även om det inte var ett AI- virus eller skadlig programvarasattack i sig, visade den här högprofilerade incidenten hur dörren oavsiktligt kan öppnas för AI-attacker. Våren 2023 använde personal vid den koreanska teknikjätten Samsung ChatGPT för att kontrollera en del av sin källkod, utan att inse att denna data skulle lagras för att vidareutbilda AI-modellen. Detta gjorde att en del av Samsungs mycket känsliga immateriella rättigheter blev allmän egendom för alla att komma åt.
Typer av AI-cyberattacker
Det finns redan flera olika sätt på vilka AI kan användas för skadlig aktivitet, antingen direkt eller till stöd för andra kriminella företag:
Social manipulation
En social ingenjörsattack är där kriminella försöker påverka mänskligt beteende och få användare att frivilligt lämna ut information eller tillgångar till dem. Det kan handla om allt från känsliga personuppgifter , bankkontouppgifter, pengar eller kryptovaluta , eller tillgång till vissa enheter och databaser. AI har visat sig vara till stor hjälp vid den här typen av attacker, och hjälper cyberbrottslingar att identifiera mål, utveckla övertygande personligheter och meddelanden, samt skapa ljud- och videoinspelningar som lägger till rimligheten till bluffen.
Nätfiskeattacker
Nätfiskeattacker bygger på att användare tror att meddelanden, länkar och e-postbilagor de har fått är riktiga och klickar på vad som visar sig vara skadlig programvara. God användarutbildning har bidragit till att minska framgångarna för dessa attacker tidigare, men AI används nu för att göra nätfiskeförsök mer övertygande än någonsin. Det kan användas i realtidskommunikation som WhatsApp meddelanden eller sociala medier, och till och med i falska kundtjänstchatbotar där kunder tror att de delar sina kontouppgifter med riktiga anställda.
AI ransomware
AI har avsevärt utökat den tekniska kapaciteten för ransomwareattacker . Detta inkluderar målforskning, såsom att utvärdera systemen för de mest lovande sårbarheterna att utnyttja, och möjligheten att anpassa ransomware-filer så att de fortfarande kan undvika upptäckt av cybersäkerhetslösningar.
Motsatt AI och skadliga GPT:er
Många cyberbrottslingar snedvrider utdata som genereras av AI genom att mata dem med felaktig data eller ändra inställningarna för AI-modellen. De felaktigheter som införs kan leda till att farliga fördomar eller instruktioner skapas som passar hackarens syften. Parallellt med detta har det skett en ökning av användningen av skadliga AI-verktyg som inte innehåller några säkerhetsåtgärder för att skydda mot partiskhet och felaktig användning; GhostGPT är ett färskt exempel på en ocensurerad chatbot som kan användas för att skapa AI-skadlig programvara.
Deepfakes
Du kanske tror att deepfakes bara är ett bekymmer för offentliga personer vars ansikten och röster försätts i fiktiva, kompromissande positioner, men hotet mot alla är verkligt. Deepfake-teknik kan användas för att utge sig för att vara vem som helst via video, röst eller en kombination av de två. Dessa kan potentiellt användas för att få tillgång till känslig information eller till och med bankkonton genom att lura säkerhets- och verifieringsprocedurer.
Bekämpa eld med eld: Vad betyder AI-driven cyberbrottslighet för säkerheten?
Det bästa verktyget att använda mot cyberhot av AI är själva artificiell intelligens. Det betyder inte att vanliga säkerhetslösningar är maktlösa för att förhindra AI-stödda attacker: de kommer fortfarande att kunna skydda mot många typer av skadlig programvara och hacking. Men att ta in AI i säkerhetsmixen kan lägga till en extra dimension till flera säkerhetsmetoder, till exempel:
Incidenthantering
AI kan användas för att automatisera incidenthanteringsaktiviteter. Till exempel kan Kaspersky Incident Response blockera skadlig aktivitet, och berörda system kan isoleras mycket snabbare än vad en person som svarar på en systemvarning kan hantera. Drastiskt minskade svars- och upplösningstider kan minimera effekterna av alla attacker, vilket i slutändan begränsar omfattningen av störningar, kostnader och dataförlust.
Hotupptäckt och proaktiv hotjakt
Med så många hot runt omkring kan det vara svårt för säkerhetsteam att hänga med i allt som finns där ute och undersöka varje varning. Det är här som AI kan hjälpa till, genom att analysera användarbeteenden och nätverkstrafik i detalj, upptäcka potentiella hot snabbare och filtrera bort de falska resultaten som kostar säkerhetsteamen värdefull tid. AI kan också göra hotidentifiering proaktiv och jaga cyberattacker innan de ens börjar.
Analys av skadlig programvara
De insikter som AI kan generera kan ge säkerhetsteam en mycket bättre och djupare förståelse för hur olika typer av skadliga program fungerar i praktiken. Att kunna automatisera denna analys innebär att säkerhetsteam kan komma åt dessa insikter mycket snabbare och kan fatta mer välgrundade beslut om var och hur deras försvar är utformade och distribuerade.
Sårbarhetsskanning
AI-verktyg kan utvärdera system och infrastruktur för att ta reda på var de största sårbarheterna finns, så att säkerhetsteam bättre kan prioritera sin tid och resurser för att stänga dessa sårbarheter. Denna information är avgörande för bättre korrigerings- och uppdateringshantering, och för att se till att de mest akuta uppgraderingarna installeras först.
Identitets- och åtkomsthantering (IAM)
Styrkan hos Identitets- och åtkomsthantering har förstärkts avsevärt av AI genom dess förmåga att upptäcka ovanliga mönster av användaraktivitet från olika platser för åtkomstförsök till hastigheten på skrivning och musrörelser. Dessa avvikelser kan flaggas upp i realtid för att blockera eventuell obehörig åtkomst och/eller för att generera ytterligare verifieringslager för att bekräfta legitim användning.
Etiskt hackning
Etiskt hackning och penetrationstestning är avgörande verktyg för att upptäcka sårbarheter och proaktivt stänga av dem. Det kan dock vara ett långsamt och tidskrävande företag bara på grund av den stora arbetsbördan. AI kan dock lätta den administrativa bördan för dessa uppgifter på två viktiga sätt: genom att automatisera enklare och mer repetitiva uppgifter som saktar ner teamen, och genom att analysera deras resultat för att ge praktiska insikter.
Riskbedömningar
Samma fördelar med AI för etiskt hacking kan även tillämpas på att ta fram riskbedömningar och prioritera hot efter risknivå. Detta kan också vara en vardaglig, tidskrävande uppgift (hur viktig den än kan vara), så att använda AI för att påskynda processen, ta hand om repetitiva jobb och få mer detaljerade insikter kan vara extremt användbart.
Så skyddar du dig från AI-cyberattacker
Utöver de AI-baserade säkerhetsfunktionerna ovan finns det många sätt att minimera risken för att AI-hackning ska lyckas. Ur vår expertsynvinkel är den bästa vägen framåt som sammanför människor, planering och teknik:
Skapa en räddningsplan
Ju snabbare du kan reagera på en incident, desto snabbare kan du mildra eventuella konsekvenser och se till att skadorna inte sprider sig . Precis som en brandövning bör du veta exakt vad du ska göra när en säkerhetstillbud inträffar. Din plan bör omfatta förberedelser (dvs. förebyggande och åtgärder), upptäckt och analys (som bekräftar attackens art och svårighetsgrad), begränsa och utrota attacken (isolering, åtgärdande och korrigering av systemet) samt återställningstaktiker som förhindrar händelsen från att hända igen.
Läs mer om hur du skapar en effektiv strategi med Kasperskys Incident Response-lösningar .
Använd de starkaste säkerhetsplattformarna som finns
Se till att du har det mest omfattande säkerhetsskyddet på plats för att försvara dig från befintliga hot och nya attacker baserade på AI cyberbrottslighet. Kaspersky Premium , till exempel, ger ett antivirusskydd i realtid som omedelbart vidtar åtgärder för att förhindra en attack; det inkluderar också Identitetsskydd som ytterligare skyddar känsliga personuppgifter.
Utvärdera säkerhetsställning regelbundet
Med både AI och cyberbrottslighet i snabb takt kanske de säkerhetsåtgärder du har vidtagit i dag inte räcker till efter 12 månader (eller eventuellt tidigare än så). Detta innebär att säkerheten bör granskas och ses över regelbundet; AI kan stödja detta genom realtidsanalys av användaraktivitet och upptäcka avvikande aktiviteter jämfört med föregående granskningsperiod.
Upprätthålla användarnas och anställdas säkerhetsmedvetenhet
De fortsatta framgångarna med nätfiskeattacker – oavsett om de är utvecklade med AI eller inte – understryker det faktum att god säkerhet börjar hos användarna. Nu är det dags att göra användarna medvetna om risken för AI-hackning och relaterade attacker, särskilt kring hur övertygande AI-genererad text, ljud och video kan vara. Detta kan påminna användarna om att vara extremt vaksamma och inte bedriva någon aktivitet om de inte är 100 % säkra på att det är säkert att göra det. Utforska hur Kasperskys cybersäkerhetsutbildning kan hjälpa ditt team att vara vaksamt mot AI-drivna attacker.
Relaterade artiklar:
- Sociala medier och AI: Är det säkert?
- Är ChatGPT säkert att använda? Här är allt du behöver veta
- Så här förhindrar du cyberattacker
Relaterade produkter:
