AI-bedrägerier: Så känner du igen dem och skyddar dig

Deepfake-videor

• Deepfake-videor är videor som skapats eller manipulerats med hjälp av AI, där en persons ansikte eller röst helt eller delvis ersatts. Tekniken gör det möjligt att skapa mycket realistiska klipp där någon ser ut eller låter som en annan person, trots att personen aldrig har sagt eller gjort det som visas i videon. Liknande teknik används även i vishing, där röster klonas för att lura personer via telefonsamtal.
• Bedragare använder deepfakes i flera olika sammanhang. Vanligt är att utnyttja kända personer i så kallade investeringsbedrägerier, eller att utge sig för att vara chefer och beslutsfattare i företag. Det förekommer också falska nyhetsklipp på sociala medier som ska ge innehållet trovärdighet. Den snabba utvecklingen inom AI har gjort att verktyg för att skapa deepfakes blivit billiga och lättillgängliga, vilket sänker tröskeln för att genomföra den här typen av bedrägerier.
• Även i Sverige har fenomenet uppmärksammats. Deepfake-klipp med bland andra Zlatan Ibrahimovic och Leif GW Persson har spridits i syfte att lura människor att investera i falska upplägg. I vissa fall har även nyhetsprofiler och politiker utnyttjats.

Röstkloning och falska samtal

• Röstkloning innebär att AI används för att skapa en syntetisk kopia av en persons röst. Med dagens teknik kan det räcka med några sekunders ljud för att återskapa hur någon låter, vilket gör att röster kan kopieras snabbt och med hög precision. Resultatet blir att falska telefonsamtal med AI-röst kan upplevas som helt äkta, även när de i själva verket är manipulerade.
• Tekniken används ofta av bedragare för att utge sig för att vara någon annan i telefonsamtal. Det kan handla om att imitera bankanställda, myndighetspersoner eller till och med anhöriga. Genom att efterlikna både röst och tonfall kan bedragare skapa en känsla av brådska eller förtroende, vilket gör att offret lättare övertalas att agera snabbt.
• För att förstärka trovärdigheten kombineras röstkloning ofta med falsk nummerpresentation, så kallad spoofing. Det innebär att ett samtal kan se ut att komma från ett legitimt nummer, exempelvis en bank. Tillsammans gör detta att en AI bluff av denna typ framstår som betydligt mer trovärdig än typiska bluffsamtal.

AI-genererade bluffmejl och SMS

• AI-genererade bluffmejl och SMS har blivit allt vanligare i takt med att tillgången till avancerade AI-verktyg har ökat. Med hjälp av dessa kan bedragare skapa meddelanden på korrekt och naturlig svenska, vilket gör att språkliga varningssignaler i stort sett har försvunnit. Det är numera alltså betydligt svårare att upptäcka bluffar enbart genom att granska formuleringar eller stavning.
• En annan viktig förändring är möjligheten att anpassa innehållet. Den här typen av riktade attacker kallas ofta för spear phishing, där specifika personer väljs ut istället för att skicka breda massutskick. Genom att samla in information från exempelvis sociala medier, LinkedIn eller liknande kan bedragare skapa meddelanden som känns relevanta och personliga. Det kan handla om att referera till vänner, familjemedlemmar, arbetsplats, kollegor eller aktuella händelser, vilket gör att meddelandet upplevs som mer trovärdigt.
• Personlig information kan alltså vävas in i innehållet på ett naturligt sätt, för att öka sannolikheten att personen klickar på en länk eller lämnar ut uppgifter. Det gör att även till synes vardagliga mejl och SMS som verkar helt ofarliga kan vara del av ett genomtänkt bedrägeri.

Falska investeringserbjudanden

• Falska investeringserbjudanden har blivit mer avancerade med hjälp av AI. Bedragare som använder AI kan idag skapa hela investeringsplattformar med realistiska gränssnitt, diagram och kontosidor som ser ut att visa vinster i realtid. Det gör att plattformarna upplevs som professionella och trovärdiga, trots att de i själva verket är helt fabricerade.
• För att locka offer används ofta kända personer i marknadsföringen. Genom deepfake-teknik kan bedragare skapa videor där profiler ser ut att rekommendera en investering. Det kombineras ofta med löften om snabba vinster, där ”garanterad avkastning” och ”ingen risk” lyfts fram. Inom kryptobedrägerier används även AI-genererade omdömen för att förstärka intrycket av legitimitet.
• Finansinspektionen varnar för denna typ av investeringsbedrägerier och uppmanar till att alltid kontrollera bolag. I deras register kan du se om ett företag har tillstånd eller inte.

Romansbedrägerier med AI

• Romansbedrägerier har blivit mer sofistikerade med hjälp av AI. I dag kan bedragare använda chattbotar som för långa och sammanhängande romantiska konversationer under veckor eller månader, utan att själva behöva vara aktiva hela tiden. Det gör att relationen kan kännas både personlig och genuin.
• Profilerna som används är ofta helt påhittade. Med AI-genererade bilder slipper bedragare använda stulna foton, vilket gör att bilderna inte går att spåra via omvänd bildsökning. Det blir också lättare för dem att lura flera offer parallellt.
• Upplägget följer ofta en modell där förtroende byggs upp över tid. När relationen känns etablerad uppstår ett problem eller en kris, och offret ombeds skicka pengar – en metod som kallas för “pig butchering”.

Falska webbplatser och dokument

• Falska webbplatser och dokument kan idag skapas med hjälp av AI på ett sätt som gör dem svåra att skilja från äkta versioner. Bedragare kan bygga kopior av banker, myndigheter eller butiker där utseende och funktion efterliknar originalet. Det kan se ut som att det finns pålitliga betalningsmetoder som Swish trots att så egentligen inte är fallet.
• Falska dokument, som avtal eller certifikat, används också för att förstärka trovärdigheten vid andra bedrägerier. Exempelvis AI phishing eller bedrägliga investeringsupplägg.

Så känner du igen ett AI-bedrägeri

• Tidspress och brådska – du uppmanas att agera direkt, utan att hinna tänka efter.
• Begäran om känsliga uppgifter – exempelvis BankID, lösenord eller kortuppgifter.
• Oväntad kontakt – du blir kontaktad utan att själv ha tagit initiativ.
• Orimligt bra erbjudanden – investeringar med garanterad avkastning och låg eller ingen risk.
• Känslomässig manipulation – meddelanden som spelar på rädsla, stress eller stark entusiasm.
• Okänd avsändare – trots att innehållet känns personligt och relevant.
• Uppmaning till sekretess – du ombeds att inte berätta för någon annan.
• Ovanliga betalningsmetoder – exempelvis kryptovaluta, presentkort eller Swish till privatperson.

1. Onaturliga ansiktsrörelser eller blinkningar – mimik och ögonrörelser kan se stela, överdrivna eller rytmiskt fel ut.
2. Läpprörelser som inte helt matchar ljudet – små fördröjningar eller fel i synkningen kan avslöja manipulation.
3. Inkonsekvent ljussättning – skuggor och ljus kan skifta på ett sätt som inte stämmer med omgivningen.
4. “För perfekta” eller mekaniska röster – rösten saknar naturliga pauser, variation eller känslomässiga nyanser.

• Bestäm ett kodord inom familjen – kom överens om ett hemligt ord som kan användas för att bekräfta identitet vid telefonsamtal. Detta har bland annat lyfts fram som en rekommendation av Nordea.
• Använd aldrig BankID på uppmaning av någon annan – banker, myndigheter och företag kan be dig identifiera dig med BankID i en tjänst du själv har initierat, men aldrig genom att kontakta dig och be dig logga in eller signera något.
• Verifiera den som kontaktar dig – avsluta samtalet och ring upp via officiella kontaktuppgifter.
• Granska avsändaradresser noggrant – små stavfel i domäner eller e-postadresser kan vara tecken på bedrägeri.
• Kontrollera investeringserbjudanden – använd Finansinspektionens register för att säkerställa att företaget har tillstånd.
• Aktivera tvåfaktorsautentisering (2FA) – ger ett extra lager av skydd för dina konton.
• Begränsa vad du delar online – personlig information på sociala medier kan användas för att skräddarsy bedrägerier.
• Håll enheter och program uppdaterade – säkerhetsuppdateringar skyddar mot kända sårbarheter.
• Var kritisk till kändisrekommendationer – verifiera alltid via officiella kanaler.
• Prata om bedrägerier med personer i din närhet – särskilt med äldre, som ofta är mer utsatta.