Allt eftersom AI-verktygen blir allt mer avancerade och komplexa, hittar nätbrottslingarna nya, skadliga sätt att använda dem i sina attacker och kampanjer.
En av de nyaste sakerna är att använda AI i sextortionskampanjer, och från amerikanska FBI kommer nu en varning om att det finns en betydande ökning här. Nätbrottslingar använder AI-verktyg för att skapa sexuella deepfakes från oskyldiga bilder i ett försök att utpressa människor.
Sextortion är i princip inget nytt. I många år har nätbrottslingar försökt övertyga människor om att de har bilder eller filmer på sina offer i sexuella situationer, som de tänker publicera om offret inte betalar dem pengar.
I de allra flesta fall har det såklart varit lögn, men nu kan de använda AI-verktyg för att ta helt vanliga bilder från till exempel sociala medier och ändra dem så att det faktiskt ser ut som om deras offer befinner sig i sexuellt kompromitterande situationer.
Vi har bland annat sett att dessa artificiellt skapade bilder används för en av två saker:
- Brottslingarna kräver pengar för att inte dela bilder/filmer med vänner, familj och så vidare.
- De försöker utpressa särskilt unga människor för sexuella tjänster eller att skicka mer sexuellt orienterade bilder/filmer till dem.
För att skapa dessa bilder använder brottslingarna de verktyg vi alla kallar AI, men som faktiskt är neurala nätverk som är mycket avancerade och mycket effektiva för att skapa konstgjorda bilder, filmer eller kanske ljudfiler.
Dessa verktyg kan ta ett ansikte från en bild som finns på sociala medier och överföra den till en pornografisk bild eller film, vilket skapar en mycket övertygande bild eller film med offret som ”stjärnan”.
Det här är riktigt dåliga nyheter, eftersom den här tekniken bara blir bättre och bättre, och det blir mer och mer komplicerat att skilja mellan verkliga och konstgjorda bilder och filmer.
Så här besegrar vi deepfake
Det är otroligt enkelt för nätbrottslingar att få tag på bilder på oskyldiga offer och använda dem i sina kampanjer. Inte minst eftersom vi lever i en värld där vi delar allt på nätet. Bilder på oss själva, våra familjer och vänner, och vi gör det hela tiden. Detta ger deepfake-verktygen massor av information att arbeta med och skapa nytt och mer övertygande material.
Därför är det viktigt att ligga i framkant och göra så mycket du kan för att minimera risken för dig och din familj. Jag har sammanställt några bra tips på vad du kan göra för att minimera risken att drabbas av deepfakes:
- Tänk dig för: Tänk efter två gånger innan du lägger upp filmer, bilder och personlig information på nätet. Även väldigt oskyldigt innehåll kan teoretiskt sett missbrukas av brottslingar och användas för att skapa en deepfake.
- Sekretessinställningar: Bekanta dig med sekretessinställningarna på dina sociala medier. Gör dina profil- och vänlistor privata så att bilder och filmer bara delas med dem du känner.
- Känt folk: Acceptera inte vänförfrågningar från personer du inte känner.
- Skicka inget: Skicka aldrig innehåll till personer du inte känner, och var extra försiktig med personer som efterfrågar ett visst innehåll.
- Ovanligt beteende: Var misstänksam mot ”vänner” som plötsligt beter sig atypiskt på nätet. Ditt konto kan ha blivit hackat och används för att samla in material.
- Multifaktorautentisering: Använd alltid unika lösenord och multifaktorautentisering för dina sociala medier.
- Sök efter dig själv: Sök regelbundet efter dig själv på nätet och se vilken personlig information och/eller bilder och filmer som är offentligt tillgängliga.
- Omvänd bildsökning: Överväg att göra en omvänd bildsökning för att se om några bilder eller filmer har lagts upp utan ditt godkännande.
- Skicka inget: Skicka aldrig pengar eller grafiskt innehåll till okända personer – de kommer bara att be om mer.
- Rapportera: Alla försök till sexuell utpressning, sextortion, ska polisanmälas och rapporteras relevanta sociala medier.
- Rapportera mer: Allt deepfake-innehåll ska rapporteras till plattformen det publiceras på.