I takt med, at AI-værktøjer bliver stadig mere avancerede og komplekse, finder de cyberkriminelle nye, ondsindede måder at bruge dem på i deres angreb og kampagner.
Noget af det nyeste er at bruge AI i sextortion-kampagner, og fra amerikanske FBI lyder der nu en advarsel om, at der er en markant stigning netop her. De cyberkriminelle bruger AI-værktøjer til at skabe seksuelle deepfakes fra uskyldige billeder i forsøg på at afpresse folk.
Sextortion er som udgangspunkt ikke noget nyt. I mange år har cyberkriminelle forsøgt at overbevise folk om, at de har billeder eller videoer af deres ofre i seksuelle situationer, som de vil offentliggøre, hvis ikke ofret betaler dem penge.
I langt de fleste tilfælde har det naturligvis været løgn, men nu kan de så bruge AI-værktøjer til at tage helt almindelige billeder fra f.eks. sociale medier og ændre dem, så det faktisk ser ud, som om deres ofre befinder sig i seksuelt kompromitterende situationer.
En af de ting, vi har set, er, at disse kunstigt skabte billeder bliver brugt til en af to ting:
- De kriminelle forlanger penge for ikke at dele billeder/videoer med venner, familie og så videre
- De forsøger at afpresse specielt unge til seksuelle ydelser eller til at sende flere seksuelt-orienterede billeder/videoer til dem
For at skabe disse billeder bruger de kriminelle de værktøjer, vi alle betegner som AI, men som i virkeligheden er neurale netværk, der er yderst avancerede, og som er meget effektive til at skabe kunstige billeder, videoer eller måske lydfiler.
Disse værktøjer kan tage et ansigt fra et billede fundet på sociale medier og transponere det over til et pornografisk billede eller en ditto video og på den måde skabe et meget overbevisende billede eller en video med ofret som ’stjerne’.
Det er rigtig dårligt nyt, for denne teknologi bliver stadig bedre, og det bliver mere og mere kompliceret at skelne ægte og kunstige billeder og videoer fra hinanden.
Sådan besejrer du deepfake
Det er utrolig let for de cyberkriminelle at få fat i billeder af uskyldige ofre og bruge dem i deres kampagner. Ikke mindst fordi vi lever i en verden, hvor vi deler alt online. Billeder af os selv, vores familier og venner, og vi gør det konstant og hele tiden. Det giver deepfake-værktøjerne masser af informationer til at arbejde med og skabe nye og mere overbevisende materialer.
Derfor er det vigtigt at være på forkant og gøre så meget, du kan, for at minimere risikoen for dig og din familie. Jeg har samlet et par gode råd til, hvad du kan gøre for at minimere risikoen for at blive ramt af deepfakes:
- Tænk dig om: Inden du lægger videoer, billeder og personlig information online, så tænk dig grundigt om. Det mest uskyldige indhold kan teoretisk misbruges af kriminelle og bruges til at skabe en deepfake med
- Privatlivs-indstillinger: Sæt dig ind i privatlivsindstillingerne på dine sociale medier. Gør profil og vennelister private, så billeder og videoer kun deles med dem, du kender
- Kend folk: Du skal ikke acceptere venneinvitationer fra folk, du ikke kender
- Send intet: Du skal aldrig sende indhold til folk, du ikke kender, og du skal være særlig påpasselig over for folk, der ønsker specielt indhold
- Ualmindelig opførsel: Vær mistænkelig over for ’venner’, der pludselig opfører sig atypisk online. Deres konto er måske blevet hacket og bliver brugt til at indsamle materiale gennem
- Multifaktor-godkendelse: Du skal altid bruge unikke kodeord og multifaktor-godkendelse til dine sociale medier
- Søg efter dig selv: Med jævne mellemrum, så søg efter dig selv online, og se, hvilken personlig information og/eller billeder og videoer der er offentligt tilgængelige
- Omvendt billedsøgning: Overvej at lave en omvendt billedsøgning for at se, om der er offentliggjort billeder eller videoer uden din godkendelse
- Send intet: Du må aldrig sende penge eller grafisk indhold til ukendte personer – de vil bare bede om mere
- Rapporter: Alle forsøg på seksuel afpresning, sextortion, skal rapporteres til politiet og relevante sociale medier
- Rapporter mere: Alt deepfake-indhold skal rapporteres til den platform, det offentliggøres på
Husk at du på cybervejret.dk kan få en ugentlig opdatering om it-sikkerhed. Her tager jeg hver uge pulsen på cybersikkerhedssituationen i Danmark og resten af verden.
