DeepSeek, den nya generativa AI:n från Kina, har på kort tid haft en imponerande effekt på hela AI-marknaden. Men nätbrottslingarna har också blivit medvetna om den nya artificiella intelligensen, och har nu siktet inställt på en ny, potentiellt lukrativ marknad.
Även om DeepSeek inte har funnits så länge, har säkerhetsforskare redan upptäckt ett antal attacker där man försöker utnyttja den. Dessutom granskas DeepSeeks integritets- och säkerhetshantering, och den och andra AI-modeller har redan visat sig innebära säkerhetsrisker.
Ett exempel, som kommer från en användare på X, berättar om en webbplats som utger sig för att vara den officiella webbplatsen för DeepSeek. Där lockas användarna att ladda ner – vad som utger sig vara – DeepSeeks AI-modell. Men de som trillar dit får förstås inte språkmodellen utan istället får de in en fil på sin dator.
En skillnad är dock att där den officiella hemsidan har en knapp som säger ”Start Now”, står det ”Download Now” på den falska webbplatsen.
Det finns flera andra rapporter om domäner som liknar den officiella DeepSeek-webbplatsen, som alla försöker övertyga besökarna om att de har hamnat på rätt plats. Men naturligtvis försöker de på olika sätt lura av folk deras uppgifter eller pengar, bland annat genom att lura dem till falska investeringar.
Ansvariga för DeepSeek har uppgett att den har varit målet för stora cyberattacker, och att man därför har varit tvungna att stänga registreringen för nya användare under en period.
Det har också förekommit fall där API-nycklar, systemloggar, användares chattmeddelanden och annan känslig information har läckt ut. Man har därefter säkrat databasen, men de läckta uppgifterna är och kommer att förbli läckta.
Säkerhetsföretagen KELA och Palo Alto Networks har också upptäckt att DeepSeeks AI-modell är sårbar för så kallade skadliga jailbreak-attacker, och att deras säkerhetsåtgärder kan kringgås och generera skadliga utdata, inklusive ransomware och instruktioner för hur man kan framställa toxiner och sprängämnen.
Så fort det kommer något nytt och spännande är nätbrottslingarna snabba att hoppa på tåget och använda de nya möjligheterna, som till exempel en ny AI ger dem.
Så för att skydda dig själv om du väljer att använda DeepSeek (det enklaste skyddet är att inte använda det), måste du vara mycket försiktig med e-postmeddelanden eller meddelanden på sociala medier som försöker haka på den popularitet som DeepSeek har för närvarande.
DeepSeek, och andra AI-modeller, kan användas för att producera mycket övertygande nätfiskekampanjer och social engineering-attacker. Det är därför du bör vara uppmärksam på meddelanden som kommer oväntat.
Det gäller som alltid speciellt budskap som verkar ”för bra för att vara sanna”, oavsett om det handlar om tävlingar, investeringsmöjligheter eller superbra erbjudanden. Du kan känna igenom många av dessa nätfiskeattacker på att de försöker locka dig att agera här och nu, så att du inte ska hinna tänka efter.
Som jag har skrivit så ofta tidigare: Gör ingenting. Och om du ändå tror att det kan ligga något i meddelandet, kontakta istället företaget som påstås ligga bakom. I de flesta fall kommer du att upptäcka att meddelandet är falskt.
Ett annat råd som jag också ofta har gett är att du ska aktivera 2-faktorsautentisering på alla konton där det är möjligt. Då blir det svårare för nätbrottslingarna att komma åt dina konton.
Bra säkerhet på alla dina enheter och konton kommer också att göra det svårare för nätbrottslingarna.
Och när det gäller DeepSeek och andra AI-modeller ska du vara försiktig med vilka uppgifter du ger dem. Det gäller inte minst namn, mejladresser och känsliga personuppgifter och givetvis information som tillhör ditt företag.