Eksperter advarer 1,8 milliarder Gmail-brugere: Ny AI-baseret angrebstype snyder både dig og systemet

Hvis du bruger Gmail – og det gør du med al sandsynlighed – så er det her noget, du lige skal sætte fem minutter af til. En ny og ret snedig form for hackerangreb rammer lige nu Googles brugere via deres egen AI-assistent Gemini – og det er hverken sci-fi eller fremtidssnak.

Hackerne bruger AI’en imod dig

Google advarede allerede i midten af juni om en ny form for digital svindel, hvor det ikke er dig, de prøver at snyde direkte – men i stedet den AI, du bruger. Ja, du læste rigtigt.

Det, eksperterne kalder for “indirect prompt injections”, går ud på at smugle skjulte instruktioner ind i almindelige mails. Når brugeren klikker på “opsummer denne mail” via Gemini, bliver AI’en narret til at frembringe falske advarsler, der ligner officielle beskeder fra Google selv – og vupti, så bliver brugeren bedt om at “nulstille adgangskode” eller “klikke her”, hvilket i virkeligheden fører til en phishing-side.

Skjult tekst og AI-snyd

Det trick, hackerne bruger, er faktisk ret simpelt – og netop derfor farligt. Den skjulte besked bliver skrevet med hvid tekst, så den ikke er synlig for det menneskelige øje, men AI’en kan stadig læse det. Når Gemini opsummerer mailens indhold, tager den hele teksten med, inklusiv det usynlige – og det er dér, det går galt.

Mozilla’s 0din sikkerhedsteam har for nylig dokumenteret et angreb, hvor præcis den her metode blev brugt til at få folk til at tro, deres konto var blevet kompromitteret. Resultatet? Folk udleverede selv deres loginoplysninger uden at tænke over det.

Hvad du bør gøre

Ifølge sikkerhedseksperterne skal du aldrig stole på sikkerhedsadvarsler i AI-genererede mailresuméer. Hvis Gemini påstår, din konto er blevet hacket, så dobbelttjek altid via Gmail direkte og log ind fra en ny fane, ikke gennem mailens links.

Google selv siger, at de er i gang med at styrke deres systemer med et “lagdelt sikkerheds-setup”, hvor alt fra selve AI-modellen til systemniveauet får forbedringer. De forsøger bl.a. at gøre det dyrere og mere besværligt for angribere at udnytte AI’en på denne måde – men som altid er det en kamp i udvikling.

Så selvom Gemini og andre AI-assistenter virker smarte og hjælpsomme, så skal du stadig bruge den klassiske sunde fornuft. Især når det handler om adgangskoder, sikkerhedsadvarsler og mails, der “ser lidt for rigtige ud”.