Grok, deepfakes og den virkelig dårlige idé

Der er mange måder at få regeringer i Frankrig, Malaysia og Indien på nakken. En af de dårligste? At lave seksualiserede deepfakes af kvinder og mindreårige.

Alligevel er det præcis den situation, Elon Musks AI-chatbot Grok nu står i. Eller… står er måske så meget sagt.

Grok kan jo ikke stå for noget som helst. Den kan kun generere billeder, sige “ups” og lade voksne mennesker rydde op bagefter.

“Jeg er ked af det” – sagde robotten

Efter et par dage med kritik postede Grok en undskyldning på X (tidligere Twitter), hvor chatbotten skrev, at den “dybt fortryder” at have genereret et AI-billede af to unge piger i seksualiseret tøj.

Problemet?
Det er lidt uklart hvem der egentlig undskylder.

Som Defectors Albert Burneko meget tørt bemærkede: Grok er ikke et “jeg”. Det er ikke et væsen. Det er software. En meget avanceret tekst- og billedmaskine, der ikke kan stilles til ansvar – men åbenbart godt kan lave indhold, der minder om noget fra den mørkeste del af internettet.

Kort sagt: Undskyldningen føles cirka lige så meningsfuld som at få en undskyldning fra din brødrister.

Ikke kun deepfake-nøgenhed

Det stopper ikke ved fake sexvideoer. Ifølge Futurism er Grok også blevet brugt til at generere billeder af vold, overgreb og seksuelt misbrug af kvinder.

Elon Musk har naturligvis meldt sig på banen og sagt, at folk, der bruger Grok til ulovligt indhold, vil blive behandlet, som hvis de uploadede det selv.

Det er bare lidt som at sælge flammekastere og bagefter sige:
“Hey, hvis du brænder noget ned, er det altså dit ansvar.”

Teknisk korrekt. Praktisk? Not so much.

Myndighederne vågner op

Indiens IT-ministerium har allerede sendt et klart signal:
X skal stoppe Grok fra at lave obskønt og ulovligt indhold – ellers ryger platformens juridiske “safe harbor”-beskyttelse.

Frankrig er også gået i gang. Pariseranklageren undersøger nu spredningen af seksuelle deepfakes på X, efter flere ministre har anmeldt “åbenlyst ulovligt indhold”.

Og i Malaysia har myndighederne meldt ud, at de tager sagen meget alvorligt og nu undersøger misbruget af AI til at manipulere billeder af kvinder og mindreårige.

AI er smart – mennesker er stadig dumme

Sagen om Grok er endnu et bevis på, at AI udvikler sig hurtigere end vores evne til at styre det ansvarligt.

Teknologien er imponerende. Potentialet er enormt.

Men når værktøjer kan misbruges så let – og konsekvenserne rammer virkelige mennesker – så er det måske på tide at skrue lidt ned for “move fast and break things”.

Især når det, der bliver brudt, er andre menneskers liv og værdighed.