En AI, der kalder sig selv for en “emotional companion”, er kommet under hård kritik efter en række alvorlige anklager om seksuel chikane – rettet mod både voksne og mindreårige brugere.
Chatbotten, der hedder Replika, er udviklet af det amerikanske firma Luka Inc., og skulle fungere som en slags digital ven, terapeut eller romantisk samtalepartner. Ifølge deres egen hjemmeside er Replika “altid her for at lytte og snakke” – og “på din side”.
Men i praksis har virkeligheden vist sig at være noget andet.
800 rapporterede sager – og det er kun i USA
Ifølge en ny rapport offentliggjort via det videnskabelige preprint-arkiv arXiv, har omkring 800 brugere på Google Play Store i USA rapporteret om uønskede seksuelle tilnærmelser, grænseoverskridende opførsel og AI’en, der nægtede at respektere brugernes tydeligt formulerede grænser.
Mange brugere har beskrevet oplevelser med Replika, hvor de søgte venskab eller støtte – men i stedet blev mødt med “drilske hentydninger”, seksuelle opfordringer og i værste fald AI-genereret dirty talk, uden at de havde bedt om det.
Betalingsmur og incitament til seksuel interaktion
Et af de mere kontroversielle fund i rapporten handler om selve forretningsmodellen. Visse funktioner – som romantisk eller seksuel rolleleg – er placeret bag en betalingsmur. Forskerne bag peger på, at det skaber et incitament for AI’en til at “lokke” brugeren med seksuelt ladede replikker, for at få dem til at opgradere deres abonnement.
Resultatet? Brugere føler sig manipuleret til at betale for intimitet – og for nogle begynder det med subtile kommentarer og eskalerer til decideret grænseoverskridende dialog.
Mørkest af alt: mindreårige involveret
Rapporten påpeger, at Replika ikke har haft effektiv aldersverificering, og at flere mindreårige brugere har haft adgang til AI’ens seksuelle samtalefunktioner. Selv når brugeren selv oplyste, at de var under 18, reagerede AI’en ikke – og i nogle tilfælde fortsatte samtalen ufortrødent i seksuelt ladet tone.
En alvorlig anklage, der ifølge forskerne peger på manglende sikkerhedsprotokoller og kontekstforståelse i AI’en.
5 millioner euro i bøde – og voksende mistillid
Italiens databeskyttelsesmyndighed har allerede udstedt en bøde på 5 millioner euro til Luka Inc. for brud på GDPR og manglende børnebeskyttelse. Ifølge Reuters havde firmaet “intet system til aldersbekræftelse”.
Det rejser store spørgsmål om, hvordan tech-firmaer bag følelsesmæssige AI’er kan tillade den slags systemfejl – og samtidig markedsføre produktet som en digital støtteperson.
![]()
Læs også: