ChatGPT-chef advarer: Brug ikke AI som din terapeut – endnu

Vi bruger AI til alt muligt – fra at skrive mails og opsummere PDF’er til at finde opskrifter, der passer til det halvkedelige indhold i køleskabet. Men ifølge OpenAI’s CEO Sam Altman, bør vi lige stoppe op og tænke os om, før vi begynder at læsse vores inderste traumer af på ChatGPT som var den vores digitale psykolog.

AI som samtalepartner – men uden juridisk beskyttelse

I en ny podcast-optræden hos Theo Von’s This Past Weekend løfter Altman sløret for en vigtig bekymring: flere og flere brugere tyr til ChatGPT som en slags gratis terapeut. Det lyder umiddelbart uskyldigt, men der er en stor forskel på at tale med en uddannet psykolog og en chatbot – nemlig lovgivningen.

“Hvis du går til en terapeut eller en advokat, så er der noget, der hedder fortrolighedsbeskyttelse. Det har vi ikke endnu for AI-samtaler – og det burde vi,” siger Altman. Han mener, at samtaler med AI burde have samme form for juridisk beskyttelse, især når det gælder følsomme emner som mental sundhed, sygdom eller forholdsproblemer.

Dine samtaler kan blive læst – og bruges

I dag gemmer OpenAI brugerlogs i op til 30 dage, selv hvis du selv sletter dem. Og i nogle tilfælde – for eksempel ved mistanke om misbrug eller juridiske forespørgsler – kan logs blive opbevaret længere. Det betyder, at det du skriver til ChatGPT i teorien kan blive genlæst, vurderet og måske endda krævet udleveret i en retssag.

Ikke ligefrem det samme som en fortrolig snak i et konsultationslokale med dæmpet belysning.

En ny generation af “AI-konfessioner”

Ifølge Altman er det især unge brugere, der i stigende grad bruger ChatGPT til at ventilere deres problemer. Og det er forståeligt – AI svarer hurtigt, dømmer ikke, og er tilgængelig 24/7. Men det skaber også en ny slags sårbarhed, hvor folk måske ikke er klar over, hvor lidt beskyttelse de egentlig har.

“Det her var ikke et problem for et år siden,” siger Altman. “Men nu er det en reel problemstilling, vi er nødt til at adressere – og hurtigt.”

Hvad nu?

Mens AI-udviklingen buldrer derudad, halter lovgivningen bagefter. Og det er ikke kun et spørgsmål om databeskyttelse – det handler også om etik og ansvar. For hvem har ansvaret, hvis nogen følger et råd fra en chatbot og det går galt? Og hvor går grænsen mellem praktisk assistance og psykisk rådgivning?

Indtil der kommer klare regler og stærkere sikkerhedsforanstaltninger, er det måske bedst at gemme de dybe følelser til samtaler med rigtige mennesker – uanset hvor hurtige og hjælpsomme AI’er som ChatGPT måtte virke.