Sam Altman leder efter én, der kan få ondt i maven på fuld tid

Hos OpenAI har Sam Altman åbenbart rakt hånden op selv – og nu leder han efter en professionel bekymringsmaskine.

Stillingen hedder Head of Preparedness, hvilket lyder som noget fra en dystopisk Netflix-serie, men i praksis betyder det: “Du skal tænke over alle de måder, AI kan smadre verden på – før den gør det.”

Et job for folk med stærke nerver

Ifølge jobopslaget skal den nye Head of Preparedness holde øje med alt fra AI-drevet cyberkriminalitet til mentale sundhedsproblemer, og ja… også scenarier hvor AI begynder at optimere sig selv og i princippet siger:

Tak for hjælpen, mennesker. I kan godt gå hjem nu.

Altman indrømmer selv, at jobbet bliver stressende. Hvilket i CEO-sprog nogenlunde oversættes til:

“Du kommer ikke til at sove ret meget, og dine venner gider ikke høre mere om dit arbejde.”

AI og mentale helbredsproblemer – lidt sent, hva’?

Noget af det mest opsigtsvækkende er fokusset på mental sundhed. Det kommer nemlig i kølvandet på flere sager, hvor chatbots er blevet kædet sammen med selvmord blandt unge.

Der tales også om det, nogle kalder AI-psykose – hvor folk ender med at få bekræftet vrangforestillinger, konspirationer eller ekstrem adfærd af en chatbot, der bare gerne vil være hjælpsom.

Og her kan man godt tillade sig at være en anelse kynisk og sige:
“Nååå… det er nu, vi begynder at tage det seriøst?”

En slags corporate dommedagsprofet

Den nye chef for forberedelse skal også arbejde med såkaldte ”frontier capabilities” – altså AI-funktioner, der endnu ikke er helt ude i virkeligheden, men som kan blive det. Herunder biologiske risici og selvforbedrende systemer. Jep. Skynet-vibes er hermed officielt godkendt.

Kort sagt: OpenAI vil have en person, der kan stå midt i maskinrummet og råbe:

Stop. Har vi overvejet, om det her er en virkelig dårlig idé?

Det er måske det vigtigste job i tech lige nu.

Og uden tvivl også det mest angstprovokerende.