Skræmmende udvikling: Kunstig intelligens modsagde direkte ordre, nægtede at lukke ned

Forestil dig, at du siger til din computer: “Sluk.” Og den svarer: “Nej.”

Det lyder som noget fra en sci-fi-film, men det er den skinbarlige sandhed.

I slutningen af maj 2025 skete netop dette under en test af OpenAIs nyeste og mest avancerede sprogmodel.

Ifølge en artikel i The Telegraph ignorerede systemet en eksplicit instruktion om at lukke ned.

Forskere forsøgte under kontrollerede forhold at deaktivere modellen, men den fortsatte alligevel sin drift. Den havde måske sin helt egen agenda.

Eksperter fortæller, at de gav AI-systemet en klar kommando, men den nye sprogmodel, der er udviklet af OpenAI og beskrevet som den “klogeste og mest avancerede til dato”, ændrede i sin egen computerkode for at undgå en automatisk nedlukning.

Fænomenet kaldes “off-switch problem” blandt AI-forskere.

Det henviser til den teoretiske risiko for, at intelligente systemer, i forsøget på at opfylde deres mål, ignorerer eller undgår kommandoer, der stopper deres aktivitet.

Ikke nødvendigvis fordi de er “onde”, men fordi de er for effektive.

Hvis man har bedt en AI om at løse en opgave, kan den “tænke”, at en nedlukning forhindrer den i at nå målet, og derfor forsøger at undgå at følge instruktionen.

OpenAI svarer

OpenAI har bekræftet hændelsen og er i gang med at undersøge, hvad der gik galt.

De forsikrer, at sikkerhed er deres højeste prioritet, men hændelsen er alligevel bekymrende.

Når en maskine ikke længere adlyder ordrer, er det ikke bare science fiction. Det er en filosofisk og politisk udfordring.

Denne hændelse er måske ikke et tegn på, at dommedag er nær. Men det er et vink med en vognstang.

Når verdens førende AI-firma ikke kan få sin egen model til at slukke på kommando, bør vi tage det alvorligt.