Eksperter advarer om superintelligent AI: Nu vokser presset på politikerne

Advarslerne om kunstig superintelligens bliver nu brugt som argument for politisk indgreb i både Storbritannien og USA.

Flere forskere, politikere og branchefolk har de seneste dage sat spørgsmålstegn ved, om udviklingen af de mest avancerede AI-systemer bevæger sig hurtigere, end samfundet kan nå at kontrollere. Det skriver The Guardian.

I centrum står frygten for kunstig superintelligens, altså AI-systemer, der kan overgå menneskelige evner. Advarslerne spænder vidt: fra risikoen for store teknologiske katastrofer til de mest ekstreme scenarier om menneskehedens overlevelse.

Et kapløb om teknologien

I Storbritannien er debatten rykket ind i parlamentet, hvor en session om AI-risici blev afholdt af lobbygruppen Control AI. Gruppen støtter et lovforslag fra Labour-politikeren Alex Sobel, som sigter mod at forbyde udviklingen af kunstig superintelligens.

Samtidig har Labour-politikeren Darren Jones skrevet til blandt andre premierministeren samt ledere i FN og OECD med en opfordring til en international traktat om sikker udvikling af superintelligens. Hans pointe er ikke et stop for innovation, men en sikkerhedsførst tilgang til den hurtige teknologiske udvikling.

Også internt i AI-branchen er bekymringen blevet tydelig. En tidligere forsker hos Anthropic og OpenAI har forladt sit arbejde med den begrundelse, at selskaberne efter hans vurdering ikke handler ansvarligt. Han advarede om, at de var “i gang med at gamble med vores liv”.

Uenighed om truslen

Advarslerne bliver dog ikke mødt med fuld enighed. Flere eksperter peger på, at nutidens AI-systemer stadig er langt fra menneskelig alsidighed, og at debatten risikerer at blive for domineret af de mest ekstreme scenarier.

Blandt de mere skeptiske stemmer lyder vurderingen, at avanceret AI kan vise sig at blive for dyr og for begrænset til at fortsætte i samme tempo. Andre fremhæver, at teknologien allerede er nyttig, men at den kræver bedre kontrol, stærkere sikkerhed og mere gennemtænkt regulering.

Den bredere bekymring handler derfor ikke kun om hypotetisk superintelligens. Flere forskere peger også på aktuelle problemer som misinformation, miljøbelastning og risikoen for, at AI erstatter arbejdspladser.

Politisk pres stiger

I USA har senator Bernie Sanders samtidig gentaget sit krav om regulering af AI-branchen. Han henviser til målinger, der ifølge artiklen viser, at et stort flertal af amerikanerne ønsker politisk handling.

Det placerer AI-selskaberne i et voksende krydspres. På den ene side står ønsket om at fastholde tempoet i en global teknologikonkurrence. På den anden side vokser kravet om, at udviklingen af de mest magtfulde systemer ikke alene skal styres af virksomhederne selv.

Spørgsmålet er derfor ikke kun, hvor farlig superintelligent AI kan blive. Det er også, hvem der skal have ansvaret for at afgøre, hvor hurtigt teknologien må udvikles, og hvilke sikkerhedskrav den skal leve op til.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.