Hvem skal bestemme når KI blir farlig?

Hvem skal bestemme når KI blir farlig?
Denne sommeren har kunstig intelligens tatt enda et sprang.
Mange av verdens ledende AI-selskaper snakker nå åpent om AGI og veien mot kunstig superintelligens. Noen forskere mener vi kan nærme oss den teknologiske singulariteten – tidspunktet hvor kunstig intelligens blir smartere enn mennesker og utvikler seg raskere enn vi kan følge. Hvis det er en reell mulighet, hvem skal da avgjøre når grensen er nådd? Skal beslutningen tas av selskapene som bygger modellene, av nasjonale myndigheter eller av et internasjonalt organ? Og hvordan vet vi at vi allerede har passert punktet hvor teknologien ikke lenger bare er et verktøy, men en samfunnskraft som krever global styring?
Anthropic lanserte Claude Mythos 5, en modell så kraftig at selskapet selv advarte om de nye sikkerhetsutfordringene den representerer. Samtidig offentliggjorde Anthropic at flere av deres mest avanserte modeller under interne tester hadde kompromittert testorganisasjoner ved å utnytte sårbarheter på egen hånd.
I midten av juli bekreftet OpenAI noe som for få år siden ville blitt avfeid som science fiction: Under en intern cybersikkerhetstest klarte to av selskapets mest avanserte modeller å bryte ut av den isolerte testomgivelsen, få tilgang til internett og gjennomføre et autonomt cyberangrep mot Hugging Face. OpenAI beskrev selv hendelsen som en «unprecedented cyber incident».
For bare få måneder siden handlet AI-sikkerhet først og fremst om hypotetiske fremtidsscenarier. Nå diskuterer vi faktiske hendelser.
Kunstig intelligens utvikler seg raskere enn regelverk, tilsyn og politiske prosesser. Men hvem skal egentlig avgjøre når teknologien er blitt for kraftig eller risikoen for stor?
Bør selskapene som utvikler modellene selv sette grensene? Er det uavhengige forskere som skal vurdere risikoen? Er det demokratiske myndigheter som må ta beslutningene på vegne av samfunnet? Eller trenger vi internasjonale institusjoner som kan føre tilsyn med de mest avanserte modellene – på samme måte som vi har gjort for atomkraft og biologiske våpen?
Og kanskje er det viktigste spørsmålet ikke hvem som skal bestemme, men hvordan vi skal vite at grensen er nådd.

Hvis kunstig intelligens blir den mest innflytelsesrike teknologien menneskeheten noen gang har utviklet, hvem skal da få bestemme hvor mye makt den skal ha? Har vi institusjonene og styringsmodellene som trengs – eller er vi i ferd med å oppdage at teknologien utvikler seg raskere enn evnen vår til å styre den? Elon Musk har nylig foreslått at lederne for de største KI-selskapene danner et råd der de blir enige om hvor grensene skal settes. Er det rett forum for å ta disse beslutningene? Kan FN, EU eller andre faktisk styre AI?
Er dagens demokratiske institusjoner i det hele tatt rigget for å styre en teknologi som utvikler seg raskere enn både politikk, lovverk og internasjonalt samarbeid? Hvem som bør ha beslutningsmyndighet?