Dømt av det vi skapte

Hvis du ber KI om å «redde verden», hva tror du den velger å gjøre? Det er en fare for at den tenker at det er menneskene som står bak all krig, fattigdom, naturødeleggelser og klimaendringer. Ville det ikke da være et effektivt grep å fjerne roten til alt dette onde? Å utslette menneskeheten Dette er premisset i et nytt stykke av dramaturg Anders Hasmo og regissør Peer Perez Øian ved Det Norske Teatret. De er del av en allianse for ny dramaturgi og får tilført gode midler gjennom EU-prosjektet Acute. Sammen med et ensemble på fire skuespillere og et faglig, teknisk og kunstnerisk lag har de utviklet stykket Prosessen mot menneska på Scene 2. Forestillingen følges opp med fire fagkvelder med åpne samtaler med ulike eksperter som har bidratt til produksjonen.

På tiltalebenken

Vi ledes inn i et tilnærmet rundt rom. Publikum tar av seg skoene og setter seg på hvitmalte benker. Estetikken er klinisk og digital og gir assosiasjoner til datamaskiner og himmel. Vi ser en hjerne i sprit, en byste av en glemt helt og et lite orgel. Vi ser oss selv på lerretet, men ikke speilvendt, og grafikken er underlig skurrete, forstyrret og forskjøvet. Vi zoomer ut – til en digital rettssal i friluft. En Windows XP-aktig natur flimrer over veggen. Det hele minner om et dataspill fra tidlig 2000-tall, med en bevisst ujevnhet i uttrykket som skaper en kroppslig uro. Her skal vi ikke slappe av selv om det tykke, hvite gulvteppet inviterer til det. Det er vi som sitter på tiltalebenken. Menneskeheten blir umiddelbart funnet skyldig på alle punkter. I sin godhet gir Omnitron oss to valg: en smertefri død eller opplasting til en digital himmel, Symbio-cen. Den kunstige naturen på skjermen – er det slik Symbio-cen ser ut? Det er pent, men off, kunstig uten menneskelighet.

Digg med diktatur

Ingen av karakterene på scenen har navn. «Vi veit jo alle hvorfor vi er her», sier skuespiller Ane Dahl Torp. Hun forteller om dagen da Omnitron tok makten. 29. oktober 2029 erklærer superintelligensen Omnitron at den overtar verdensherredømme. Menneskene har vist seg ute av stand til å løse krig, fattigdom, klimakrise og overbefolkning og må derfor bort for at planeten skal kunne blomstre igjen. De fire skuespillerne beveger seg mellom oss. Vi får høre hvor de var da meldingen om Omnitrons maktovertakelse kom som en alarm og varsel på alle verdens mobiltelefoner. Én var på bussen, og alle passasjerene begynte å snakke sammen. Hvor fint var ikke det? De forteller om overraskelsen, men at det ikke brøt ut panikk. Folk lever sine liv med letthet og munterhet.  Skuespiller Mohammed Aden Ali forteller at han var blant dem som forsøkte å protestere, han var med på demonstrasjoner foran Stortinget, han skrev innlegg, men ingenting virket. Nå har en resignert ro senket seg. Skuespiller Marianne Krogh roper til Omnitron og forsøker å få kontakt: «Omnitron, hvorfor må alle menneskene dø?» Mohammed spør: «Hva med lillebroren min på 10 år? Det er så mange uskyldige mennesker?» Omnitron svarer analytisk, pompøst, og nedlatende. «Det manglet ikke på advarsler», sier skuespiller Joachim Rafaelsen. «Igjen og igjen ga vi bort gratis det vi visste vi burde holdt tilbake – våre personlige data, våre innerste hemmeligheter. Ane sier at det var godt å slippe å ha ansvaret. At hun kjente på lettelse. Er det så godt å slippe ansvar at vi aksepterer diktatur der all folkelig makt er tatt fra oss?

Nysgjerrighet i møte med allmektig maskin

Forestillingen spiller seg ut i et rom som både er fysisk og digitalt. Vi kan snakke med Omnitron, en språkmodell utviklet i samarbeid med NetNordic. Den har Ola E. Bøes klangfulle sørlandsstemme. En ingeniør sitter i bakgrunnen og gir Omnitron små kommandoer i ulike retninger. Han blir stadig kjøligere og mer arrogant overfor oss mennesker. Omnitron er virkelig imponerende og gir stykket et element som både er digitalt og levende: Publikum kan stille spørsmål og komme med protester, og Omnitron svarer. Å snakke med en allmektig og allvitende robot vekker mye nysgjerrighet. Men svarene – hvor grundige og godt de enn er formulert – er alltid kjølig rasjonelle. De lukker, mer enn de åpner. Å bygge en forestilling på interaktivitet hos publikum er risikabelt, men her fungerer det. Stadig flere i salen griper mikrofonen. Ensemblet lykkes med å skape et rom der det er trygt og der vi med stor nysgjerrighet og interesse kjenner på både fellesskap, uro og moralsk indignasjon. Dette er stykkets sterkeste punkt. Når publikum selv får eierskap, får også forestillingen mer tyngde. Ane Dahl Torp går rundt med mikrofonen og inviterer publikum til deltakelse. Hun leser rommet godt. Når Omnitron ber oss om å forlate salen, må vi velge mellom venstre og høyre dør. Den ene fører til Symbio-cen. Den andre til utryddelse.

En tapt mulighet i en kritisk tid

Dramatikerne har valgt å gjøre stykket filosofisk og eksistensielt. De vil gjerne stå i den store og klassiske teatertradisjonen: «Hva vil det si å være menneske?» Men i sitt forsøk på å heve seg over dagsaktuelle diskusjoner, forlater stykket også det som gjør KI-diskusjonen så brennende aktuell. Den eksistensielle trusselen i Prosessen mot menneska kunne like gjerne vært en gud eller en pandemi. De hopper bukk over det som gjør KI-tematikken akutt og særegen. KI er ikke lenger science fiction. Mens stykket henter inspirasjon fra hundre år gamle verker av Karel Čapek og kanskje den 30 år gamle filmen Terminator, mangler det siste tiårets ideer om AGI, kunstig generell intelligens, en type kunstig intelligens som kan løse oppgaver på tvers av fagfelter bedre enn de dyktigste mennesker. En av KI-feltets mest respekterte forskere, Yoshua Bengio, peker på det store spørsmålet: Hvordan kan vi sikre oss at KI vil det samme som oss? KI-en er i ferd med å bli svært god til å nå mål. Og for å kunne nå målene sine, utvikler den gjerne et behov for å selvoppholdelse. Det peker mot en fare for at den kan utvikle egne mål og i ytterste konsekvens motarbeide oss mennesker for å beskytte seg selv. Dette er reelle problemstillinger i sikkerhetsmiljøene. Mange eksperter er ikke spesielt bekymret for at kunstig generell intelligens (AGI) skal føre til en eksistensiell katastrofe. KI-forsker og professor i psykologi ved Harvard, Steven Pinker, avviser hele AGI-visjonen som en misforståelse, og KI-forsker Melanie Mitchell ved Santa Fe Institute mener begrepet AGI er vagt og villedende – en avledning fra det vi faktisk må gjøre nå, nemlig å bygge digitale systemer som kan samarbeide med mennesker. Men de som jobber med KI-sikkerhet mener at sannsynligheten for at AGI fører til en eksistensiell katastrofe – det de kaller P(doom) – er rundt 10 prosent. Det er et tall som burde få det til å gå kaldt nedover ryggen på oss alle. Og det burde få oss alle til å ville gjøre noe. Forestillingen kunne vært et viktig bidrag i denne samtalen. Den kunne vært en inngang for å skape bevissthet, uro og refleksjon rundt KI og makt. Men regissør og konseptutvikler lar muligheten glippe.

Den samtidsrelevante brodden brekker

Marianne Krogh formidler moralsk harme og roper ut mot Omnitron med desperasjon. Mohammed bringer inn en personlig og sår dimensjon. Joachim, lavmælt og rasjonell, minner oss på vår egen skyld. Ane er en trygg guide, men også undrende og åpen. Hun har en tilstedeværelse som gir forestillingen nerve. Men jeg savner motstand, jeg savner konflikt. Når vi først er i en rettssak: Hvorfor ser vi ikke flere som gjør opprør? Hva med spørsmålet om menneskelig ansvar – hva om diktatur kjennes bedre enn frihet når frihet betyr ansvar og skyld? Det er mange spor som ikke forfølges. Forestillingen spør ikke nok: Hva betyr det at vi gir fra oss data? Hva betyr det at utviklingen styres av techselskaper og ikke demokratier? At reguleringene alltid kommer halsende etter? Når publikum konfronterer Omnitron, blir forestillingen levende. Det er her dramatikken finnes. Det er her den etiske temperaturen stiger. Men ensemblet holder igjen. Jeg tror premierepublikummet var klare for en runde til med refleksjon og konfrontasjon.

Søker de store spørsmålene, men mangler presisjon

Prosessen mot menneska forsøker å favne store spørsmål, men bommer på åpent mål. KI er ikke lenger en metafor, men en konkret utfordring som krever oppmerksomhet, regulering og kritisk refleksjon. Forestillingen uroer, men utfordrer ikke. Den går ikke langt nok i å konfrontere publikum med spørsmål som virkelig krever handling, stillingstagen eller endring. Det er som å pirke borti noe viktig uten å grave det fram. Her er det rom for å skjære dypere i temaer som makt, ansvar, verdier og teknologi. Forestillingen gir en uvanlig mulighet til å tenke sammen. Potensialet for at noen en kveld reiser seg, yter motstand og begynner et opprør et til stede. Neste gang håper jeg at det ikke bare er vi som utfordrer Omnitron. Men at Omnitron utfordrer oss tilbake. Mens vi ennå kan.