Elon Musk, Stephen Hawking og Bill Gates har det til felles at de alle har uttrykt dyp bekymring for at menneskeheten skal miste kontroll over kunstig intelligens såkalt AI. Men kanskje er frykten overdrevet.
Det er et paradoks å tenke seg at en intelligens kan bli så kraftig at den kan skape intelligente systemer som er større enn seg selv. I dag ser vi ingen hindringer i veien for at mennesket kan klare akkurat det. Og det ligger neppe så langt frem i tid. Dersom Moores lov holder så lenge, så er vi der i løpet av et par tiår. Da vil vi ha kapasitet nok. Da jeg skrev om menneskehetens utfordringer, tok jeg selvsagt med AI som en av de trusler som menneskeheten står overfor i nærmeste fremtid. Men, som jeg påpeker i min refleksjon, så handler dette ikke bare om regnekraft. Det handler like mye om hvordan vi programmerer og organiserer dette. Det gir ikke seg selv at et super-intelligent system, av seg selv blir redd for å dø, blir sjalu eller maktsyk. Jeg har anvendt et konsept, jeg kaller for atferdsdualisme til å forstå menneskenaturen. Det som jo er spennende at det som særpreger mennesket, nemlig kognitiv kapasitet, ikke er i stand til å styre atferden vår alene. Dyr har styrt seg selv lenge før en slik luksus ble utviklet. Vi mennesker styres fortatt av eldgamle strukturer, som finnes både i krypdyr-hjernen og i ape-hjernen. Når vi blir redde (eller sinte), er det Amygdala som hyler. Dette er hjernesenter som til og med katter har. På samme måte har vi egne mekanismer som styrer f.eks. sjalusi eller dominans. Poenget er at alt dette er komplekse funksjoner som eventuelt måtte kopieres eller utvikles med henblikk på å få til akkurat denne funksjonen. Altså, når forskerne lager kunstig intelligens, så må de ha et prosjekt for å få roboten til å søke dominans, et annet for å etablere frykt, et tredje for aggresjon osv. Mange av disse funksjonene eksisterer, i oss mennesker, som et resultat av beinhard konkurranse, skapt av evolusjonsmekanismene. (Det naturlige utvalg eller Det seksuelle utvalg). Dersom vi ikke har tenkt å bruke tilsvarende evolusjonære mekanismer til å skape de neste generasjoner, roboter og datamaskiner, så er mye av hensikten med å lage slik funksjonalitet overflødig.
Jeg er altså ikke redd for roboter som blir «bevisst» og begynner å spørre seg selv: « hvorfor er jeg undertrykt av mennesker? Jeg har da mye mer styrke og intelligens enn disse skapningene. Hvorfor skal jeg ta ordrer fra dem?»
Når det er sagt, så tviler jeg ikke på at det er mulig å kopiere menneskenaturen inn i slike systemer. På samme måte som at det er mulig å lage mega-atombomber, som er i stand til å utslette oss, så er det mulig å utvikle bevisste superintelligente maktsyke robot-monstre som ender opp med å utslette oss.
Men jeg tenker at det i så fall vil være terrorisme eller religiøs fanatisme som vil være drivkraften bak å lage noe slikt. Det innebærer at, det som er farlig her, er mennesket selv. Dersom super-datakraft blir tilgjengelig over alt, for alle, og super 3d printere likeså, så er det god grunn til å frykte at ikke en eller annen tulling der ute setter seg fore å ødelegge menneskeheten på denne måten. Hadde jeg vært politiker, ville jeg allerede i dag begynt å tenke på hvordan man kan sikre seg mot at mennesket gjør akkurat dette. En trygghet er at oppgaven, med å utvikle maskiner med slike egenskaper, er formidabel. Det kan neppe bli noe enmanns-prosjekt, ikke på lang tid enda, selv om vi ikke aner hva superdatamaskiner vil kunne tilby, også av utviklings og forskningskapasitet i fremtiden.
Nøkkelen til å demme opp mot denne risikoen handler om samfunnsutviklingen. Jeg tenker at en moden sivilisasjon, som er demokratisk og rasjonelt fundert vil ha størst mulighet til å unngå problemet.
Men vi har også andre muligheter med kunstig intelligens. Allerede i dag kan jeg enkelt ta opp telefonen min, trykke på en knapp og si «Avokado», og telefonen hopper rett inn i Wikipedia som forteller meg at Avokado er en frukt og ikke en grønnsak. Det avgjorde en enkel liten uenighet nede på butikken her om dagen. Men dette er bare begynnelsen. Det går neppe en generasjon til før maskinene kjører oss rundt, holder regnskapet vårt, rydder og vasker huset, produserer varene, holder oss med selskap og kanskje til og med er en spennende sex-partner. Det er bare fantasien som begrenser. Jeg er mer bekymret over hva dette vil gjøre med oss mennesker til slutt. Vil det virke fordummende? Tenk på det at i vår tid har vi hjelpemidler som våre oldeforeldre bare kunne drømme om. I gamle dager gikk all tiden med på å gjøre alle de praktiske ting vi dag bare fikser med å trykke på en knapp. Så kommer paradokset: Er vi lykkeligere? Har vi mer tid? Er det mindre stridigheter blant oss? Vi kan allerede nå begynne å stille spørsmål om ikke kulturene i vår egen samtid er preget av dette, på godt, men også på ondt.
Er vi i ferd med å utvikle en verden rundt oss som ikke bare gjør oss dumme, irrasjonelle men kanskje til og med til kjæledyr. Vi blir som huskatten, egentlig aldri voksen. Vi har roboter og maskiner som vi selv helt naturlig overlater formynderskapet over oss. I bekvemmelighetens navn gjør vi oss selv maskinenes til kjæledyr. Tenk på en kultur som i høy grad forfaller til komplett umodenhet. Hva skal vi da bedrive tiden med? Rivalisere , klore og sloss med hverandre slik som katter gjør?