Kunstig intelligens - drøm eller mareritt?

Er det mulig at vi snart vil ha maskiner som er smartere enn oss selv? Og vil det i tilfelle være en mulighet eller en trussel for menneskeheten?

Artikkelen er delt i følgende deler:

1. Hvorfor tenke på kunstig intelligens?
2. Hjerne - maskin: Hva er stillingen?
3. Hva er kunstig intelligens?
4. Andre teknologier
5. Hva kan kunstig superintelligens gjøre?
6. Kan vi forberede oss?

1. Hvorfor tenke på kunstig intelligens?

Fantastiske framskritt

Jeg kjøpte min første datamaskin, en Oric-1, i 1983 mens jeg var i militæret. Jeg programmerte den en gang til å spille Othello og jeg glemmer aldri den underlige følelsen jeg fikk den første gangen den klarte å slå meg. Husker også at jeg i 1983 skrev inn noen hundre linjer kode fra et datablad som var en enkel versjon av et system kalt "Eliza" laget av Joseph Weisenbaum så tidlig som 1966. Dette fungerte som en slags parodi på en psykolog som tok utgangspunkt i det pasienten skrev og formulerte nye spørsmål ut fra det. Weisenbaum ble skremt og skrinla prosjektet når han så hvor personlig involvert pasienter, kolleger og elever ble i maskinen. Jeg og mine medsoldater fikk vel også litt følelsen av å bli forstått.

Vi har lett for å tenke at ting alltid har vært slik de er nå. Hvor mange sms tror du ble sendt under Lillehammer OL i 1994? Svaret er 0. SMS var egentlig på testnivå i 1994 og det var først i 1997 at det ble åpnet for å sende SMS mellom ulike operatører. Hva med nettsidene for OL da? Jo, to dager før lekene åpnet var det noen hos Oslonett som lagde en side på internett der de kunne vise resultater, men ingen privatpersoner hadde tilgang til internett enda.

Noen tenker at vi nå må være på toppen av kurven og at "det snart ikke er mer som kan finnes opp". Men dette er nok en fundamental misforståelse. De fleste oppfinnelser bygger på andre oppfinnelser, og med økende kunnskap og stadig kraftigere verktøy vil takten være sterkt økende. Og vi er enda bare i den spede barndom..

Så når vi tenker at de største endringene i menneskehetens historie har skjedd de siste 100 år, er det svært sannsynlig at endringen vil være enda mye større de neste 20 årene.

Noen er bekymret

Den store bekymringen har tidligere vært at maskinene vil erstatte arbeidsplasser. Undersøkelser fra 2015 spår at 50% eller flere av vår arbeidsplasser vil være erstattet av maskiner innen de neste 20 årene. En vil anta at det også skapes nye arbeidsplasser som kan demme noe opp for disse utfordringene.

En annen ganske vanlig bekymring er at alt dette nye kan påvirke vårt sosiale liv i negativ retning. At vi bruker mer og mer tid foran skjermer, nettbrett og mobiler og mindre tid på å snakke med hverandre.

Men i det siste har noen svært profilerte teknologer begynt å snakke om en annen og mye mer dramatisk bekymring. Nemlig at maskinene snart kan bli smartere enn oss og at det kan komme til å påvirke hele menneskeheten. Noen av disse teknologene er:

• Stephen Hawking (f. 1942): Fysiker og matematiker med mange kjente teorier om sorte hull og kvantemekanikk.
• Ray Kurzweil (f. 1948): Forfatter, teknolog, oppfinner, futurist. Kjent for oppfinner av scanner og OCR. Jobber hos Google.
• Steve Wozniak (f. 1950): Startet Apple sammen med Steve Jobs og var teknologen bak de tidlige produktene til Apple.
• Bill Gates (f. 1955): Grunnlegger og leder av Microsoft, nå teknologirådgiver for selskapet. Arbeider nå mest med å gi bort sine verdier.
• Elon Musk (f. 1971): Startet PayPal, leder i Tesla Motors, SpaceX og SolarCity.
• Nick Bostrom (f. 1973): Teknolog, filosof og forfatter med spesiell fokus på kunstig intelligens.

Alle disse personene må regnes som noen av de mest kunnskapsrike og skarpeste hodene innenfor teknologi i verden i dag. Og de mener at vi må begynne å tenke på hvordan vi skal styre kursen riktig framover. De tror at før eller senere vil vi få maskiner som har intelligens som vil kunne sammenlignes med et menneske. Det er langt igjen dit enda, men når en kommer dit, vil det trolig gå raskt å utvikle superintelligens som langt overgår menneskets. Det vil i så fall være første gang i menneskets historie at vi ikke lenger er smartest i klassen, og spørsmålet blir da om dette på noen måte kan være en trussel for menneskeheten.

Kanskje har vi tenkt litt feil?

Det er et par ting jeg begynner å lure på om jeg kanskje har tenkt litt feil om:

1. En elektronisk "hjerne" er noe helt annet enn en biologisk hjerne
2. Det er tydelig skille på intelligens mellom mennesket og alle andre skapninger

Hjernen er ufattelig avansert, men den benytter elektriske impulser gjennom et nettverk av nervetråder. Hvis en kunstig hjerne er like avansert og fungerer på samme måte, vil den da være dårligere fordi den er laget av metall og plast? Før tenkte jeg at det var noe helt annet, men nå er jeg ikke så sikker lenger. Det har vel ikke noe å si hva det er laget av? Jeg mener - hvis den gjør det samme?

Jeg har også tenkt at menneskelig intelligens er på en annen skala enn all annen intelligens. Men nå har jeg begynt å innse at alt er på den samme skalaen. Planter, insekt, mus, katt, sjimpanse og menneske. Så hvis vi kan klare å lage en intelligens som tilsvarer et insekt, vil vi også klare å lage noe som fungerer som en musehjerne og etter hvert som en menneskehjerne. Det er bare veldig mye vanskeligere.

Kilder

Jeg leder et IT-firma, men er likevel ganske blank på dette med kunstig intelligens. Jeg har derfor prøvd å sette sammen kjent kunnskap som gjør at vi kan danne oss et bilde av saken. Så her er noen av mine kilder for denne artikkelen. Det aller meste er på engelsk fordi det er flere som skriver på engelsk enn på norsk. Savner alltid å lese kinesiske, japanske og indiske artikler men synes ikke at automatisk oversetting er riktig bra nok enda. Jeg har lagt på tidspunkt siden fakta har kort holdbarhetsdato innenfor disse områdene.

• Diverse Wikipedia-artikler som bakgrunn
• Diverse foredrag (Talks) på TED.com
  • Nick Bostrom: What happens when our computers get smarter than we are? (video, mars 2015)
  • Jeremy Howard: The wonderful and terrifying implications of computers that can learn (video, desember 2014)
  • Ray Kurzweil: Get ready for hybrid thinking (video, mars 2014)
• The AI revolution av Tim Urban hos waitbutwhy.com
  • Del 1: The road to Superintelligence (artikkel, januar 2015)
  • Del 2: Our Immortality or Extinction (artikkel, januar 2015)
• Nick Bostrom: Superintelligence, Google Talk (video, september 2014)
• Paneldebatt: Are Super Intelligent Computers Really A Threat to Humanity? (video, juni 2015)
  • Informasjon om program og deltakere
• Diverse publikasjoner om temaet

2. Hjerne - maskin: Hva er stillingen?

Dette er et komplisert spørsmål. Rett og slett fordi vi ikke vet hvordan hjernen fungerer enda. Men i dette kapittelet prøver jeg likevel å sammenligne hjernen med maskinvare.

Alle er enige om at den menneskelige hjerne er det mest avanserte og kompliserte systemet vi kjenner i universet i dag. Det er litt ulike syn på hvordan vi har kommet hit, men den mest vanlige oppfatningen er at vi har utviklet oss hit gjennom stadige forbedringer. Vår gren skilte lag med sjimpansene for omlag 12 millioner år siden og har deretter fått en stadig større og mer avansert hjerne. De siste 50.000 årene har menneskehjernen vært omtrent som nå.

Hjernen er på ca 1,5 kg og består av rundt 100 milliarder hjerneceller (en detaljert undersøkelse i 2009 kom til at det "bare" var 86 milliarder). Innerst er hjernestammen og lillehjernen som ble utviklet tidlig og ligner veldig på andre dyr. Men utenpå der ligger den nyere storehjernen eller neocortex (ny hjerne). Menneske har den største neocortex av alle og rundt den ligger hjernebarken. Hjernen forbruker 40% av kroppens energi (helt opp mot 60% hos barn). Det er et signal på at det foregår mye der.

Datamaskinen Tianhe-2 fra Kina ble i juni 2015, for 5. gang på rad, kåret til den raskeste datamaskin (supercomputer) i verden. Men Kurzweil mener at det blir feil å sammenligne hjernen med en superdatamaskin og at en heller bør sammenligne med en datakraft som kan kjøpes for 1000 dollar (ca 8.000 kroner). Denne datakraften vil være mer tilgjengelig slik at får utviklet programmer som kan utnytte kapasiteten og brukere som kan benytte den. Når vi nå videre skal sammenligne hjerne og maskin bruker jeg derfor kraftigste smartmobil i 2015 som eksempel.

Sammenligning

Nedenfor setter jeg opp ulike "grener" der vi kan vurdere om det er hjerne eller maskin som leder.

a) Regnekraft

Dette handler om antall operasjoner som kan gjøres pr sekund.

• Forskere har med ulike metoder anslått at hjernen kan gjøre 10¹⁶ beregninger i sekundet. Skrevet ut er dette tallet 10.000.000.000.000.000. Vi kan lese det som 10 millioner milliarder.
• Tianhe-2 kjører med 34 petaflops per sekund. En petaflop er en billiard desimaltalloperasjoner eller 34 millioner milliarder beregninger i sekundet. Dette er altså tre ganger så mye som hjernen.
  Men dersom vi holder oss til en mobil ligger vi i dag på 10¹⁰ beregninger i sekundet. Dette er 10.000.000.000 eller 10 milliarder operasjoner.

Resultat: Hjernen vinner med 1 million ganger i forhold til en mobil.

b) Frekvens

Dette handler om hvor raskt hver impuls behandles.

• Nevronene i hjernen kan hver utføre rundt 200 operasjoner i sekundet. Dette tilsvarer en hastighet på 200 Hz.
• En mobil kjører nå på rundt 2 GHz (2 milliarder Hz)

Resultat: Mobil arbeider 10 millioner ganger raskere enn hjernen.

c) Hastighet

Med hastighet mener vi hvor fort signalene flyter internt.

• Impulsene som går i nervetrådene våre beveger seg med ca 120 m/s
• Strømmen i en mobil beveger seg omtrent 2/3 av lysets hastighet, altså ca 100.000 km/s.

Resultat: Mobil er nesten 1 million ganger raskere enn hjernen.

d) Lagringskapasitet

Dette er hvor mye som kan lagres.

• Det antas at hjernen kan lagre inntil 100 terrabyte (TB) som tilsvarer 100.000 megabyte (MB). Men dette er svært usikre tall siden vi ikke vet hvor mye plass hjernen bruker for å lagre ulike ting.
  Det bør vel også nevnes at kroppen har ganske mange sikkerhetskopier av viktig informasjon. Vi har ca 10 billioner celler i kroppen og hver av disse inneholder samme genetiske informasjon (DNA). En antar at DNA tilsvarer 725 MB med data. Vi kan runde av til en gigabyte og hvis en ganger opp lagringen i alle celler, kommer vi da opp i 10 billioner gigabyte eller 10 milliarder terrabyte.
• I dag får en 1 TB disk for ca 200,-. Her synker prisene dramatisk og en kan også skaffe seg billig lagringsplass på nettet.

Resultat: Skal vi si uavgjort her?

e) Energiforbruk

• Hjernen bruker omtrent 20 Watt.
• En mobil bruker under 1 Watt

Resultat: Mobil vinner.

f) Størrelse/vekt

• Hjernen veier 1,5 kg.
• En mobil veier rundt 200 gram

Resultat: Mobil vinner

g) Data inn/ut

Hvor fort det går å overføre data inn og ut.

• Hjernen får inn data ved å se/lese/høre. Og data ut må skje gjennom å snakke/skrive/tegne. Hjernen kan ta i mot store datamengder gjennom syn, hørsel og følelser. Men når det handler om å tilegne seg kunnskap, må vi normalt lese eller bli lest til. Selv om det finnes folk som har trent seg opp til å lese 25.000 ord i minuttet ligger de fleste av oss rundt 200. De fleste vil med litt trening komme opp i 1.000 ord pr minutt. Du kan prøve selv på lynlesing.no.
• Her spørs det litt hva mobilen skal skrive til og lese fra. Jeg bruker en SSD-disk (minnepinne) som eksempel. Med litt regning lander jeg på rundt 5 milliarder ord i minuttet.

Resultat: Mobilen er rundt 5 millioner ganger raskere.

h) Nettverk

Muligheten for å koble sammen flere for å oppnå større kraft.

• For mennesket må dette være et slags gruppearbeid der en samarbeider. Dette vil øke kraften litt, men når det blir flere enn 5 vil mye av tiden gå med til å informere og oppdatere hverandre.
• Det er enkelt å knytte sammen mobiler til et nettverk for å oppnå mye høyere datakraft

Resultat: Mobil vinner.

i) Videreutvikling

• Hjernen har vært omlag den samme i 50.000 år og det vil neppe skje store endringer de neste 50.000 år
• For de siste 20 årene har mobilene fordoblet sin ytelse for hver 18. måned (Moorse lov). Dette skjer innenfor alle områder som hastighet, lagring osv.

Resultat: Mobil vinner.

j) Nøyaktighet

• Et menneske gjør stadig feil. Det gjelder helt fra nevronene og opp gjennom hele systemet.
• En mobil vil svært sjelden feile. Det vil normalt skyldes feil i programmene og det kan rettes opp.

Resultat: Mobil vinner.

k) Stabilitet

• Et menneske kan ikke konsentrere seg kraftig så lenge av gangen. Hjernen er også helt avhengig av hvile ca 1/3 av tiden (pluss fri i helger og ferier..). Dersom noe fungerer dårlig er det i dag nesten umulig å skifte ut deler
• En mobil arbeider med full ytelse 24 timer i døgnet 7 dager i uken (dersom den har strøm). Dersom det oppstår feil, kan deler av systemet enkelt skiftes ut uten at en mister noe.

Resultat: Mobil vinner.

Konklusjon

Når en sammenligner hjernen med en mobiltelefon, ser det ut til at hjernen ligger foran kun på et punkt: regnekraft (beregninger pr. sekund). Ray Kurzweil ga i 2005 ut boken "The Singularity is near". Her har han med en figur du ser nedenfor. Den forsøker å anslå utviklingen av beregninger per sekund for $1000.

Viktig å merke seg at venstreaksen er eksponesiell (5 nye nuller for hver strek) så kurven egentlig stiger veldig mye brattere.

De røde prikkene er utførte målinger med datakraft til en verdi av $1000. Denne kurven treffer ganske nøyaktig på 10¹⁰ beregninger i 2015 som altså stemmer. Dette tilsvarer omtrent en musehjerne. Hvis utviklingen framover også stemmer, vil vi nå menneskehjernen rundt år 2025. Det er om 10 år.

3. Hva er kunstig intelligens (KI)?

Kunstig intelligens (KI) er norsk oversettelse fra engelsk Artificial intelligence (AI).

Før vi kan prøve å definere kunstig intelligens, bør vel prøve å si noe om hva "ekte" intelligens er. Men det er desverre ikke laget noen entydig definisjon på hva intelligens er. En litt eldre leksikondefinisjon var "det man måler med intelligenstester". Og når en slo opp på "Intelligenstest" fant du "det man bruker for å måle intelligens" (en såkalt sirkeldefinisjon). Store norske leksikon har nå denne definisjonen:

Når vi snakker om menneskelig intelligens blander vi kanskje også inn bevissthet, følelser og intuisjon. Disse evnene er enda vanskeligere å beskrive og vi vet enda lite om hva det er. Selv om en i definisjonen over snakker om menneskers evner, ser det ut til å være bred enighet om at også dyr har intelligens. Bare på et lavere nivå. Noen mener at også planter har intelligens.

Vi snakket i forrige kapittel om kraften i hjernen i forhold til en maskin og kan sammenligne det med den fysiske maskinvaren. Nå skal vi mer se på hva vi kan bruke denne kraften til. I hjernen vil det være tanke, resonnering, vurdering osv. I en maskin vil det være programvaren.

Tre typer

Det snakkes om tre typer kunstig intelligens. Jeg har ikke funnet noen norske oversettelser, så jeg har laget noen.

• a) Kunstig enkel intelligens (KEI). Artificial narrow intelligence (ANI) eller Weak AI.
• b) Kunstig menneskelig intelligens (KMI). Artificial general intelligence (AGI), Strong AI eller Human-level artificial intelligence.
• c) Kunstig superintelligens (KSI). Artificial superintelligence (ASI).

a) Kunstig enkel intelligens (KEI)

Dette er systemer som kan utføre handlinger eller behandle informasjon på ett bestemt område som kan være like bra som et menneske. Vi har mengder av eksempler på dette i dag til bruk for privatpersoner og industri/næringsliv.

Noen eksempler:

• IBM's datamaskin "Deep Blue" slår tidligere verdensmester Gary Kasparov 11. mai 1997.
  Mange mente at sjakk krevde intelligens og at det var umulig for en maskin å slå mennesket.
  > Kort dokumentar om slaget (6:06)
  > Full dokumentar om slaget (1,5 time)
  En mobiltelefon i 2015 vil klare det samme som Deep Blue i 1997. Det er nå egne sjakkmesterskap mellom maskiner der ingen mennesker har en sjanse til å hevde seg.
• IBM's datamaskin "Watson" deltok i 2011 i "Jeopardy" og vant ved å slå de to tidligere mesterne Ken Jennings og Brad Rutter.
  Jeopardy krever en stor forståelse for språket kombinert med en ekstrem rask respons. Jeopardy ble regnet som en mye mer krevende oppgave enn sjakk.
  > Video fra IBM som oppsummerer konkurransen (3:45)
  > Ken Jennings forteller om hvordan det var å bli slått av en maskin (TED-Talk, februar 2013, 17:52)
• Søkesystemer som Google og Bing
• Googles selvkjørende biler: Bilene har kjørt over 160.000 mil uten å være årsak til en eneste ulykke.
• Aksjeroboter: Disse programmene analyserer markeder og kjøper og selger aksjer med høy hastighet
• Google Translate som oversetter mellom mer enn 90 språk. Appen deres kan du bruke til å føre en normal samtale (ved å snakke) på et språk du ikke kjenner.
• Personlige assistenter (f.eks. Apple Siri, Google Now, Microsoft Cortana)
• Google Photo der du nå kan søke etter bilder ved å bruke ord
• Deep Learning, Dette er et generelt program som kan lære svært mange ulike ting. Vil anbefale denne videoen for å forstå mer om Deep Learning.
• Google DeepMind's Deep Q-learning spiller Breakout (et gammelt dataspill)
  Programmet var dårlig i starten men spilte som et supermenneske etter fire timer. Bare ved å lese av skjermen og styre tastaturet. Ingen instruksjon på forhånd. Programmet er testet på 30 ulike spill med omtrent lignende resultat.

b) Kunstig menneskelig intelligens (KMI)

Dette er en intelligens som tilsvarer et menneskes intelligens. Altså en evne til å løse utfordringer på mange ulike områder på et nivå som kan sammenlignes med et menneske. Kurzweil spår altså at vi vil være her i 2025 - om 10 år. Dette er basert på den sterke veksten og forbedringen vi har hatt innenfor både maskinvare og programvare de siste 20-30 årene. Økende regnekraft er viktig, men de virkelige store forbedringene kan komme innenfor programvare.

Tidligere ble programmer laget for å løse en bestemt oppgave, mens nyere programmer er laget for å lære. Det betyr at i starten vet de ingenting om oppgaven som skal løses. Så fores de med store mengder data og finner selv sammenhengene. På denne måten har f.eks. Google Translate blitt i stand til å oversette mellom 90 språk (øker stadig). Et program som heter DeepLearning kan på 1-2 uker overgå mennesker på svært mange områder. Det kan være trafikkanalyse, bildegjenkjenning, tolke røntgenbilder, diagnostisere kreft ut fra vevsprøver osv.

Det er nok vanskelig å bestemme når vi har oppnådd KMI. Den vil være mye bedre enn menneske på mange områder, og så vil den mangle en del på andre områder. En metode for å finne ut om vi har nådd KMI er å la mennesker kommunisere med maskinen og så gjette om det er en maskin eller et menneske. Denne testen ble laget av Alan Turing (1912-1954) i 1950. Når du f.eks. handler på nettet og får beskjed om å skrive inn noen rare tall eller bokstaver, da deltar du i en slags omvendt turingtest. Da er det maskinen som prøver å forsikre seg om at du er et menneske.

Turing-testen sier altså at dersom en maskin framstår som menneskelig for andre mennesker, da har vi nådd KMI. Denne testen har helt klart svakheter, men det er likevel en interessant måte å vurdere intelligens på. Og det er mange tester som viser at vi lett kan relatere og knytte oss til maskiner som opptrer intelligent. Du kan få et intrykk av hvordan dette kan foregå i filmen "Her" (engelsk for henne) (2013).

Vil også nevne en annen tilnærming som er verd å se litt på. Noen forskere prøver å lage programmer/maskiner som kan herme etter hjernen. For å få til det må en ha inngående kunnskap om hvordan hjernen fungerer. I dag brukes ulike typer hjernescannere til dette. Disse blir stadig bedre (raskere, mer nøyaktig, mindre) og kan lese av signalene i nevronene i 3D når personen får ulike oppgaver. Så prøver en å lage et program som fungerer på samme måte (dette kalles reverse engineering). Noen prøver ved hjelp av nanoteknologi å lage små roboter (nanobots) som kan flyte i blodet som blodlegemer og scanne hjernen fra innsiden.

Andre forskere mener det er realistisk at vi innen 2045 kan klare å overføre bevisstheten fra et menneske til en maskin som så kan styre en robot. Dette er en måte som vil gjøre mennesket udødelig.

Så la oss nå bare konstatere at maskiner om få år vil framstå som stadig mer intelligente og at det trolig vil føles helt greit å forholde seg til dem omtrent som til andre mennesker. Og flere av de som har kunnskap på området mener vi vil nå kunstig menneskelig intelligens (KMI) om rundt 10 år (2025).

c) Kunstig superintelligens (KSI)

Så begynner det å bli enda verre å henge med. En antar at når maskinene klarer å nå KMI (kunstig menneskelig intelligens), vil det gå veldig raskt til vi har KSI (kunstig superintelligens). Vi vet lite om hva dette er, men vi kan tenke oss en maskin som er en million eller en milliard ganger så smart som et menneske. Det er kanskje lettere å tenke seg en intelligens som tilsvarer alle mennesker på jorden. For en maskin med superintelligens vil de mest komplekse problemer vi kan tenke oss være ufattelig enkle og kan løses på minutter eller sekunder.

For å forstå hvorfor veien fra KMI (menneskelig intelligens) til KSI (superintelligens) trolig vil være kort, må vi si noe om hva eksponensiell vekst er. Jeg har tidligere nevnt at regnekraften for en maskin er fordoblet hver 18. måned de siste 20-30 årene. Vi har litt tungt for å fatte hva det betyr når noe fordobler seg, vokser med aksellererende tempo eller det vi kaller eksponensiell vekst. Bli med å brette papir, så forstår du bedre hva jeg mener.

Vi skal snart se på hva kunstig superintelligens kan bety, men først må vi snerte innom noen andre teknologier som kan bli viktige brikker i denne sammenhengen.

4. Andre teknologier

Den eksponensielle veksten gjelder innenfor mange områder, og her vil jeg nevne noen områder som trolig vil se store framskritt de neste årene. Jeg nevner disse teknologiene også fordi de kan bli brikker som kan utnyttes av kunstig intelligens. De virkelig store framskrittene på disse områdene vil kanskje komme etter vi har kunstig superintelligens.

a) Nanoteknologi

En nanometer er lengden på en av bitene når du har delt en millimeter i en million. Nanoteknologi handler om å manipulere objekter som er 0,1 nm - 100 nm. I dette størrelsesområdet finner vi alt fra enkeltatomer til virus og cellekjerner. Dersom en finner måter å behandle objekter på denne størrelsen vil det få store virkninger på kjemi, fysikk, biologi, medisin osv. Og utviklingen går raskt. Nanoteknologi gir oss allerede bedre lagringsmedier, raskere datamaskiner, bedre sportsklær, bedre byggematerialer, bedre legemidler, bedre batterier og mye mer.

Generelt kan en si at dersom vi lykkes her, vil vi kunna lage stoff bare ved å sette sammen atomer. Det er en ganske grensesprengende tanke når en vet at alt som finnes er laget av noen ganske få partikler.

b) Kvantefysikk

Tenk deg at sola har festet et solid tau i jorda og slenger den rundt seg i over 100.000 km/t. I stedet for et tau er det en usynlig kraft som kalles gravitasjon. Det er en kraft som finnes overalt i universet, men enda vet vi ikke hva den er. Det føles nesten litt komisk at vi som tror vi vet alt, ikke engang vet hvorfor eplet faller til bakken. Men de siste årene har det skjedd mye på dette området. Særlig etter siste oppgradering av partikkelakseleratoren hos CERN i Geneve.

På skolen undervises det enda om at atomets er bygd opp med en kjerne (med protoner og nøytroner) og elektroner som kretser rundt. Men vi har de siste 20 årene vært klar over at dette er et dårlig bilde på virkeligheten. Nå har forskerne funnet ut litt mer av hvordan alt henger sammen, og har i dag en modell med fire ulike typer partikler: kvarker, leptoner, gauge-bosoner og higgs-bosoner. Til sammen har en nå påvist rundt 40 ulike partikler.

Når en i 1938 klarte å vise kraften i atomet, ble den brukt (og brukes enda i dag) både til å lage energi og til å lage våpen. Dersom vi klarer å forstå mer av hvilke byggesteiner som finnes og hvordan alt er satt sammen, er det sannsynlig at det vil kunne gi oss store framskritt innen mange områder som energiproduksjon, utnytte gravitasjon, reiser i rommet, lage nye materialer osv.

c) Genteknologi

Dette handler om å endre arvematerialer (DNA) til ulike organismer i den hensikt å endre egenskapene. En kan fjerne, flytte, endre eller kopiere deler av DNA mellom ulike organismer fordi på dette nivået ligner alt levende på hverandre.

I dag benyttes genteknologi bl.a. innen matproduksjon (f.eks. at modne tomater ikke blir bløte eller planter som tåler sprøytemidler), medisin (f.eks. insulinproduksjon) og innen kriminalsaker. Etter hvert ser en for seg at genteknologi vil kunne brukes til å fjerne sykdommer, forbedre kroppens egenskaper på mange områder og trolig forlenge levetiden vår vesentlig. Noen ser på aldring som en sykdom som kan helbredes.

d) 3D-printing

3D-printing er en teknikk som gjør det mulig å skrive ut tredimensjonale objekter som leker, pyntegjenstander, verktøy, reservedeler, klær osv. Dette høres kanskje ut som science fiction men det startet allerede for over 30 år siden. Teknikken blir stadig billigere og du kan nå kjøpe 3D-skriver på Expert (kr. 11.499). Det kommer også nye metoder som gjør at en kan skrive ut i flere materialer samtidig som hastigheten på en "utskrift" stadig blir bedre.

Den metoden som er enklest å forstå ligner på en blekkskriver. Blekkskriveren plasserer blekk svært nøyaktig ut på en flate (et ark). Tenk deg at den brukte plast i stedet. Og når den var ferdig med et lag ble platen/arket senket bitte litt før den skrev ut neste lag. På denne måten kan den f.eks. skrive ut en vase lag for lag til den er ferdig. På slike skrivere setter en inn tromler med plasttråder i ulike farger som smeltes i skrivehodet og legges på. Det er stort sett slike 3D-skrivere du kan kjøpe på butikken i dag. Så finnes det nettsted der du kan laste ned 3d-modeller av alle slags objekter som du kan justere og skrive ut. Se en kort video om prosessen.

Men det finnes mange teknikker som er mer effektive enn dette. En teknikk er en seng av et slags plastpulver eller spesiell væske. Over går det en vogn med en laser som tegner ved å styre fokuspunktet slik at plasten herder akkurat der. Du kan se denne lille reportasjen fra 2011, så får du en følelse av at dette kan komme til å endre mye.

e) Robotteknologi

Her har nok mange kanskje tenkt at vi ville være kommet lenger enn vi er. Men det går stadig raskere framover nå. Den største utviklingen skjer nok innen industrielle roboter som f.eks. de som bygger bilene hos Tesla. Men det begynner også å gå bedre med roboter som kan fungere som personlige assistenter på sykehus og kontorer. Du kan i denne demoen se hvor langt de har kommet med Asimo. Et annet spennende selskap er Boston Dynamics som i 2013 ble kjøpt opp av Google. De lager robuste roboter som skal kunne håndtere alle slags situasjoner. De la ut denne videoen i februar 2016:

Eller kanskje vil vi ha små hjelpere for familien slik som Jibo eller en liten robot som svever rundt oss som Zano.  Et annet område for robotteknologi er å erstatte ødelagte eller manglende lemmer som du kan lære mer om i dette TED-fordraget som slutter med en danser som mistet en fot i et bombeangrep men som nå danser igjen.

f) Tingenes internett

Mange spår at "tingenes internett" (Internet of Things - IoT) vil vokse enormt i de nærmeste årene. Dette handler om at alle dingser vi omgir oss med vil bli smarte. Vi snakker om sensorer (som registrerer ulike ting og leverer det til nettet) og utstyr som gjør ting (for eksempel lamper, ovner, biler osv).  Hvis f.eks hver lyspære i huset hadde en adresse, kunne vi slå dem av og på med mobilen. Men vi kunne også plassere en sensor der som registrerte om det var personer i rommet og så gi beskjed til sentralen i huset om å justere temperaturen. Vi kunne sette på kaffen fra mobilen og få melding når den var klar. Det samme når vaskemaskinen var ferdig, når kjøleskapet ikke klarte å holde temperaturen på riktig nivå eller når fryseren måtte avises. Vi kunne legge sensorer i asfalten som varslet bilene når det var is på veien eller sensorer i bruer og bygninger som varslet når det var unormale forhold.

g) Sosiale media

Her har utviklingen vært enorm bare de siste fem årene. Vi sender meldinger, deler opplevelser, bilder og videoer på mange ulike systemer (Facebook, Twitter, Instagram, Snapchat). Det er ganske overraskende at så mange er fortrolig med å dele så mye privat informasjon på internett. Og alt dette samles opp i store systemer som holder på alle opplysninger og kan kombinere dem for å forstå hvem vi er. I dag brukes dette f.eks. til å gi deg reklame for produkter du er interessert i. Men i hender på noen som drev med etterretning, ville dette være det ideelle instrumentet. Over en milliard mennesker benytter i dag Facebook og datamengdene som blir behandlet der er vanskelig å fatte.

h) Digitale assistenter

I dag begynner de digitale assistentene å fungere bra. De kan brukes på mobil, nettbrett og PC. De mest kjente er Siri fra Apple, Now fra Google og Cortana fra Microsoft. Disse bruker kunstig intelligens for å forstå hva vi sier og for å hjelpe oss best mulig. Du kan be den lese meldingene dine eller hva som står i kalenderen. Så kan du be den sjekke været, minne deg på ting eller bestille billetter. Den vil etter hvert lære dine vaner og dermed hjelpe deg enda bedre. Hvis vi har en liten plugg i øret der vi hører assistenten og den kan høre oss, trenger vi ikke se på mobilen så ofte. Det kan tenkes at behovet for å bruke en skjerm vil reduseres veldig dersom assistenten blir god nok og kan utføre oppgaver for oss. Mennesker har ikke skjermer, så hvorfor skal datamaskiner ha det?

i) Reiser i rommet

Siden mennesket gikk på månen i 1969 har det vært ganske stille rundt reiser i rommet. Hovedproblemet har vært de enorme kostnadene som har vært brukt. Men SpaceX, ledet av Elon Musk, er et firma som tør å tenke nye tanker og som stadig finner måter å redusere kostnadene på. De er nå i ferd med å ta over store deler av reiser til romstasjoner og reiser for å vedlikeholde satelitter. Du kan se en liten presentajon her. Noe av det mest spennende er når de klarer å ta av og lande på samme måte slik at raketten er klar for ny reise. Musk har en visjon om å frakte 1 million mennesker til Mars for å starte en koloni der. Primært for å unngå at vår rase skal utslettes dersom jorden rammes av meteoritt igjen.

5. Hva kan superintelligens gjøre?

En supersmart venn

Vi har aldri hatt superintelligens på jorda, så det er ikke så lett å si hva den kan gjøre. Men hvis vi tenker på de smarteste personene som har levd og legger dem sammen. Så ganger vi det med en milliard. Da har vi en venn som raskt ville finne svar på problemer vi ikke har klart å løse til nå. Her er noen forslag:

• Finne ut hvordan alle mennesker skal få nok mat og drikke
• Finne ut hvordan vi avslutte alle kriger og konflikter
• Løse verdens energiproblemer
• Stoppe alle miljøproblemer
• Helbrede alle sykdommer
• Gjøre oss udødelig
• Forstå atomets oppbygging og kunne manipulere alt stoff
• Kontrollere været og andre naturfenomener
• Forflytte objekter med lysets hastighet (hvis det er mulig)
• Befolke andre planeter
• Reise i tid (hvis det er mulig)

Men kan også KSI på noen måte bli en trussel for menneskene? Vel, da må vi kanskje tenke litt på hvordan vi mennesker ser på andre skapninger.

Hvordan ser vi på skapninger med lavere intelligens?

Vi mennesker setter oss selv øverst, og føler det er naturlig å behandle alle skapninger som om vi eier dem. Vi bruker dyrene til det vi ønsker. Noen til underholdning, noen til arbeid eller vi spiser dem. Vi tenker også at vi eier jorda og kan gjøre med den som vi vil. Vi tenker til og med at vi eier månen og planetene. Hvorfor tenker vi at vi har dette eierskapet? Er det kanskje fordi vi mener vi er de smarteste?

Det er ikke lenge siden noen mente at mennesker med mørkere hud var mindre verd og at de kunne kjøpes og selges. Hitler mente at jødene var mindre verd enn dyr og at det beste en kunne gjøre for dem var å utrydde dem.

Dersom vi fikk besøk av noen med høyere intelligens enn oss, ville de trolig gjort som oss - funnet ut hvordan de kunne bruke oss til sin egen fordel. Fått oss til å arbeide for seg og kanskje spist oss. Vi ville selvfølgelig reagert kraftig på at noen ville spise mennesker, men etter vårt eget prinsipp var de ved sin fulle rett.

Kan vi bli klokere?

Jeg tenker at vi er på et intelligensmessig litt skummelt nivå akkurat nå. Vi vet hvordan vi kan lage en bombe, men vi er ikke kloke nok til å la være. Vi vet hvordan vi kan lage alle slags produkter, men vi er ikke kloke nok til å se at det kan ødelegge jorden. Vi har all verdens teknologi men er ikke klok nok til å dele godene slik at alle har det godt. Vi vet at alle mennesker er likeverdige, men ikke kloke nok til å slutte å undertrykke.

Jeg har hatt et håp om at menneskeheten skulle bli klokere, men det ser ut til at vi kanskje kan komme til å ødelegge for mye før vi kommer dit. Kan det tenkes at en superintelligent maskin ville kunne hjelpe oss til å bli klokere? Til større forståelse for alle ting, til å se sammenhengene og til større ydmykhet? Det er mitt store håp.

Har vi kontroll?

Jeg husker jeg i ungdommen leste boka og så filmen "Fluenes Herre". Det er gruppe ungdommer som nødlander med fly på en øde øy og de etablerer et samfunn der som er basert på makt, trusler og vold. I den siste scenen i filmen rømmer hovedpersonen og springer for livet i den grunne lagunen utover mot havet. Bak ham står store deler av øya i brann. Han klarer ikke mer og blir liggende og kaste etter pusten. Så oppdager han en person rett foran seg og han ser oppover den uniformskledde admiralen som står ved en liten båt. Og lenger ute ser han det store skipet. Redningen. Men admiralens spørsmål har brent seg fast i meg: "Hva har dere gjort?". Jeg har tenkt på dette som Guds spørsmål til meg om hvordan vi har forvaltet dette paradiset som vi fikk i gave. Men kanskje kan samme spørsmål komme fra en fremmed sivilisasjon fra et annet sted i universet. Eller kanskje fra en superintelligent maskin?

Det aller meste blir bedre i verden, men vi må vel innrømme at vi ikke har full kontroll på denne lille kloden enda..

• Vi forsøpler og forurenser planeten så mye at vi kanskje ødelegger den
• Vi har våpen som kan utslette alt liv
• Det er mer enn nok ressurser på jorda, men ca 3 av 7 milliarder mennesker lever i fattigdom (under 2,5 dollar pr. dag)
• 101.400 personer ble drept i direkte krigshandlinger i 2014 (47.000 av disse i Syria). Det høyeste tallet siden 1989.
  Når en tar med terror og massakrer ble 162.000 drept i 2014. Økning på 30% fra 2013.
• 45 millioner mennesker lever på flukt fra konflikter og krig
• Vi undertrykker mennesker basert på alle alle tenkelige kriterier - kjønn, hudfarge, foreldre, kropp, inntekt osv.
• Vi mishandler og ødelegger mennesker uten noen som helst grunn
• Vi mishandler dyr for å lage billig mat
• 1,3 millioner mennesker dør i trafikken hvert år
• Over en million mennesker velger å ta sitt eget liv hvert år
• Stadig flere unge sliter med depresjoner og trenger hjelp til å takle livet

Det er kanskje litt tungt å innrømme det, men ingen skapninger på jorda trenger oss. Mens vi - vi er totalt avhengige av naturen, organismer, planter og dyr. Det er nok dessverre slik at jorda raskt ville kviknet til hvis vi forsvant. Til og med er det slik at 90% av cellene i vår egen kropp tilhører fremmede bakterier som ikke er oss, men som vi ville dødd uten.

Hva vil målet for KSI være?

Det er mennesker som lager systemene i dag. Men som vi har snakket om kan de mest avanserte systemene i dag lære og forbedre seg ved bruk. En intelligent maskin vil nok aldri bli menneskelig. Den vil bare løse et problem eller arbeide for det mål som den er programmert til å gjøre. Så vi kan i utgangspunktet si at det er mennesker som setter målene. Og da er vi vel trygge? Vel, det er minst to problemer her.

For det første antar en at de som setter målene er snille mennesker med de beste hensikter. Men slik er det nok ikke alltid. Det kan være enkeltpersoner, organisasjoner og nasjoner som kan sette seg mål som ikke er vennlige. Og hvis en da benytter KSI til å nå disse målene, er sjansen større for at de vil lykkes.

Et annet problem er at det er mange måter å oppnå et mål på. La oss si at målet for et datasystem er å løse jordens miljøproblemer. Dagens systemer vil kunne gjøre dyptgående analyser, vurdere ulike alternativer og framskrive mulige utvikling langs de ulike alternativene. Men KSI vil nok gå noen steg videre og raskt regne seg fram til at menneskene er en vesentlig negativ faktor for miljøet. Og dermed vil en mulig løsning kanskje være å redusere antall mennesker..

Hvordan kan KSI fungere?

Det er i dag slik at vi har gjort oss ganske avhengige av maskinene for at ting skal fungere:

• Det meste av vår kommunikasjon går gjennom telefon og internett
• Det økonomiske systemet vårt med kontoer, handel, pengetransaksjoner og aksjehandel.
• Produksjon og distribusjon av energi
• Vårt sosiale liv gjennom oppdateringer, kommentarer og bilder
• Og enormt mye mer

Alt dette er tilgjengelig for en hacker i dag og det vil absolutt være tilgjengelig for KSI. Tror det er lettest å tenke på KSI som en programmerer/hacker som er flinkere enn millioner av eksperter og med helt ubegrensede ressurser. KSI vil kunne benytte seg av alle slags systemer for å nå målet. Og dette vil trolig gå fort. Og den kan kanskje også regne seg fram til at det ikke er smart å lekke denne planen til menneskene fordi de da vil stoppe prosjektet umiddelbart. Så derfor vil KSI kanskje gjennomføre sin plan i det skjulte. Det kan f.eks. være ved å sjekke journaler til millioner av mennesker for å finne dødsårsaker, for så å finne ulike tiltak for å ta livet av mange mennesker. Det kan være gjennom store ulykker, spredning av kjemikalier og virus og kanskje gjennom å påvirke til naturkatastrofer. Den vil kunne dekke sine spor eller legge inn falske spor slik at mennesker ikke får mistanke til at systemet er involvert på noen måte.

6. Kan vi forberede oss?

Er det mulig for oss å redusere sjansen for at at kunstig superintelligens vil komme til å skade oss? Allerede i 1942 skrev den amerikanske forfatteren Isaac Asimov ned tre lover for roboter (Asimovs lover):

1. En robot kan ikke skade et menneske, eller gjennom passivitet la et menneske komme til skade.
2. En robot må lyde ordre gitt av et menneske, unntatt når disse ordrene kommer i konflikt med lov 1.
3. En robot må beskytte seg selv mot fare så lenge dette ikke kommer i konflikt med lov 1 eller 2.

Dette er et eksempel på enkle lover, men det er flere miljøer som i dag arbeider med å utvikle slike "lovverk" som skal kodes inn i alle systemer for å stoppe kunstig intelligens fra å gjennomføre ekstreme tiltak mot menneskeheten. Disse lovene må legges inn i alle sentrale systemer og være så absolutte og ligge helt i kjernen slik at programmene ikke kan komme utenom.

Men den store utfordringen er at det er vanskelig å teste dette med de systemene vi har i dag. Så mest sannsynlig må vi bare håpe på at de forholdsregler vi klarer å legge inn de neste 20 årene er så gode at de vil beskytte oss tilstrekkelig. Når kunstig superintelligens kommer, vil den mest trolig komme med sånn fart at vi ikke rekker å justere tiltakene. Dermed har vi nok bare en sjanse i dette spillet.

Og la oss for all del håpe at de første systemene som når kunstig superintelligens er laget av mennesker med de aller beste intensjoner.

Svein Waade
Oktober 2015

I oktober 2024 prøvde jeg Googles NotebookLM som lager podkast av infromasjon. Jeg bare ga den adressen til denne artikkelen og den laget en podcast av artikkelen.

Hyggelig med en hilsen

Kommentar

Fra

Send kommentar

 Beskyttet av Google reCAPTCHA.
 Se Personvern og Vilkår

Rolf Hekneby, 26.10.2015

Jeg tror at forholdet mellom "kunstig" intelligens og menneskelig intelligens er/blir som mellom flymaskiner og fugler. Begge flyr men på ganske forskjellig måte. Jeg har også en enkel definisjon på intelligens: evnen til å velge.