NTNU-forsker: Frykter teknologien brukes til masseødeleggelsesvåpen

Sjefen for NTNUs kunstig intelligens-labs frykter at teknologien de utvikler, vil bli brukt til å lage masseødeleggelsesvåpen eller masseovervåkning.

FORSKER PÅ AI: Leder for NTNUs kunstig intelligens-lab, og førsteamanuensis ved institutt for datateknologi og informatikk, Heri Ramampiaro.

Foto: Sigrid Moe
Publisert:

– Det er en del dilemmaer når man utvikler kunstig intelligens, sier Heri Ramampiaro fra scenen under IKT-Norges årskonferanse i Oslo.

Han er lederen for NTNUs kunstig intelligens-lab, og førsteamanuensis ved institutt for datateknologi og informatikk.

Les også: Amerikansk investor: – Nordmenn må slippe oss inn i tillitssirkelen

Farer

Det er spesielt tre punkter han forteller at de hele tiden må tenke på når ny teknologi utvikles:

  • Personvern: – Som vi ser av Facebook-skandalen, er hvordan man behandler informasjon viktig. Vi må jobbe med personvern. Det er ikke nok å anonymisere data, for det er lett å sette sammen informasjon som identifiserer. Vi må hindre at teknologien vi utvikler, bruker unødvendig informasjon om folk, sier Ramampiaro.
  • Sikkerhet: – Kunstig intelligens kan hindre cyberangrep, men kan også utføre det. Den kan gjøre mye skade, sier Ramampiaro.
  • Etikk: – Noe av det jeg er mest opptatt av at man ikke skal kunne bruke teknologien til å utvikle våpen. Noe av det jeg er mest redd for er at teknologien vi utvikler kan brukes til å lage masseødeleggelsesvåpen eller masseovervåkning, sier forskeren.
Les også

Kommentar: Har spådd jobbdød i årtier – ikke la deg skremme

– Noen er også opptatt av at kunstig intelligens kan føre til at det blir færre jobber. Som teknologioptimist vil jeg heller se på mulighetene. Det er muligheter for å skape større verdier, og dermed også flere jobber. Men næringslivet må nok også være innstilt på omstilling, sier Ramampiaro.

Gjør feil i omstillingen

Han forklarer for E24 at han tror at mange begynner i feil ende når de møter denne omstillingen.

– Jeg ser at mange ser på hva de andre selskapene gjør, og tenker at de vil gjøre det samme. Det de burde gjøre er å finne ut hva kunstig intelligens kan gjøre for dem, sier forskeren.

Han forteller at han har blitt kontaktet av selskaper som sier at de har mye data, og har hørt at kunstig intelligens er bra.

– Da må jeg bare svare at de må finne ut hva de vil ha ut av den kunstige intelligensen, sier han.

Les også

Telenor-sjefen: Slik skal hverdagen din bli enklere

Forsiktig deling

Frykten for at kunstig intelligens kan brukes til masseovervåkning er ikke ubegrunnet.

Det var over 50.000 som hadde møtt frem på en konsert med den kinesiske popstjernen Jacky Cheung i Nanchang tidligere i april. Avanserte overvåkningssystemer med kunstig intelligens gjenkjente en av publikummerne i folkemassene som en mann som var etterlyst for økonomisk kriminalitet, og han ble pågrepet.

– Det er dessverre lite vi kan gjøre om et land med så stor makt som Kina utvikler slik teknologi og vil bruke det på denne måten. Men vi som utvikler teknologien må hele tiden tenke over hvilke verktøy vi gjør tilgjengelig, sier Ramampiaro.

Han forteller at PST blant annet har uttrykt bekymring om åpenheten i forskningsmiljøer.

Les også: Spotify lanserer ny gratisapp

– Det er tradisjon for å dele på tvers av grenser. Men her må vi tenke litt mer på hvem som får tilgang til det vi gjør, sier han.

Næringsminister Torbjørn Røe Isaksen tror også at kunstig intelligens kommer.

– Det gir ufattelig store muligheter. Det er ikke et spørsmål om hvor langt frem i tid det kommer, for det gjør det. Selvfølgelig kommer en del av fremtidens transportoppgaver til å være løst av kunstig intelligens, sier ministeren.

– Vi må ta valg som legger til rette for utviklingen. Om vi tilrettelegger for digitaliseringen av den maritime klyngen, så kan vi leve av sjøfart i tusen år til, utdyper Isaksen.

IT-gigantene

Flere velkjente forskere og investorer har tidligere gått ut og også advart om farene ved utvikling av kunstig intelligens. Bland dem er den nå avdøde fysikeren og matematikeren Stephen Hawking og Tesla-gründer Elon Musk.

Frykten er da at mennesket kan miste kontrollen over datamaskinene, når datamaskiner selv kan utvikle nye datamaskiner.

Men Musk tror likevel at teknologien vil komme. Sent i 2017 innrømmet Musk selv at hans selskap også jobber med å utvikle kunstig intelligens for selvkjørende biler.

Apple-sjef Tim Cook fortalte i juni at de jobber med prosjektet de kaller «alle AI-prosjekters mor», og sa at det er sannsynligvis ett av de mest kompliserte kunstig intelligens-prosjektene som fins. AI er en forkortelse for «Artificial intelligence», eller kunstig intelligens på norsk.

Les også

– Kunnskapen burde ikke bare være hos de som har råd til å betale selskaper som Cambridge Analytica

Les også

Porsche tester blokkjede-teknologi i bilene sine

Les også

105 millioner til forskning innen landbruk og matindustri