Når juss møter AI
Rettslig regulering av kunstig intelligens
christian bendiksen og eirik norman hansen
når juss møter AI
rettslig regulering av kunstig intelligens
© Gyldendal Norsk Forlag AS 2019
1. utgave, 1. opplag 2019
ISBN 978-82-05-52177-3
Omslagsdesign: Kristin Berg Johnsen
Omslagsillustrasjon: © Mike Agliolo / Getty Images
Layout: Bøk Oslo AS
Sats: Bøk Oslo AS
Brødtekst: Minion 10,5/15
Papir: 90 g Amber Graphic
Trykk: Opolgraf, Polen 2019
Alle henvendelser om boken kan rettes til Gyldendal Juridisk
Postboks 6730 St. Olavs plass 0130 Oslo
www.gyldendal.no/juridisk juridisk@gyldendal.no
Det må ikke kopieres fra denne boken i strid med åndsverkloven eller avtaler om kopiering inngått med KOPINOR, interesseorgan for rettighetshavere til åndsverk. Kopiering i strid med lov eller avtale kan medføre erstatningsansvar og inndragning, og kan straffes med bøter eller fengsel.
Alle Gyldendals bøker er produsert i miljøsertifiserte trykkerier. Se www.gyldendal.no/miljo
Forord
Dette er en bok om juss, men det er ikke en bok som primært er skrevet for jurister. Ettersom kunstig intelligens tas i bruk på stadig flere områder, vil flere og flere måtte forholde seg til juridiske konsekvenser av at AI tar beslutninger. Dette er en bok for dem. Alt fra bedriftsledere som vurderer å anskaffe AI til å løse konkrete problemer, til kunder og leverandører som må forholde seg til kontrakter inngått ved AI. Derfor er språket (forhåpentligvis) enklere og eksemplene annerledes enn i en juridisk lærebok.
Svært mange mennesker har hjulpet oss med å få dette til å bli en bok. Vi sendte forespørsler om intervjuer til over et dusin IT-selskaper, og de aller fleste tok seg tid til å snakke med oss om praktisk implementering av AI, databehov og dataanalyse. Vi retter en stor takk til samtlige.
Videre har flere fagpersoner tatt seg tid til å lese manus og gi oss innspill og korreksjoner. Morten Goodwin ved Universitetet i Agder tok seg tid til å gi oss mye verdifull informasjon om hvordan man kan formidle maskinlæring på en måte som – forhåpentligvis – er forståelig for vanlige mennesker, og hvordan data brukes til trening. Mye av innholdet i de to første kapitlene er basert på hans innspill, men misforståelsene er selvsagt bare våre. Advokat Alexander Mollan ga oss kommentarer til kapittelet om personvern, og advokat Torbjørn Evjent ga verdifulle innspill til kapittelet om strafferett. Og vi kommer heller ikke unna en stor takk til familiene våre, som ikke har sett så mye til far som de har ønsket i løpet av det året som har gått fra tentativ disposisjon til ferdig manus.
Første disposisjon skrev vi for ganske nøyaktig et år siden, i mars 2018, og denne boken er oppdatert per 15. mars 2019. Men mye kommer til å skje fremover. Avi-
sene rapporterer daglig om nye AI-prosjekter på helt nye områder. Forskningen står
heller ikke stille. Det juridiske fakultet ved Universitetet i Oslo har varslet at de vil starte større forskningsprosjekter både på AI og på store datastrømmer, og EU har varslet at deres gjennomgang av produktansvar og AI vil være ferdig i løpet av 2019.
I den grad disse initiativene er offentlige før bokens trykketidspunkt, har vi forsøkt å innarbeide dem etter beste evne.
Innhold
1.3
2.3 Nærmere om eiendomsrett til data og bruksrett til store datastrømmer ...
2.3.2 Mulige kilder til vern av store datastrømmer ...........................
2.3.2.1 Innledning .........................................................
2.3.2.2 Nærmere om databasevernet ..................................
2.3.2.3 Vern etter prinsippene om forretningshemmeligheter ......
2.3.2.4 Eiendomsrett til data som sådan?
2.3.2.5 Rettighetsbeskyttelse i den generelle kontraktsretten? ...... 58
2.3.3 Nærmere om grensene for utnyttelsesrett til lovlig ervervede data 59
2.3.3.1 Innledning
2.3.3.2 Kundens utnyttelsesrett til data skapt av selger ............... 60
2.3.3.3 Kundens utnyttelsesrett til data inkorporert i selgers systemer ........................................................... 63
2.3.4 Aggregerte datastrømmer: Hvem eier hva?.............................
2.3.4.1 Utgangspunkt: Til hvilket formål er dataene samlet inn? 63
2.3.4.2 Situasjoner hvor dataene er ment å samles inn for eksklusiv bruk hos kunden ..................................................
2.3.4.3 Videresalg som neppe vil være problematiske i seg selv, men hvor spørsmålet er om det er rimelig at en part i datastrømmen utnytter
2.4.1 Innledning – hvilke data, hvilken kvalitet?
2.4.2
2.5
2.5.1 Mangelsbegrepet anvendt
3.2 Vi har kjøpt ny AI – eller har vi det? Om eierskap til programvare, data og algoritmer ved implementering av AI i bedriften
3.2.1 Eierskap til AI: Hvor går grensen? .........................................
3.2.1.1 Nærmere om problemstillingen – og opphavsretten til AI
3.2.1.2 Kan en AI vernes etter andre bestemmelser?
3.2.1.3 AI-ens rettsvern – en oppsummering ..........................
3.2.2 Eierskap til data i en AI – om leverandørens anledning til å benytte informasjon fra en algoritme opplært hos kunden .....................
3.2.2.1 Innledning: Hvordan gjøres dette? .............................
3.2.2.2 Informasjonen brukes til å forbedre grunnleggende trekk ved systemet: språk, kulturell interaksjon etc. ................. 98
3.2.2.3 Informasjonen brukes til å utvikle en bransjespesifikk eller en kundespesifikk løsning 100
3.3 Juridiske spørsmål når AI tas i bruk – nærmere om konsekvensene av AI-ens autonomi ved avtaleinngåelse, beslutningsstøtte og utfordringene ved å skape etisk AI ................................................. 104
3.3.1 Innledning .................................................................... 104
3.3.2 Kontraktstolkning og kontraktsteknikk ved leveranse av selvlærende systemer ....................................................... 109
3.3.3 Produktansvaret når AI integreres i andre produkter .................. 115
3.3.4 AI benyttes til å inngå avtaler eller foreta beslutninger mot tredjepart .....................................................................
3.3.4.1 Innledning: Hva er problemet?
3.3.4.2 Har autonome AI-systemer egen juridisk personlighet – eller burde de ha det?..........................................
3.3.4.3 Kan en AI inngå bindende avtale?
3.3.4.4 Nærmere om grensene for AI-ens avtalekompetanse – forholdet mellom avtaleslutning og ugyldighet ved tilblivelsesmangel
3.3.5 Noen praktiske eksempler hvor autonom AI er i bruk
3.3.5.1 AI integrert i logistikkstyringssystemer og lignende prosessverktøy ....................................................
3.3.5.2
3.3.5.3 AI-en som skapende enhet: Hvem eier åndsverk når datamaskinen er forfatter? ......................................
4.1
3.3.6
4.2.2
4.2.3
3.3.6.3
– og når mangelen går over
4.2.4 Uforutsett adferd fra AI etter idriftsettelse som mangel ved leveransen .................................................................... 172
4.3 Hvem har ansvaret for uønskede resultater når systemet lærer selv? 175
4.3.1 Innledning .................................................................... 175
4.3.2 Ansvarsforholdet i relasjonen AI-leverandør–kunde .................. 177
4.3.3 Ansvarsgrunnlaget for skade AI forårsaker mot tredjeperson utenfor kontrakt ............................................................. 180
4.3.3.1 Nærmere om ulike ansvarsgrunnlag ........................... 180
4.3.3.2 Kan man oppstille et objektivt ansvar for skadelig AI? 181
4.3.4 Andre ansvarsgrunnlag for skade AI gjør på vegne av kunden? ...... 184
4.3.5 Årsakssammenheng og adekvans 186
4.4 Straffansvar? ........................................................................... 188
4.4.1 Innledning .................................................................... 188
4.4.2 Skyldkravet ved bruk av AI 189
4.4.3 Hvem er strafferettslig ansvarlig for overtredelsen? ................... 191