INNHOLD
Innledning .....................................
Vimålerdet,menvetikkehvadeter
Intelligensensnaturhistorie .......................
Vårfantastiskehjerne ............................
Ole,DoleogDoffen .............................
Denegentligekulturrevolusjonen ..................
Skriftensbarn ..................................
Frafotnotetilverdensherredømme.................
Den«hemmelige»kunnskapen
Kunstenåtegneensirkel
INNLEDNING
«Mester,kandufortelleosshvadetersomgjørosstilmennesker?»DadenhistoriskeBuddhalevde,villehannokgitt etannetsvarenndethankommermedienvitsetegningpå internett:«Atviklareråkrysseavhvilkebildersomhartrafikklys.»Mendeterfaktiskslikmangenettstederperidag forsøkeråskilleossmenneskerfranettroboter:vedåteste omviklareråklikkepåderiktigebildene.Lettfoross, menoppgaversomdisseregnesfremdelesforåværefor vanskeligeforrobotene,ogbrukesderforforåstengedem ute.
Mendetspørshvorlengevikanføleossovenpå.Fordet sominntilnyligvartestenpådetåværemenneske,elleri hvertfallåhamenneskeligintelligens,densåkalteTuring-testen,eralleredeblittbestått.Detskjeddefaktiskpå60-tallet, medsamtaleprogrammetELIZA.Detteetterliknetenpsykoterapeutsomkommunisertemedsinepasienter,såoverbevisendeatflereavdemkunnesvergetpåatdetvarenlevende terapeutdechattetmed(somdetheternårman«samtaler» viaendatamaskin).DetvarnemligdettesomvardenkunstigeintelligensenspionerAlanTuringsmålpåatenmaskin haddenåddetmenneskelignivåavintelligens:atvikunne laossnarrepådennemåten.ForskerensomutvikletELIZA, JosephWeizenbaum,blesåskremtoverhvorlettfolklotseg lure,athanstansetheleprosjektet.
NåvaregentligELIZAikkespesieltintelligent.Detvar
hellerformelenforsamtalene,derprogrammetstortsett gjentokpasientensuttalelser,formulertsomspørsmål,som gjordeatforsøkspersoneneblenarret.Dethjalpogsåatvi menneskerharlettforåtilleggeandreskapningermenneskeligeegenskaper,såkaltantropomorfisme.Ettypiskeksempelermåtenviomgåskjæledyrpå:Visnakkermeddem somomdeermennesker.Ognågjørvidetsammemed roboter.
Mendetvarnoeannet,nestenforuroligende,medde «generative»kunstigintelligens-modellenesomtokverden medstormdadebleallmenttilgjengeligevinteren2022–23.Dettevarnettrobotersomkunnekommunisereoverbevisendeomdetmeste,itilleggtilatdekunnehentefram utroligemengdermedinformasjon(ikkealltidkorrekt,riktignok),skriveteksterderdeetterliknetkjenteforfattere, oglageavansertebilderogvideoerutfraenkommando («prompt»).Haddemanikkevisstatdettevarroboter, kunnedehalurtdeflestetrillrundt.Noesomogsåskjeddei stortmonn,blantannetpåeksamensbesvarelser.
Dettekunstigintelligens-sjokkettokdeflestepåsengen. Mangekjentenoktilatkunstigintelligens(KI)haddegjort inntogpåflereområder,fordidehaddebruktdemselv,i oversettelsesprogrammersomGoogleTranslateogpersonlige«assistenter»somApplesSiri.Ogvihaddelattoss imponereavkunstigeintelligensersomspilteflettaavmenneskeligemestreisjakkogverdensvanskeligstespill,Go. Menmed«samtaleroboter»somChatGPTkomdenkunstige intelligensennestenlittfornært,detvarblittnoemerennen appmankunnefordrivetidenmed.Ogflereyrkesgrupperbegynteåfølesegtruet,fordidissechatboteneskrevminstlike brasomsinemenneskeligekonkurrenter–ogitilleggjobbet myeraskere.
Mangegikksålangtsomtilåadvareomatkunstigintelligenskunneblieneksistensielltrusselmotmenneskeheten. Overtusenavverdensfremstedataeksperterskrevunderpå etoppropomdetteogbaomenpauseiutviklingen.Til ogmedflereavdesomhaddeværtmedpååutvikleprogrammene,stonåframsomvarslere.GeoffreyHinton,selveste«gudfarentilgenerativKI»,sluttetiGoogleforåkunne snakkemerfrittomhvilkefarerdenneteknologien,somhan selvhaddeværtmedpååskape,representerte.
ProblemetvarikkenødvendigvisatKI-enevariferdmed åfå«superintelligens»,oggjøreossmenneskeroverflødige, somdemestalarmistiskekommentareneantydet.Detvil uansettikkeskjeriktigennå,omdetkanværeentrøst.Trusselenvarmeratdekanblilittforflinkepå noe, ogdermed uforvarendesettevåreksistenspåspill.DensvenskeOxfordprofessorenNickBoströmharbrukteteksempelmedenKI somsettestilåproduserebinders, ogsomgjørdettesågrundigatdenbrukeroppalletilgjengeligeressurserpådette («Beklager,jegtrengerdenneenergienogdettemetallettil ålagebinders»),ogslikforårsakermenneskehetensundergang.
Andreermeropptattavhvilkeskaderkunstigeintelligenserkanforårsakeomdekommerihendenepåkriminelle ellerfiender,elleromdebarebrukesuvettig.Hererdetklart atKI-erkanutrettestørreskadeennlevendemenneskerkan, avfleregrunner,ikkeminstfordidekanproduseresåmye mer ugagn.Falskenyheter,tilogmedfalskevideoer,kannå masseproduseresogspresmedlysetshastighetoverhelekloden.NettselskapersomFacebook,AmazonogGooglebrukerkunstigintelligensforåpåvirke–noenvilsimanipulere –dinepreferanser,ogdeterantattatKI-eralleredeharklart åpåvirkeellersaboterepolitiskevalg.ViharpresidentPutins
ordpåatdensomvinnerKI-kappløpet,vilbliverdenshersker.
Ogdettrengerikkenødvendigvisliggeondehensikter bak.Samfunnetkankollapsefordidenoffentligesamtalenogdermeddemokratietblirvanskeligåopprettholde. IenfelleskronikkidetamerikansketidsskriftetTheAtlanticadvartetidligereGoogle-sjefEricSchmidtogdenkjente sosialpsykologenJonathanHaidtomatkunstigintelligens kangjøresosialemediermyemer«giftige»enndeallerede er.EnstudievedJohnsHopkins-universitetetvisteogsåat chatboter(àlaChatGPT)harmekanismersomforsterker polariseringenifolksmeninger.Liknendeadvarslererkommetforandreområderavdetoffentligeliv,somnyhetsformidlingogpolitiskdebatt.Etfellesproblemhererblant annetatdetnåblirvanskeligereåskillemellomsantog usant.
Sådetermyeåsiomkunstigintelligens.Ogmyevilbli sagt,ellerskrevet,ommuligescenarioersomdeforannevnte: hvordanKIvilpåvirkearbeidsmarkedet,økonomien,denglobalemaktbalansen,sabotasjerellerulykker,kriminalitet,den offentligesamtalenogdermedselvedemokratiet.Ogikkeå forglemme,omalledefantastiskemulighetenesomdennenye teknologienvilgi,ikkeminstforenkeltpersonersomevnerå brukedemispilletpåverdensbørser.Menogsåforallmennheten:Kunstigintelligensskalalleredehabidratttilåfinnepå nyemedisiner,reduserestrømforbrukmedmer.Ikkeminstser politikereforsegathergårdetanåsparepenger,vedåsette innKI-eristedetforbyråkrateroglærere.IOslobestemte skolemyndighetene,nestenovernatten,ådeleutKI-lisensertil skoleneførmanhaddenoenplanomhvadettekunnebrukes til,ellerhvadepedagogiskeeffektenevillevære.Norgesnye digitaliseringsministervarrasktutemedåslåfastat80pro-
sentavoffentligsektorskulletaibrukKIinnenetår.Også herutennoenutredningomnytteogrisiko.
HervilKIbareforsterkeentrendvialleredeharsett,med hastigeinnføringeravuprøvdedatasystemer.INederland haddemanværtskikkeligframtidsrettetogtattibrukkunstigintelligensioffentligsektor,ogetdataprogram(basertpå maskinlæring)plukketrasktuttitusenvisavantattetrygdesvindlere.Mangemistethusoghjempågrunnavanklagene.
Problemetvarbareatdeikkevarsvindlere,detvardataprogrammetsomhaddeværtlittfor«effektivt».Regjeringen måttegå,menfremdeleserdettitusenersomikkeharfått erstattetsinetap.Ogformangeerdetikkemuligåretteopp igjenskaden:Livetdereserkjørtisenk.
DataskandaleniNederland(ellerdenliknendepostskandaleniStorbritannia,derflerehundrepostmestrebleuskyldigdømtforunderslag)serikkeuttilåhagjortnorske myndigheterskeptiske.Deharriktignokbedtjuristeromåse ettereventuellehullilovverketsommåtettesforåsikredet norskesamfunnetmotliknendehendelser,menproblemene medkunstigintelligensstikkermyedypere,ogslårlangt videre,ennatmankangarderesegmednoenreguleringsgrep.Dethandleromåbytteutsamfunnets«nervesystem», utvikletgjennomhundrevisavår,mednoemanverkenhar prøvdutellerforstår.
Detmanforeksempelikketarhensyntil,eratdennye kunstigeintelligensenharalvorligefeilkilderinnebyggeti selvemetodikken.Denerfaktiskikketilåstolepå,dendikteropptingtilstadighet,«hallusinerer»,ogdetteerikke noemanbarekanrettepå.Enavdesomutvikletdenye teknikkene,Turing-prisvinnerenLeslieValiant,sierdetslik: «DetfinnesingenkjentrettferdiggjøringforåfølgeanbefalingerellerantakelsergenerertavenrenLLM[storspråk-
modell,trentoppkunpåspråkdata].Systemersomverken levererprinsipielltenkningellerkildentilinformasjonensom erbrukt,kanværefarligåstolepå.»
Noeannetmanstolerpåvilgågreit,omviskaldømme etterhvorrasktkunstigintelligensblirkastetinniskolen, eråerstattebarnogungesmenneskeligelærereogforbildermedkunstigeintelligenser.Atdettebarevilforsterkeden dokumenterteøkningenideungespsykiskelidelser,konsentrasjonsvanskeroglæringsproblemer,synesåblioverkjørtav ønsketomåsparepenger(håperman)ogfryktenforåbli «akterutseilt»identeknologiskeutviklingen.MensKI-gründerneiSiliconValleyselvsenderbarnasinepåskjermfriesteinerskoler.
DeteringentvilomKIspotensiellenytte,selvomforventningeneomdenKI-genererte«industriellerevolusjonen» antakeligerbetrakteligoverdrevet,omviskaltroanerkjente økonomersomDaronAcemoglu.KIkanlageunderholdning:bilder,videoer,musikk.Denkanogsåbrukestilåutføre myerutinemessigarbeid,somålagerapporter,sammendrag ogliknende,ogkanaltsåerstattemenneskeligarbeidskraft påslikeområder.Denkanantakeligogsåkommemedinnovativeforslagpåendelfelt,somåidentifisereinteressante stofferimedisinellernyematerialerognyegiftstoffertilbruk ikrigføring(ja,detogså).Mendenkanikkebrukessom grunnlagforbeslutningersomdirekteangårmenneskersliv. Ikkebarefordidengjørfeil,menogsåfordidenikkekanforklarehvorfordenbesluttersomdengjør.
Mendettehandlerikkebareomåinnføreenheltnytype risiko,oggjørefeilsomforhåpentligkanrettesopp.Det handleromnoemergrunnleggende–omhvordanteknologienvilendrevilkåreneforvåreksistens.Dethandleromdet spørsmåletdisiplenestilteBuddha:Hvavildetsiåværemen-
neske?Nårmaskinenetarover,ikkebaredefysiskejobbene våre,menogsådementale?Vildetværemuligformenneskerfremdelesåhaetordmedilagetnårviktigeavgjørelser skaltas?VilviidetheletattvitenårdeterenKIelleretmenneskesomtarenbeslutning?Hvavilskjemedvårverdighet sommennesker,omnoenfremdeleseropptattavden?
Deterhelstteknologien,oghvadeneristandtil,visnakkerom.Mentilogmedteknologiensanvendbarhet,hvaden kanogbørbrukestil,hengersammenmedhvavier,oghva somerforskjellenpåmenneskeogmaskin.Ogdeterher samtalenstrander.Fordivisnakkeromnoeviikkeforstår, nemligintelligens,ogderforikkeharklartådefinere,verken dennaturligeellerdenkunstige.Jo,vihardensnevre,instrumentelledefinisjonen,detvimåleriintelligenstester.Eller denendaenklere,somvikanavsløreienTuring-test.
Menegentlighandlerdetommyemer.Livetbeståravså myeannetennåsettesammenordellersnurundtpåtredimensjonalefigurerihodet.Viharprøvdålappepådettemed begrepersom«emosjonell»og«sosial»intelligens,ogpsykologeneprøveråmåleogsådisseegenskapene.Mendettedekkerikkealt.NårdisipleneflokketsegomBuddha,vardet fordihanhaddemeråtilbyennpsykologenekunnemåle, merenndetsomermuligåleggeinniendatamodell.Noevi kankalle Denmenneskeligefaktoren.
Dennyegenerasjonenkunstigintelligensharpåenpåtrengendemåtegjortdetnødvendigåtenkegjennomdette.For detførstefordideterviktigforhvordanviskaltaibruk dennenyeteknologienpåbestmuligmåte.Fordetandreer detkanskjeviktigforhvordanviskaloverleve.Daersteg nummerenatvivethvavisnakkeromnårvisnakkerom «intelligens».Førstdakanvivurderehva–omnoe–som skillerossframaskinene.Ogomdetteerviktig.
Utfordringenfradenkunstigeintelligensenhandlerderfor ikkeførstogfremstomåforståhvordankunstigintelligens fungererrentteknisk,ellerhvilkeknapperviskaltrykkepå. Detersliktvi,ogspesieltdeunge,lærerfort.Vierfødteredskapsbrukere,ogharværtdetheltsidenvivar Homohabilis («dethendigemennesket»)forveltomillionerårsiden.Nei, denvirkeligeutfordringeneråforståvår egen plassidennye verdenen.ForKIermerennetnytthjelpemiddel.KIeren teknologisomvilredefinerehvadetvilsiåværemenneske. Ogherervidårligforberedt.VivetnemliglikelitesomBuddhasdisipleromhvadetersomgjørosstilmennesker.
VIMÅLERDET, MENVETIKKEHVADETER
«Førvikanforståhvordanviskaperintelligens, vildethjelpeåforståhvadetteer.»
StuartRussell
Tilåværeetordviikkekanenesomnoenbetydningav,er detutrolighvormyevihargjortutavbegrepet«intelligens».
Spesieltnå,når kunstig intelligenserpåalleslepper,menogså førdette,bådeidagligtaleogipraksis:Overheleverdenhar skoleeleverogrekrutterblittmåltpånoeviikkevethvaer, mensomlikevelharbestemtlivsløpetformange.Dethar stengtutdanningsveierogsendtfolkpåinstitusjoner.Faren tilPoulNyrupRasmussen,tidligerestatsministeriDanmark, måtteforeksempelkreveåfåtattennyintelligenstestforå blikvittdetoffisiellestempletsom«åndssvak».
Selvdebesteresultaterpåintelligenstestereringengaranti foretgodtliv.ChrisLangan(fødtiSanFranciscoi1952)blir ofteomtaltsom«verdensmestintelligenteperson»,meden måltIQpå210.Menhanslivharværtpregetavmotgang, fordihanikkeklarteåpasseinnisystemetellerdetsosialeliv. Hanmåtteavbryteutdanningenfordihanikketakletstudiesituasjonen,ogharderforværttvungettilåtatilfeldigejobber,blantannetsomanleggsarbeiderogdørvakt.Mensnoen avverdensstørstegenier,somfysikerenRichardFeynman, harhattIQ-målingerpåheltnormalenivåer.
Historienomintelligensmålingerstartetegentligtilforlatelig.Daskolegangbleallmennogobligatoriskfrasmåbarnsalderen,begyntemanåtestebarnforetsammensattsettmed evner.Formåletvaråseomdevarskolemodne,ellermåtte fåetspesielttilbud.DeførstetestenevarutvikletavAlfred Binettidligpå1900-tallet,påoppdragfradenfranskeregjeringen.MenBinetselvsåikkepå«intelligens»sometenhetligfenomensomkunnemåles.Dennetolkningenvarnoe somoppstoiUSA.Etterhvertbledetvanligåantaattestenemåltenoemankunnekalle«generellintelligens».Ingen definerteellerforklartehvadetteskullevære,annetennen evnetilåtakleetmangfoldavintellektuelleutfordringer.Det varspesieltenartikkelavCharlesSpearman,somutfrastatistiskeanalyseravtestdatamenteåkunneidentifisereen «grunnleggendefunksjon»somalledisseintellektuelleaktivitetenehaddetilfelles,densåkalteG-faktoren,somgjorde dennetolkningenvanlig. Mendettevarkunetstatistisk grep,utennoenkognitivforklaring.Likeveloppleverviidag atmansnakkerom«generellintelligens»iforbindelsemed kunstigintelligens,sometmålnoenårframitid.
Målingenefortsatte,rundtomiheleverden,ogbleogså bruktpårekrutter.Mendetvarfremdelesingensomkunne sannsynliggjøreellerforklareatdetfantesen«generellintelligens».I1994fikkdenamerikanskepsykologforeningen lagetenrapportsomskulleavklaredette,mendenkonkludertemedatmanikkekunnefinnenoegenereltbegrepom «intelligens».Ifølgerapportenvardetslikat«datodusin prominenteteoretikereblespurtomådefinereintelligens,ga detodusinulikedefinisjoner».
Hellerikkefordetnyerebegrepet«kunstigintelligens»har detværtmuligågiengoddefinisjon,ogihvertfallingen somharholdtsegovertid.DaAlanTuringlanserteideen,be-
gyntehanmedåskriveatbegrepersom«tenkning»og«intelligens»varvanskeligådefinere,ogathanderforhellerikke selvvilleforsøkepådette.Ideførsteåreneavdenkunstige intelligensenshistorie,bruktemanordetomaltdetdatamaskinerdengang ikke varistandtilågjøre–oppgavermed enkognitivvanskelighetsgradsomdavarforbeholdtmenneskene.Detvilsidetmeste,utenomreneregneoppgaver.
Menpå2000-tallet,damaskinlæringovertokfor«klassisk KI»,bledefinisjonensnuddpåhodet.Nåvardetplutselig hvadatamaskiner kunne utføresomblekalt«kunstigintelligens».Entotalsnuoperasjonsombareharværtmuligfordi manharmangletengodforklaringpå,ogenadekvatdefinisjonav,intelligens.Vierstatterentypeintelligensviikkeforstår,medenannentypeintelligensvihellerikkeforstår.Og håperpådetbeste.
Detkankanskjehøresmerkeligutåpåståatviikkevethva intelligenser.Erikkedettenoefilosoferogpsykologerhar studertutoginn,ihundrevisavår?Jaognei.Ja,fordidet alltidharværtnoensomharfundertpåhvaviegentliggjør nårvitenker.Mennettoppdetåprøveåforståhvavigjør nårviprøveråforstå,åtenkesegtilhvatenkningegentlig er,blirsomåbitesegselvihalen.Ogfilosofenesargumentervarlengeforrensynsingåregne.Såmensnoenfilosofermentetankenfungerterentlogisk,atdenfulgtelogikkens regler,bareforstyrretavfølelseneitideogutide,menteandre atdetnettoppvarfølelsene,ellervåropplevelseavvirkeligheten,somvardetprimære,mensdenrasjonellefornuftenvar noevipyntetvårekonklusjonermedietterkant(detvikaller «rasjonalisering»).Utenatvikomnoenærmereenforståelse avhva«intelligens»er.
Deterførstinyeretidattenkningogintelligenserblitt tilgjengeligforempiriskforskning.Foreksempelharpsyko-