9789180577779

Algoritmensom förstörde

Eric Fullertons liv

TotteJonsson Algoritmen

somförstörde

Eric Fullertons liv

©2024Totte Jonsson

Illustration:Totte Jonsson

Förlag:BoD –BooksonDemand, Stockholm, Sverige Tryck: BoD– BooksonDemand, Norderstedt, Tyskland

ISBN:978-91-8057-777-9

Tillminaföräldrar

somtrots denkampmed tillvaron de utkämpade, kärleksfullt gavmig ettbra liv.

Del 1 City

Lily bläddradetillbakai systemloggenengångtill. Med stigande förvåningläste hontextavsnittetomoch om igen; försökte ta in vaddet varsom egentligen stod där. Närhon komtillden avgörande passagen stannade hontilloch lät ögonensvepa över denflera gånger.Systemloggenberättade på sitt torra sätt vadsom hade hänt ochdet varoerhört.

På ettsättvar detnästanför braför attvarasant, mendet värsta varatt detvar sant ochdet betydde attdet varför sant föratt vara bra. Detvar isjälvaverketintealls bra.

Lily restesig från stolen ochgickett parvarvrunti rummet. Hongickframtillfönstretsom vetteutmot gården ochställde sigmed händernaknäpptabakom ryggen ochsåg ut motutsikten. På långthållkunde honsemuren som omgärdadeheladet jättelikaområdesom ifolkmun kallades ”Den förbjudna staden”, en slagshistorisk referens somLily inte kunde redogöranärmare för. Områdetvar ettkomplex av hundratals byggnader,endel höga somskyskrapor,andra låga ochsmå somuthus,bodar förutrustningsom behövdes föratt sköta om kvarterets vägar, gräsmattor, byggnader och annatsom fanns innanför muren.

Från tolfte våningen på systembunkerndär Lily hade sitt driftskontor,kunde honseutsiktenoch få dagsljus tack vare

attjusthenneskontorvar ettavdefåsom hade fönsteri just denhär byggnaden.Det varintealla föräratbland demsom ansvaradeför utvecklingen av City.

Lily togett parriktigt djupaandetagför attförsöka lugna nersig ochsamla ihop sigtillräckligtmycketför atttatag i dethon nu visste atthon måstegöra. Honhadeförutsett det här, sett möjlighetenatt detkunde hända.Hadehon inte till ochmed tagitupp detvid någottillfälle,att de behövdevara vaksamma,varaförsiktigaoch hålla koll på utvecklingen?

Ingenlyssnadeförstås.

Mennuskulle de nog blitvungna till deti alla fall. Lily var långtifrån säker; även denhär gången skulle de anse att kostnadernaskulle bliför stora. Detblevdealltid.Och den härgångenskulle de ha rätt:kostnaderna föratt backaminst tvåsystemgenerationermed City skulle blistora.Men kostnadenavatt inte göra detgickinteatt överskatta.

Lily måsteför sitt eget försvarvidta någraåtgärder. Hon hade förberettdem längeoch planerat ochberäknatdet noga. Egentligen hade honnog inte trottatt detskullebli aktuellt attverkställadet,men nu vardet uppenbarligenså. Hon vågade inte väntalängre. Attdet förmodligen skulle få katastrofala effekter på hennes karriär somchefsutvecklare på City,det varhon helt införstådd med. Så fick detväl bli, men honkunde inte bara låta dethär fortgå utan attgöranågot.

Lily sattesig på nytt vidkontrollerna ochsatte igång.

En halvtimmesenarelutadehon sigtillbakapåstolenoch stirrade tomt på skärmenframför sig. Nuvar detgjort.Nu fanns detbaraensak attgöra: ta upp situationenmed ledningenoch försökaavstyra alltihop ellerlåtakarriären gå upp irök ochseframemotett livsom nollad.

Lily svepte medhandenöverbordsytan föratt väcka kommunikatorn.

”Dialog:”, sa hontydligt.”Kontakta VD.”

”Kontaktar VD”, svaradeenmjukmen opersonlig röst från ingenstans ochöverallt. Efter en stund etableradesframför Lily en bild av en ung ochmörkhårig manmed skäggstubb ochsvarta, intensivaögonsom mötte hennes blickstabilt och självsäkert.

”JahaLily?”, sa mannenuppfordrande somomhennes kontaktbegäran kommit olägligt,vilketden givetvis alldeles säkert också gjort.

”Ja, ursäkta”,mumlade Lily utan attegentligenmenadet. ”Men detärangeläget.”

”Okej. Du sägeratt detärangeläget.Fåhöra.”

Lily harkadesig ochstabiliserade sinröst: ”Jag tror attvi behöverbacka tvågenerationermed City.Minst två, menvi börjar meddet,såfår vi se hurlångt deträcker.”

Denmörke Vd:n vekinteett ögonblickmed ögonenmen funderade längeinnan hansvarade.

”Jaha?”sahan efterenstund.”Du menaratt vi skall slänga bort åtminstone tvåkalenderåroch en sisådärtretusen mantimmars arbete –barasådär?”

Lily bestämde sigför attstå på sig, inte visa någon instabilitet:”Just precis.Jag inseratt detför medsig en del kostnaderförstås …”

”Jaså, en delkostnader?” Vd:n skrattadenästantillmen sansadesig snabbt:”Jo jagtackarjag …” fortsatte hanmen kundeintedölja ettsmått överlägset leende.

Lily visade ingenreaktionpåkommentaren utan fortsatte lugnt: ”Men kostnadenför attintegöradet gårinteatt överblicka.Deriskeraratt bliastronomiska.”

Mannenvek fortfarande inte medblicken menfunderade en stund medanhan tycktesläsaLilys ansikte: ”Men du måste förståsberätta förmig vari dennakostnad kommer attbestå. Vadärdet somärsåuppenbartproblematiskt medCityatt detåstundarenkatastrof om vi inte backar tvågenerationer?”

Lily måstefundera.Hon ångradeatt honintegåttigenom argumentationennoggrannare medsig självinnan hontog denhär kontakten.

”Vihar inte haft någotuppföljningsmöte sedanden senaste uppgraderingen.I alla fall inte somjag hardeltagiti.”

Mannensåg ut attdra litepåmunneni ettdiskret leende: ”Självklartinte, Lily.Några sådana mötenskulle vi givetvis inte genomförautandig.Duärjuchefsutvecklare.Det är du väländå inte orolig för?”

”Nej,nej.Det är jaginte, jaguttrycktemig bara lite …eh, slarvigt.”

”Nåja, fortsätt”,saVd:noch lutade sigbekvämt bakåt.

Lily rätade på sigi stolen.”Ja,för om vi hade haft det, eller rättare sagt, närvihar det, så kommer jagatt kunnaredovisa en förbättringavalgoritmernai Citysoptimeringsom är den störstaförbättringvinågonsingjort.”

Vd:n sågförvånatpåLilyenstund innanhan bekymrat rynkadepåögonbrynenoch de mörkaögonentycktes bli ännu svartare:”Jaha,Lily. Denstörsta förbättringsom vi någonsin gjort? Förlåtmig,men iminaöronlåter detsom någotmycketbra.Men du tycksmenaatt detärett problem?”

Lily drog efterandan ochtog sats:”Ja,det är ettproblem därför attdet inte varjag,eller någonannanpåavdelningen somstodför den.”

De mörkaögonenstirrade oförståendepåLily.

”Hur menardu?”

”Jo, så härärdet:Cityförbättrar hela tidensinaalgoritmer –den lärsig ochförbättrar siggenom sina erfarenheter av hur stan fungerar –hur de beslut denfattarpåverkarstadens funktioner ochsåvidare. Hittills harvijobbatmed detsom kallas RLHF –’Reinforced Learning with HumanFeedback’, alltså våra utvecklarehar gett återkoppling på detsom City lärsig ochpådet sättet styrthur City utvecklas. Mennuhar jagupptäckt attden harbörjatgåförbi detsteget– City har

liksomstrukit HF-delen.Den harutvecklat förmåga till egen datamärkning,den utökar självmantsin förmåga.City skapade sinsenaste uppdatering,utanvår inblandning.Ingen av osspåavdelningen lågbakom den, inte isjälva konstruktionen ochintei införandet. Inte ensi beslutet att införa den. City gjorde detsjälv –påegetbevåg.”

Detblevmärkbarttystenlångstund. Vd:n verkademållös.

Bra, tänkte Lily.Det verkar somdet härtog.Han förstårvad dethär betyder.

”Men detärjufantastiskt”, utbrastmannenplötsligt ochde mörkaögonentycktes ljusna fleranyanser.”Vi haralltså ett system somärtillräckligt avanceratför attutvecklasig självt –förbättrasig självt.Hur kandet vara ettproblem?Lily–berätta:hur kandet vara ettproblem?”

Lilysaxlar sjönk neruppgivet.”Herr VD:Jag har analyserat algoritmen,förbättringarna. De är –ska vi säga, mycket komplicerade.Jag ochnågra medmig harsuttitoch försöktsevad detärCityhar gjort, mendet gårinte. Det enda vi vetäratt detfungerarotroligtbra.Cityhar gjort någotsom vi själva förmodligen aldrig skulle klaraavatt göra. Ja,ursäkta –det taremotatt erkänna detförstås,men så är det.”

”Ah”, vinkadeVd:navvärjande.”Då kommer vi snartatt ha världens bästaoptimeringssystem föratt styraoch administrera vårstad. Utan attvibehöver ansträngaoss.Det är välfantastiskt?” De mörkaVd-ögonen tycktessträcka ut sig motLilyför attinhämta medhålloch bekräftelse. Han fortsatte entusiastiskt: ”Vikommeratt bliden bästastani världenpåatt hanteraresurseroch livsmiljöpåett så effektivt sätt sommöjligt.Och samtidigtfår medborgarnadet ännu merbekvämt ochbehagligt.Det är välfantastiskt?”

Lily tuggade sammanbitetpåläpparna: ”Men bordeviinte vara angelägna om attvetahur City gör?”

Vd:n slog ut medarmarna: ”Det somräknasärresultatet, Lily.Resultatärvad somräknas. Vi blir bäst.Citysjälv kommer attsetillatt vi blir det.”

Lily bestämde sigför attinteargumentera mer. Detvar uppenbartatt detintetjänade någontingtill. Honrös närhon insågatt de mått ochsteghon vidtagit innanhon kontaktade Vd:n skulle kommaatt behövas.

Detgicktilloch medfortare än honföreställtsig.Redan senare sammadag hade detbörjathända sakerpå bloggosfären.Flera inlägg togupp Lilyskaraktärsom person. Varhon verkligenheltpålitlig? Varför levdehon ensam, utan familj?Visst vardet så attdet taladesomenövergiven familj någonstans?Hon hade en högpostpåCitymen nu hade hon visstbörjatmissbruka sinställningför egen vinning. Lite mixtrande medlönesystemeteller nåtsånt– toghon ut mer betalt än honvar berättigadtill? Kunde en person medsådan tveksamvandelverkligen vara kvar somansvarigför utvecklingen av City?

Lily loguppgivet försig självnär honskummadeigenom kommentarerna.

City hade inlett sitt försvar.

Därmedvar hondömd.

Lily packadeihopsinaprivata sakerpåkontoretoch stängdeavalla kontrollpaneler. Hondrogigenaxelväskan ochhängdepåsig deninnan hongickut. Närdörrentill kontoret stängdes bakomhenne vände honsig om en extra gång,som föratt säga adjö.Hon visste atthon inte skulle kommatillbakanästa dag.

”Vises igen City –var så säker”,mumlade honför sigsjälv närhon vände sigomoch gick. Livetsom nollad hade börjat.

Eric ställdesig vidpanoramafönstretoch tittadeutöver tomten nedanför därenperfekt klippt grässläntsträckte sig etttrettiotal meterner motenflodsom saktaflötförbi,bred ochmäktig. Längre bort,påandrasidan floden,reste sig någrablänkande skyskrapor upp mothimlenbakom en vackertgrönbarriär av lövträdnärmast flodstranden. Morgonsolenkastade de första reflexerna ideblanka fasadernamedan detmilda röda ljuset idiset saktaövergicki fullt dagsljus.Ericsträcktepåsig belåtet. Hanhadeanledning attvaranöjd; husetsom de bodde ivar av detmer luxuösa slaget även om detintevar överdrivet stort, menläget intill flodenvar fantastiskt, åtminstone iErics ögon. Detvar inte längesedan de lyckatskomma upp iden sociala grad som krävdesför attkunna skaffa sigett husi dethär området, och Eric hade ännu inte hunnitbli vanvid det.

Stunden vidpanoramafönstret varendel av Erics morgonrutin– en stunds kontemplationöverutsiktenoch tillvaroninnan detvar dags förhusan Aliciaatt meddelaatt frukostenvar serverad.

Sambon Livå sinsidaskulle kommasläntrande nerfrån sovrummetförst närEricsattsig ochfåttförstakoppenkaffe tillsammansmed ettglasjuice,serveradavAlicia. Detvar ett arrangemangsom Eric inte hade någotemot. Attfåstå försig självoch se ut över omgivningengav tillfälle till begrundan ochmånga gånger påmindehan sigomatt vara tacksamför denprivilegieradetillvarohan hade.

”Varsågodherrn”, bjöd Alicia närfrukostbordet vardukat. Eric vände sigomoch togsin platssamtidigt somAliciasatte fram kaffetoch juicen på bordet.När hongicktillbakaini köketvände honsig lite ismygomenextra gång motEric ochdröjdekvarmed blickenpåhansrygg, medanhan,genom en svepning medhandendrogframmorgonens nyheterpå läsbordetsom startatautomatiskt så snart hansattsig.

”Tack”, sa Eric ochsatte kaffekoppen till munnen medan hanbörjade läsa.Aliciaförsvannleendeinmot köket.

Eric skannade av denblandning av texter ochbildersom projicerades på bordsytanframför honom. Medjämna mellanrumgjordehan en ny svepande rörelsemed handen föratt bläddraframnästa notis. Efter en stundförde han samman båda händernaovanför läsbordetoch fördedem rakt uppåtför attsedan draisärdem ochföradem utåt åt varsitt håll, somomhan iluftenmed händernaritat tvåhalvcirklar vända motvarandra. Gesten fick läsbordetatt på måfå presentera någranya notiser hämtadefrånslumpvisvalda intresseområdensom mycket välkunde ligga utanförhans aktiva modell. Detvar en litenegenhet Eric lagt sigtillmed på senare tid. Varjegånghan gjorde det, såghan sigsnabbt ochliteoroligt omkringinnanhan återvände till läsningen–välmedvetenomatt hanmed sitt tilltagriskerade attstöra de algoritmer somkämpade medatt förutsägavad han egentligen varintresserad av –varje morgon.Ericfannstort nöjei detmen dethadeenbaksida:CityMediasförutsägelser ochförslag hade medtiden blivit alltmerrörigaoch utan någonriktigtrådsom gick attfölja.Effekten blev attden bekvämlighet detgav attfå”rätt”nyheter presenterade varje morgon,sakta mensäkertavtog.

MenEricfortsatte –för hanhadeinsettatt hanfannett stortnöjei attstöra City Medias algoritmer.

En stund senare komLiv gående nedför trappan, gäspande ochfortfarande inattdräkt medenmorgonrocksvept om sig. På någotkonstigtsättsåvar honändå redanperfekt iansikte ochhår.Liv varvackeroch honvissteomdet ochdessutom nogamed attdet skulle framgå även vidfrukostensförsta möte meddagen –omdet så bara varEricoch Alicia somsåg det.

”GomorronAlicia”,sahon medtrött röst ochsatte sigpå platsenvid sitt läsbordmedan honströk undanenhårtest från ögonbrynen. Bordet varredan igångoch hennes nyheter presenteradesmed text ochbild.

Alicia stod längre in iköket ochgjordesom de flesta med normala ellerlågasaldon: honhämtade sinnyhetsuppdatering från denlinjära utsändningen av bild ochljudfrånCityMedia.

Attläsatexti eget tempooch efteregetval (delvis),var en lyxsom bara folk medhögre saldon kundekosta på sig. När honhörde attLiv kommit nergickhon föratt hämta kaffekannan.

Närhon satteframLivskaffe strökLiv saktahandenöver hennes.Aliciasvarade medett osäkertoch kort leende medan honkastade en orolig blickåtErics håll.Sedan drog hon hastigtborthandenoch gick föratt förberedatallrikarna med energigröt somdebådaskulle serveras efterkaffetoch juicen. Livsåg längeefter hennenär hongickoch slängdesedan en kort blickmot Eric somsattförsjunkeni nyhetsläsningen –utan fler bubbelspräckande gester.

En tyst ochresigneradsucksmögsig ut ur Livinnan hon togenklunk av kaffet ochlät blickenvandraöversina nyheter.

Eric sågplötsligt uppfrånläsningen ochbetraktadeLiv en stundmed en mjuk blick: ”Har du sovitgott, Liv?”

”Mm”,svarade Livutanatt se uppfrånbordet.

Eric betraktade hennetystett ögonblick innanhan fortsatte.”Jagockså.Tackarsom frågar.”

Livlutadesig lite fram över läsbordetoch tycktesförsjunka längre neri nyheterna. Eric logosäkert ochåtergicktillsin läsning.

”Några spännande ärendenpågångidag?” undradeEric försiktigt efterenstund iett nytt försök attfåigång ettslags frukostsamtal.

Livläste vidare på sinbordsytaenstund mensvarade sedan medenfrånvarande röst:”Vi fårväl se,kanske fårvibesluti ettfallidag.”

”Jaha?”Ericlät nästan förvånad över attfåett så pass uttömmande svar från Liv: ”Får manfråga vaddet gäller?” fortsatte hanuppmuntrad.

Livruskade,fortfarande frånvarande,påhuvudet:”Detär ingetsärskilt,baraenmedborgaresom känner sigorättvist behandlad av City.”

Eric svalde en ny klunkavkaffet. ”Påvilketsättdå?”

Livtittade förovanlighetens skullupp från bordet ochsåg nästan på Eric medanhon talade.”Ja –enganskaintrikatsak egentligen:Hon harfåttavdragpåsaldot– försaker somhon rimligen inte kanlastasför.”

Sedanriktade honblicken åt sidanoch tystnade,men Erics nyfikenhet varväckt.”Vaddå?”

Livsåg motEricigen. ”Enkeltuttryckt:hon harändrat livsstil,och detberor isin turpåändradelivsförhållanden… enkelt uttryckt.”

”Fickhon avdrag på saldot fördet?Det låterverkligen hårt …”

Livlyfte kaffekoppen somför atttaenklunk menhejdade sighalvvägs. ”Citys drog slutsatsen atthon medden ändrade livsstilen riskeraratt få sämrehälsa,hon tarenhögre hälsorisk helt enkelt,och detgillade inte City.”

Eric satteifrån sigsin kaffekoppoch torkadesig om munnenmed en servett. ”Jaha, kommer du attvinna målet? Fårhon tillbakasin status?”

Livladehuvudet lite på sned.”Nja, meni varjefallkan vi nog minska avdraget,tillatt börjamed.”

Eric sågbekymradut. ”Men är detintelitehårtatt draav fördet därmed livsstil,omhon inte rårför detegentligen?”

Livsuckade.”Rårför ochrår för, helt oskyldig är honnog inte –det är de ju aldrig,men detärhårt, javisst– detär

City är ettavancerat system som medhjälp av artificiell intelligens övervakaroch styr densmartastaden. City följer ochövervakar medborgarnas dagligaliv ochlär sigpådet sättetalltmer om alla enskildaindividersbehov ivarje ögonblick.Pådet sättetkan City planera tillvaron förvar ochenoch få livetatt flyta bekvämtoch smärtfritt varjedag. Menmänniskornabedömsockså av City ochvarje handling resulterar iplus- eller minuspoäng på ettsocialt konto.

Eric ochLiv Fullertonärett framgångsriktpar sombor iett av stadens merfashionablakvarter.Ericär filosofiprofessorpåuniversitetet ochLiv advokatpåenbyråsom specialiseratsig på atthjälpamedborgaresom fått problem medatt ha blivit missbedömda av City.

Eric ochLivsbostadkallasVilla Grapeoch ihushålletfinnsockså hembiträdetAlicia.

En dagfår Eric dåligåterkopplingfrån studenterna på en illa förberedd föreläsningvilketsnabbtkommenteras på bloggosfären.För detfår hanen reprimandavsin närmaste chef menäven detallseende City reagerar medatt ge Eric avdrag på detsociala kontot.Fögaanar Eric attdet är början på en snabb, algoritmstyrdoch automatisk resa ner motsamhällets absoluta botten

Totte Jonsson, född 1958 i denlilla hälsingebynViken, utanförAlfta,ärnumerabosatt iGävle.Tillvardags arbetar hansom lärare vidHögskolan i Gävledär hanundervisar i digitala verktyg för visualisering.

Förutomromaner skriverhan ocksånoveller. Författandet kretsaroftakring samhällsaktuella ämnensåsom AI, DNA-manipulationmed mera.

Läsmer på hans blogg totte.me