Algoritmenes makt
KOMMENTAR: Bente Kalsnes om kommunikasjon
Algoritmer har blitt så integrert i hverdagen at vi knapt merker det. Nyhetsstrømmen på Facebook, søkeresultater fra Google, anbefalinger på Netflix eller Amazon, aksjehandel, miljøovervåkning eller militære droner – alle er de styrt av algoritmer.
Algoritmer kan beskrives som steg-for-steg sekvenser av operasjoner som skal løse spesifikke oppgaver/beregninger – også kalt en presis beskrivelse av en endelig serie operasjoner som skal utføres for å løse et eller flere problemer.
I datavitenskapen blir algoritmer definert som en beskrivelse av metoden for hvordan en oppgave skal løses. Algoritmene skal gjøre det enklere å sortere og finne informasjon som er relevant – algoritmene hjelper oss rett og slett å velge.
Algoritmenes innflytelse
Det er ikke tvil om at algoritmer har makt, men hvordan? Flere forskere har jobbet med å dekonstruere algoritmenes innflytelse.
Cheney-Lippold skriver at algoritmenes kraft ligger i deres evne til å skape kategorier. Mennesker og ting blir plassert i kategorier, og algoritmene skaper assosiasjoner mellom kategoriene ved å kombinere aspekter ved verden som de er blitt programmert til å se.
I mange tilfeller trengs det ikke store data («big data») for å lese mønster i menneskelig adferd, men detaljerte metadata som en algoritme er programmert til å relatere.
Disiplinerer hva du gjør
Førsteamanuensis Mike Ananny ved USC Annenber skriver om hvordan algoritmenes bruk av kategorier kan disiplinere adferd. Ved å anbefale et søk, standardisere en brukers nettadferd og foreslå et kjøp, ligger det implisitte, algoritmiske vurdering om hvilke søk, nyhetsartikler eller kjøp som sannsynligvis bør komme neste gang.
Din forhistorie på nettsiden, personer med lignende adferd som deg, og forhåndsdefinerte kategorier, disipliner adferden vår i en algoritmebasert verden. Ananny skriver at algoritmene styrer fordi de har makten til å strukturere muligheter. De definerer hva slags informasjon som skal være inkludert i en analyse, og algoritmer handler raskere enn mennesker rekker å tenke og forstå.
En annen forsker, Philip Napoli, mener vi må forstå algoritmer som institusjoner fordi de har makt til å strukturere adferd, påvirke preferanser, guide forbruk, produsere innhold og signalisere kvalitet.
Algoritmenes påvirkninger blir ikke mindre i norske offentlighet når norske medier nå har begynt å publisere direkte på Facebook via Instant Articles uten å gå innom eksempelvis dagbladet.no. Kortere lastetid på artikler og annonsesalg via Facebook appellerer sterkt til norske medier, men også internasjonale aktører som New York Times, Washington Post, The Guardian, Time og Buzzfeed. Dermed får Facebook enda større påvirkning i distribusjonen og formidlingene av journalistikk i hele den vestlige verden.
Hva slags etikk baserer algoritmene seg på?
Men hvor mye makt har algoritmene? Og hva slags etikk er algoritmene basert på? Og trengs det etiske retningslinjer for algoritmer (og utviklerne som står bak dem)?
Flere røster har fra forskjellige kanter tatt til orde for at algoritmene må granskes mer kritisk enn de gjøres i dag. Det er ikke nytt at ny teknologi påvirker samfunnet rundt seg, det er heller ikke nytt at det utvikles retningslinjer for å påvirke denne utviklingen.
Kate Crawford, anerkjent forsker ved Microsoft Research, har sagt at da profesjoner som leger og advokater fikk økt makt i samfunnet, ble det utviklet etiske regler de måtte følge. Tenk bare på den hippokratiske eden som nyutdannede leger avlegger. På musikk- og teknologikonferansen SXSW i 2015 sa Crawford at teknologi og teknologer nå har så stor makt at det er på tide å vurdere etiske retningslinjer for algoritmer.
Hva skjer når mennesker mister kontrollene over algoritmene og uskyldige mennesker dør eller blir økonomisk ruinert som et resultat av maskinlærte droner eller finansalgoritmer? Når menneskenes makt over maskiner blir utfordret, har behovet for retningslinjer oppstått, og det finnes blant annet egne etiske retningslinjer for utvikling av roboter, såkalt roboethics.
Hemmelige algoritmer
Vanligvis er algoritmene hemmelige, uten innsyn for utenforstående på grunn av forretningssensitive informasjon. Googles «svarte boks» (black box) er hemmelig for at konkurrenter og operatører av nettsider ikke skal påvirke og manipulere søkeresultatet.
Vi kan finne ut hvilke data som kommer inn og hva som kommer ut (stimulus-respons), men vi vet ikke hvordan den «hemmelige sausen» eller algoritmene er satt sammen.
Ashtan Soltani, sjefsteknolog i Federal Trade Commission i USA (FTC) har tidligere sagt at transparens i algoritmene er blant hans hovedsatningsområder. FTC jobber for å skape rettferdighet i handelen, og Soltani er opptatt av å forstå og rette opp i skjulte fordommer i algoritmene for å unngå et «black box-samfunn».
Griper inn i lommebøkene våre
Før Soltani tiltrådde i FTC, var han reporter i Wall Street Journal og avslørte blant annet hvordan rekvisita-kjeden Staples prisdiskriminerte kundene sine basert på hvor de bodde.
En innebygd algoritme i Staples’ nettsider ga rabatter til kunder som bodde nært konkurrerende butikker, og straffet dem som bodde lengre unna. Staples-historien er et eksempel på hvordan algoritmer kan gripe inn i livene og lommebøkene til folk. Forsikring, banktjenester, helse og jobbmarkeder er andre områder hvor fordomsfulle algoritmer kan få store utslag.
Kan brukes til å forutse kriminalitet
I Norge har Teknologirådet utarbeidet en rapport om «forutseende politi», hvor holdningen er at det er bedre å avverge kriminalitet enn å reagere i ettertid. Her gis det betinget støtte til å ta i bruk datasystemer for bedre å kunne forutse kriminalitet.
Håkon Wium Lie, Operas teknologi-direktør som er medlem i Teknologirådet, mener rapporten burde problematisert politisk kontroll over algoritmer. Man kan tenke seg at press fra ulike aktører kan påvirke algoritmene uten at dette er gjort til gjenstand for en faglig eller politisk vurdering.
Et eget manifest med etiske retningslinjer for algoritmer er allerede utformet av klimaforskere. Under konferansen Transformations 2015 i Stockholm gikk en gruppe med forskere sammen om det de kalte «The Biosphere Code«, et manifest for algoritmers rolle i samfunnet. Algoritmer har lenge vært en del av miljøforskningen, men hullet i ozon-laget som satellitter avdekket på 1980-tallet, ble oversett i nesten et tiår på grunn av datamaskinens algoritme.
Sju prinsipper om hvordan algoritmer kan hjelpe oss
Ifølge forsker Victor Galaz forsinket det responsen på en av de mest alvorlige miljøkrisene i menneskenes historie. «The Biosphere Code Manifesto» har derfor sju prinsipper som handler om hvordan algoritmer kan beskytte og styrke jordas økosystem og menneskenes liv i en usikker fremtid.
De sju prinsippene er (min oversettelse):
- Med stor algoritmisk makt kommer et stort ansvar.
- Algoritmer bør være til tjeneste for menneskehetene og biosfæren som helhet.
- Fordelene og ulempene ved algoritmer bør fordeles rettferdig.
- Algoritmer bør være fleksible, tilpasningsdyktige og kontekst-avhengige.
- Algoritmer bør hjelpe oss å forutse det uventede.
- Algoritmebaserte data bør være åpne og meningsfulle.
- Algoritmer bør være inspirerende, lekende og vakre.
Er det på tide at algoritmene kommer ut at den svarte boksen og at vi stiller etiske krav til dem?
Det er vanskelig å se for seg hvordan etiske retningslinjer for algoritmer skal håndteres og håndheves, nettopp fordi algoritmer er komplekse og ugjennomtrengelige, og de er personlig tilpasset, de fungerer som portvakter for informasjon, og de tar avgjørelser.
Altså, algoritmene gjør livene våre enklere, samtidig som vi trenger å vite hva de gjør og hvordan de tar beslutninger.
Centre for Internet and Human Rights peker særlig på tre områder der retningslinjer for algoritmer kan være hensiktsmessige: transparens, varslinger og direkte reguleringer. Både norske medier, forbrukermyndigheter, finansmyndigheter og ikke minst oss brukere, for å nevne noen, har interesse av at makten og etikken i algoritmene granskes.
Referanse:
Artikkelen er publisert som kommentarartikkel i Agenda Magasin 25. mars 2016.
Tekst: Førsteamanuensis Bente Kalsnes, Institutt for kommunikasjon ved Høyskolen Kristiania.
Foto: Algoritmer er en del av hverdagen vår. Illustrasjonsbilde. Photo by Myriam Jessier on Unsplash.
