Algoritmens makt

Facebook, Google, Netflix – alle bruker algoritmer for å hjelpe deg å velge. Er det på tide at vi stiller etiske krav til dem?

Skjermbilde 2016-05-19 kl. 23.59.26

(Article for the online magazine Agenda Magasin about algorithms and ethics).

Algoritmer har blitt så integrert i hverdagen at vi knapt merker det. Nyhetsstrømmen på Facebook, søkeresultater fra Google, anbefalinger på Netflix eller Amazon,aksjehandel, miljøovervåkning eller militære droner – alle er de styrt av algoritmer.

Det er ikke tvil om at algoritmer har makt.

Algoritmer kan beskrives som steg-for-steg sekvenser av operasjoner som skal løse spesifikke oppgaver/beregninger – også kalt en presis beskrivelse av en endelig serie operasjoner som skal utføres for å løse et eller flere problemer. I datavitenskapen blir algoritmer definert som en beskrivelse av metoden for hvordan en oppgave skal løses. Algoritmene skal gjøre det enklere å sortere og finne informasjon som er relevant – algoritmene hjelper oss rett og slett å velge.

Det er ikke tvil om at algoritmer har makt, men hvordan? Flere forskere har jobbet med å dekonstruere algoritmenes innflytelse. Cheney-Lippold skriver at algoritmenes kraft ligger i deres evne til skape kategorier. Mennesker og ting blir plassert i kategorier, og algoritmene skaper assosiasjoner mellom kategoriene ved å kombinere aspekter ved verden som de er blitt programmert til å se. I mange tilfeller trengs det ikke «big data» eller store data for å lese mønster i menneskelig adferd, men detaljertemetadata som en algoritme er programmert til å relatere. Mike Ananny skriver om hvordan algoritmenes bruk av kategorier kan disiplinere adferd. Ved å anbefale et søk, standardisere en brukers nettadferd og foreslå et kjøp, ligger det implisitte, algoritmiske vurdering om hvilke søk, nyhetsartikler eller kjøp som sannsynligvis bør komme neste gang.

Tenk bare på den hippokratiske eden som nyutdannede leger avlegger.

Din forhistorie på nettsiden, personer med lignende adferd som deg, og forhåndsdefinerte kategorier, disipliner adferden vår i en algoritmebasert verden. Ananny skriver at algoritmene styrer fordi de har makten til å strukturere muligheter. De definerer hva slags informasjon som skal være inkludert i en analyse, og algoritmer handler raskere enn mennesker rekker å tenke og forstå. En annen forsker, Philip Napoli, mener vi må forstå algoritmer som institusjoner fordi de har makt til å strukturere adferd, påvirke preferanser, guide forbruk, produsere innhold og signalisere kvalitet.

Algoritmenes påvirkninger blir ikke mindre i norske offentlighet når norske medier nå har begynt å publisere direkte på Facebook via Instant Articles uten å gå innom eksempelvis dagbladet.no. Kortere lastetid på artikler og annonsesalg via Facebook appellerer sterkt til norske medier, men også internasjonale aktører som New York Times, Washington Post, The Guardian, Time og Buzzfeed. Dermed får Facebook enda større påvirkning i distribusjonen og formidlingene av journalistikk i hele den vestlige verden.

Men hvor mye makt har algoritmene? Og hva slags etikk er algoritmene basert på? Og trengs det etisk retningslinjer for algoritmer (og utviklerne som står bak dem)? Flere røster har fra forskjellige kanter tatt til orde for at algoritmene må granskes mer kritisk enn de gjøres i dag. Det er ikke nytt at ny teknologi påvirker samfunnet rundt seg, det er heller ikke nytt at det utvikles retningslinjer for å påvirke denne utviklingen.

Vanligvis er algoritmene hemmelige.

Kate Crawford, anerkjent forsker ved Microsoft Research, har sagt at da profesjoner som leger og advokater fikk økt makt i samfunnet, ble det utviklet etiske regler de måtte følge. Tenk bare på den hippokratiske eden som nyutdannede leger avlegger. På musikk- og teknologikonferansen SXSW i fjor sa Crawford at teknologi og teknologer nå har så stor makt at det er på tide å vurdere etiske retningslinjer for algoritmer. Hva skjer når mennesker mister kontrollene over algoritmene og uskyldige mennesker dør eller blir økonomisk ruinert som et resultat av maskinlærte droner eller finansalgoritmer? Når menneskenes makt over maskiner blir utfordret, har behovet for retningslinjer oppstått, og det finnes blant annet egne etiske retningslinjer for utvikling av roboter, såkalt roboethics.

Vanligvis er algoritmene hemmelige, uten innsyn for utenforstående på grunn av forretningssensitive informasjon. Googles «svarte boks» (black box) er hemmelig for at konkurrenter og operatører av nettsider ikke skal påvirke og manipulere søkeresultatet. Vi kan finne ut hvilke data som kommer inn og hva som kommer ut (stimulus-respons), men vi vet ikke hvordan den «hemmelige sausen» eller algoritmene er satt sammen.

Ashtan Soltani, den nye sjefsteknologen i Federal Trade Commission i USA (FTC) har sagt at transparens i algoritmene er blant hans hovedsatningsområder. FTC jobber for å skape rettferdighet i handelen, og Soltani er opptatt av å forstå og rette opp i skjulte fordommer i algoritmene for å unngå et «black box-samfunn». Før Soltani tiltrådde i FTC, var han reporter i Wall Street Journal og avslørte blant annet hvordan rekvisita-kjeden Staples prisdiskriminerte kundene sine basert på hvor de bodde. En innebygd algoritme i Staples’ nettsider ga rabatter til kunder som bodde nært konkurrerende butikker, og straffet dem som bodde lengre unna. Staples-historien er et eksempel på hvordan algoritmer kan gripe inn i livene og lommebøkene til folk. Forsikring, banktjenester, helse og jobbmarkeder er andre områder hvor fordomsfulle algoritmer kan få store utslag.

I Norge har Teknologirådet nylig levert en rapport om «forutseende politi», hvor holdningen er at det er bedre å avverge kriminalitet enn å reagere i ettertid. Her gis det betinget støtte til å ta i bruk datasystemer for bedre å kunne forutse kriminalitet. Håkon Wium Lie, Operas teknologi-direktør som er medlem i Teknologirådet, mener rapporten burde problematisert politisk kontroll over algoritmer. Man kan tenke seg at press fra ulike aktører kan påvirke algoritmene uten at dette er gjort til gjenstand for en faglig eller politisk vurdering.

Algoritmer bør være inspirerende, lekende og vakre.

Et eget manifest med etiske retningslinjer for algoritmer er allerede utformet av klimaforskere. Under konferansen Transformations 2015 i Stockholm gikk en gruppe med forskere sammen om det de kalte «The Biosphere Code«, et manifest for algoritmers rolle i samfunnet. Algoritmer har lenge vært en del av miljøforskningen, men hullet i ozon-laget som satellitter avdekket på 1980-tallet, ble oversett i nesten et tiår på grunn av datamaskinens algoritme. Ifølge forsker Victor Galaz forsinket det responsen på en av de mest alvorlige miljøkrisene i menneskenes historie. «The Biosphere Code Manifesto» har derfor sju prinsipper som handler om hvordan algoritmer kan beskytte og styrke jordas økosystem og menneskenes liv i en usikker fremtid. De sju prinsippene er (min oversettelse):

  • Med stor algoritmisk makt kommer et stort ansvar
  • Algoritmer bør være til tjeneste for menneskehetene og biosfæren som helhet
  • Fordelene og ulempene ved algoritmer bør fordeles rettferdig
  • Algoritmer bør være fleksible, tilpasningsdyktige og kontekst-avhengige
  • Algoritmer bør hjelpe oss å forutse det uventede
  • Algoritmebaserte data bør være åpne og meningsfulle
  • Algoritmer bør være inspirerende, lekende og vakre

Er det på tide at algoritmene kommer ut at den svarte boksen og at vi stiller etiske krav til dem?

Det er vanskelig å se for seg hvordan etiske retningslinjer for algoritmer skal håndteres og håndheves, nettopp fordi algoritmer er komplekse og ugjennomtrengelige, og de er personlig tilpasset, de fungerer som portvakter for informasjon, og de tar avgjørelser. Altså, algoritmene gjør livene våre enklere, samtidig som vi trenger å vite hva de gjøre og hvordan de tar beslutninger.

Centre for Internet and Human Rights peker særlig på tre områder der retningslinjer for algoritmer kan være hensiktsmessige: transparens, varslinger og direkte reguleringer. Både norske medier, forbrukermyndigheter, finansmyndigheter og ikke minst oss brukere, for å nevne noen, har interesse av at makten og etikken i algoritmene granskes.

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s