Algoritmer og Facebook – et krasjkurs med Taina Bucher
Av Hannah Sigriddatter Ander
Taina Bucher er førsteamanuensis ved institutt for medier og kommunikasjon ved Universitet i Oslo. Bucher har blant annet skrevet bøkene If…Then: Algorithmic power and politics (Oxford University Press, 2018) og Facebook(Polity Press, 2021).
Av Hannah Sigriddatter Ander, redaksjonsmedlem i Gnist.
I takt med at vår avhengighet av internett og sosiale medier for å få hverdagslivet og samfunnet til å gå rundt har økt, har også kritikken av hva dette gjør med oss og vårt samfunn, økt. Men hva kritiserer vi egentlig om når vi kritiserer algoritmer og det ur-sosiale mediumet Facebook? Gnist har fått et krasjkurs med Taina Bucher, ved institutt for medier og kommunikasjon ved Universitet i Oslo.
Hva er egentlig algoritmer – helt enkelt forklart?
En algoritme kan defineres som et sett med instrukser – en slags oppskrift – som gir en fullstendig og nøyaktig beskrivelse av en fremgangsmåte for løsning av en beregningsoppgave.
Men ikke alle typer algoritmer kan helt uten videre beskrives som et regelbundet system. De aller fleste algoritmene vi snakker om i dag, er basert på maskinlæring, som er en spesialisering innen kunstig intelligens. I stedet for at en programmerer definerer reglene og betingelsene på forhånd, bruker maskinlæring statistiske metoder for å la datamaskiner lære selv, blant annet ved å eksponeres for et treningssett. Gjennom repetisjon blir maskinen gradvis bedre til å finne mønstre i store datamengder. Mens regelbaserte algoritmer er en slags oppskrift, er maskinlæring mer en fremgangsmåte for å lage selve oppskriften.
I min egen internetthverdag tenker jeg på algoritmer de gangene det dukker opp reklame på Facebook eller Instagram. Er det noen mindre åpenbare eksempler på algoritmer som preger hverdagen vår?
Alt du gjør og ser på nettet, er styrt av algoritmer. Du kommer ikke utenom algoritmer, fordi de er selve grunnsteinen for all databehandling. Internett kjører på algoritmer. All søking på nett er algoritmestyrt. At e-posten din finner frem, er takket være algoritmer. Alle appene på telefonen din er ikke annet enn algoritmer. Videospill er algoritmisk historiefortelling. Nettdating og musikkanbefalinger er basert på algoritmer. Bruker du et digitalt kart for å finne veien fra A til B, er dette også takket være algoritmer.
I de aller fleste tilfeller tenker vi ikke over at våre digitale opplevelser er styrt av algoritmer. Det er altså ikke slik at algoritmer per definisjon er problematiske, slik det kanskje ofte fremstilles i mediene. Det å ha en kritisk forståelse av algoritmer handler om å vite litt hva som gjør dem problematiske i noen tilfeller, og tilsynelatende uproblematiske og nyttige i andre tilfeller. Jeg tror fremstillingen av algoritmers styring av hverdagen kunne hatt godt av å bli nyansert.
Hva tenker du er det største politiske problemet med algoritmer, slik de fungerer i dag?
Med stordata, maskinlæringsmodeller og bedre prosessorevne er det en hel del beslutningsprosesser i samfunnet som bruker algoritmer på en måte som ikke er like gjennomsiktig lenger. Her kan det også med fordel diskuteres hvor gjennomsiktige institusjonelle prosesser noensinne har vært. I USA og Storbritannia, der den meste av denne forskningen kommer fra, er store deler av offentlige og private beslutningsprosesser allerede mer eller mindre automatiserte – innen alt fra helsevesenet, rettsvesenet, arbeid, velferd og utdanning. I Norge er det uvisst hvor utbredt algoritmiske beslutningsprosesser er i det offentlige, og det er nok ikke helt i nærheten av de maskinlæringsbaserte systemene som eksisterer andre steder. Igjen, det å bruke automatiserte modeller til å støtte og styre en beslutning om hvem som eksempelvis skal få tildelt velferdsgoder, er ikke i seg selv problematisk, men kan fort bli det dersom det ikke finnes gode muligheter for ettersyn og innsikt av beslutningsgrunnlaget i etterkant, som generelt er en grunnleggende utfordring ved maskinlæring eller foranderlige algoritmer.
Et annet politisk problem er algoritmers påvirkning på informasjonsflyt, demokrati og offentlig tilknytning. Det er ikke nødvendigvis slik at det er algoritmene til Facebook som har skapt sosial ulikhet, hatytringer, desinformasjon, ekstremisme eller polarisering, slik det noen ganger fremstilles. Vi skal altså være forsiktige med altfor for lettvinte årsaksforklaringer.
Et positivt aspekt med Facebooks algoritmer er kanskje nettopp at de har vært med på å synliggjøre grunnleggende strukturelle problemer. Det amerikanske samfunnet har alltid vært dypt splittet, og den strukturelle rasismen har vært et gjennomgående problem. Sosiale mediers synliggjøring av dette forholdet har gjort at problemene kommer på dagsorden for folk flest.
Samtidig er det heller ikke slik at algoritmene ikke kan klandres i det hele tatt. Det at problemene ikke startet med Facebook, betyr ikke at Facebooks algoritmer ikke har vært med på å forsterke noen av disse tendensene. Problemet er at så lenge Facebooks algoritmer og forretningsmodell er optimalisert mot «engasjerende innhold», og dette engasjementet er definert som antall klikk, kommentarer, emojis og andre lignende signaler, så vil sensasjonspreget og følelsesfremkallende innhold prioriteres. Dessverre er det slik at det som fremkaller sterkest følelser og reaksjoner hos mennesker, ofte er det som er mest kontroversielt, sjokkerende, og polariserende.
Hvem tjener de største pengene på dette? Og helt konkret, hva tjener de penger på?
Facebook tjener så godt som alle pengene sine på å selge annonser. 98 % av inntjeningen i 2020 kom fra annonsesalg i Facebook og Instagram appene, mens 2 % kom fra andre kanaler, som salg av VR-headsettet Oculus, og Portal, en smartskjerm for videosamtaler. Facebook selger ikke sånn sett brukerdata videre, det er mer utspekulert enn som så. Facebook fungerer selv som et slags reklamebyrå. Brukerdataene forblir i Facebooks økosystem, og det man betaler for som annonsør, er et forhåndsdefinert og tidsbegrenset utvalg av denne dataen.
Hva slags informasjon er det vi uvitende «selger» når vi bruker internett generelt, og Facebook mer konkret? Hvem er de største kjøperne av informasjon om oss på internett?
Dataindustrien er relativt kompleks og består av mange forskjellige aktører. Facebook og Google er selvsagt noen av de aller største aktørene. Igjen, disse selskapene selger ikke brukerdata videre, men tilbyr tredjeparter begrenset tilgang på dataene, uten at disse dataene behøver å bevege seg ut av plattformene deres. Det ville vært en dårlig forretningsmodell for Facebook å miste kontrollen over dataen ved å gi slipp på den ved salg og lagring andre steder.
Facebook gir altså tilgang til måltilpassede egenskaper fra et aggregert sett av brukerdata. Det man segmenterer på, er blant annet brukernes selvrapporterte demografiske informasjon og handlinger på plattformen. Frem til midten av 2018, tilbydde Facebook annonsører å sammenstille personopplysninger Facebook selv hadde samlet inn, med opplysninger tilbudt fra datameglere. Datameglere er selskaper som spesialiserer seg på å samle så mye data som mulig om enkeltpersoner, for å selge videre eller dele denne informasjonen med andre. Informasjonen som datameglere samler inn, er ofte svært omfattende og inkluderer demografi, interesser, atferd, verdier, kjøpshistorikk og en rekke andre variabler, fått for eksempel fra lojalitetskort fra diverse butikker med kjøpshistorikk.
Selv om Facebook fjernet denne muligheten for å sammenstille tredjepartsinformasjon med sine egne data, lever datameglerbransjen i beste velgående. Dette er en multimilliardindustri tuftet på å selge forbrukernes og borgeres personlige detaljer. Datameglerfirmaer er mellomledd og helt sentrale for det sosialpsykologen Shoshana Zuboff kaller overvåkingskapitalisme – kjøp, aggregering og ompakking av data fra en rekke selskaper, alt med sikte på å selge eller distribuere det videre.
Brukes denne informasjonen først og fremst til å få solgt oss ting, eller er det også mange kjøpere av vår informasjon som har andre hensikter?
Med datameglerindustrien som utgangspunkt, er det mange ulike kjøpere av personlig data. Et firma som Acxiom promoterer seg med at de sitter på over 10 000 «dataattributter» til 2,5 milliarder mennesker, fra informasjon om billån til reisepreferanser. Dette nivået av datainnsamling og aggregering muliggjør bemerkelsesverdig spesifikk profilering.
Ta for eksempel et etablert selskap som Oracle, som mange nok forbinder med IT og programvareutvikling. De har sin egen datainnsamlingsvirksomhet og har over årene bygget sin portefølje ved å kjøpe opp selskaper som DataRaker, Compendium og Crosswise. Disse selskapene henter data fra en rekke kilder. DataRaker henter data fra millioner av smartmålere og sensorer for energiselskaper, mens Compendium leverer målrettede annonser. Crosswise lar Oracle spore folk på tvers av enheter, og hevder å behandle data fra milliarder av enheter hver måned. I tillegg kjøpte Oracle opp Datalogix i 2014, som kobler sammen offline-kjøp til online-profiler. I tillegg kombinerer Oracle datasett fra mer enn 75 andre datameglere.
Det er langt fra bare kommersielle interesser i denne dataindustrien. I USA benytter for eksempel sikkerhetsdepartementet seg av dataene levert fra ulike dataleverandører. De har blant annet kjøpt posisjonsdata fra mobiltelefoner og hjemadresser som datastøtte til deportasjoner.
Du har nylig skrevet en bok, Facebook. Selv om Facebook de siste årene er utfordret av andre sosiale medier, og mange sier at ingen bruker Facebook lenger, mener du at Facebook aldri har vært mektigere. Og at for å forstå Facebook sin makt i politikken og kulturen, må vi utfordre måten vi tenker om hva Facebook er. Hva er egentlig Facebook?
Det jeg mener er at Facebook, er mye mer enn sosiale medier eller en plattform. Facebook er Facebook. Det kan virke banalt å si, men er overraskende vanskelig å holde fast ved. På samme måte som Google ikke lenger beskrives som en søkemotor, men som et fenomen som står for mer enn det å søke på nettet, blir det å beskrive Facebook som et av mange sosiale medier for upresist, nærmest uriktig. For i løpet av det siste tiåret har det gradvis blitt tydeligere hvor lite sosialt Facebook egentlig er, og hvor mye mer av det «galaktiske» og «uregjerlige» som i stadig større grad er definerende for dette selskapet.
Det å kalle Facebook et sosialt medium er både en sterk overdrivelse og en underdrivelse. Ikke er det særlig sosialt, om man ved «sosialt» forstår noe á la «selskap med andre mennesker». Men først og fremst er det en underdrivelse fordi begrepet «sosiale medier» bidrar til å dekke over en rekke egenskaper, relasjoner og praksiser som man ikke nødvendigvis «får med på kjøpet» ved å bruke den nå ganske så utvannede sekkebetegnelsen.
På mange måter er sosiale medier et begrep som henger igjen i en tid man hadde større tro på nettets demokratiserende og inkluderende potensialer. De tidene er definitivt forbi, eller har i beste fall, tatt seg en ordentlig pause.
Når jeg ble forespurt av forlaget om jeg ville skrive en bok om Facebook, var også min instinktive reaksjon litt som spørsmålet ditt virker å insinuere: «Facebook, er det ikke litt 2010?». Argumentet mitt er at slike spørsmål og innvendinger er et resultat av et syn som sidestiller Facebook med kategorien «sosiale medier», og da kan det fort virke ubetydelig. Samtidig må vi ikke glemme at det å ta utgangspunkt i oss selv, et ganske avgrenset og privilegert geografisk område, ikke er talende eller representativt for resten av verden. I mine intervjuer med brukere fra Myanmar og Etiopia, bare for å nevne noen, kommer det ganske klart frem at for noen er Facebook alt. Men hovedpoenget er at den utvannede begrepsbruken gjør noe med tankesettet og det kritiske blikket vårt. Ved ikke å stille helt grunnleggende spørsmål om hva Facebook egentlig er for et fenomen – og ta det for gitt at det faller inn under samme kategori som Twitter eller TikTok – stenger vi for andre typer spørsmål eller helt nye analyser.
Facebook er mange forskjellige ting, ikke bare en sosial nettverkstjeneste. Facebook er også et spillselskap, et hardware-selskap, en verdensomspennende infrastrukturleverandør, et globalt reklamebyrå, og et av de fremste forskingsmiljøene på utviklingen av kunstig intelligens.
Hvis vi skal prøve å tenke litt stort og visjonært: Hva kan et demokratisk, trygt og ikke-kommersielt «internett» være?
Dette er jo en gjenganger som ingen virker å ha et godt svar på. For det første eksisterer det mange alternative sosiale medier med helt andre forretningsmodeller enn den datadrevne reklamemodellen. Men ingen av dem er spesielt mainstream, for å si det sånn. Hovedproblemet er manglende nettverkseffekter. Det er ekstremt vanskelig å få en kritisk masse av brukere. Bare tenk på den overhypede appen Clubhouse tidligere i år. Rent historisk er Internett, eller Arpanet som det het den gangen, et resultat av militære og forsvarstekniske interesser. Utviklingen var motivert i å sikre en sikker kommunikasjonskanal i tilfelle atomkrig, som på 1980-tallet gradvis ble demokratisert i den forstand av at det i all hovedsak ble et nettverk tatt i bruk av akademia. Først på 1990-tallet ble det gradvis åpnet for privat og kommersiell bruk i form av World Wide Web (det som gjerne sidestilles med begrepet internett i dag, men som egentlig handler om webben).
Jeg må innrømme at jeg synes det er vanskelig å forestille fremtidige konkurransedyktige modeller for nettet (som helhet), som ikke på en eller annen måte er skrudd sammen som en digital markedsplass. Uansett hvordan man vrir og vender på det, så koster videreutviklingen av internett en masse penger. Uten inntjeningspotensiale, er det vanskelig å forestille seg andre modeller for majoriteten av brukere. Bare tenk på Mark Zuckerberg og Facebooks seneste stunt med Meta(verset). For å kunne realisere denne ekstremt naive og utopiske tredimensjonale virtuelle virkeligheten, kreves det ikke bare mer båndbredde, prosessorkraft og lagring, men også en helt ny investering i hardware (spesielt utvikling av headset).
Det finnes allerede gode alternative modeller, desentraliserte nettverk, Tor, og alternative sosiale nettverk. Men, det er likevel ganske nisje, for spesielt interesserte, for utvikleren, for aktivisten, for de lysskye med noen ganger tvilsomme hensikter osv. Hvis vi er interesserte i en bærekraftig modell for allmennheten, og det burde vi jo være, så ser jeg ikke helt løsningen. Når det er sagt, så er en annen verden alltid mulig. Vi burde ikke gjøre samme feilen igjen med å la Facebook, eller Meta, bli styrende for hvordan fremtiden ser ut. Hvis Zuckerberg klarer å koke opp en fremtidsmodell basert på en sci-fi roman fra 1990-tallet, burde vel vi også klare å forestille oss en annen verden.