En terrorist livestreamede sin massakre, og techgiganternes robotredaktører svigtede endnu en gang

20. marts 2019

Terroristens egen video af massakren i New Zealand spredte sig på kort tid til adskillige fora på nettet, og selv om Facebook påstår, at kun 200 brugere har set den, er det reelle tal langt højere. Robotredaktørerne har ikke fuld kontrol, skriver mediejournalist Lasse Jensen i dette debatindlæg.

Tirsdag hævdede Facebook, at kun 200 brugere havde livestreamet Moské-massakren i New Zealand, som blev optaget af det kamera, som den australske terrorist havde fastspændt på sin hjelm.

Han havde forannonceret, at den ville komme, og på få minutter var videoen at finde på Facebooks søsterselskab Instagram. Med samme hastighed blev videoen herefter delt på Googles videotjeneste YouTube, tusinder kunne finde det på Reddit (der har 330 millioner brugere), hvor undertjenesten »watchpeopledie« (se folk dø, red.) spredte dødsvideoen.

Reddit stoppede undertjenesten, hvor en af de såkaldte moderatorer havde forklaret, at når man ser mennesker dø, er det »ufiltreret virkelighed«. Videoen og manifestet huserede en overgang også på Twitter.

I løbet af et par timer havde videoen – og terroristens rablende 74 sider lange ’manifest’ – spredt sig som en virus på snesevis af andre websites, herunder 8chan, en webside, der har millioner af brugere, hvis forgænger 4chan blev lukket, fordi den spredte børnepornografi.

Reguleringsproblem

Selv om de helt store drenge i techindustrien, Facebook og Google, efter en time eller to begyndte at lukke videoen ned, var skaden sket. Det var ikke kun de påståede 200 facebookbrugere, som så videoen. Tallet er ukendt, men der er tale om flere hundredtusinder.

Søndag kunne Washington Posts teknologiredaktør, Craig Timberg, og hans reporterhold konkludere i en længere artikel, at »disse firmaer – nogle af de rigeste og teknologisk mest avancerede i verden – fejlede i at standse spredningen af dette dybt foruroligende indhold, da det sendte sine metastaser ud over hele verden på utallige platforme.«

I artiklen i Washington Post citeres dataforskeren Becca Lewis fra Stanford University (der ligger i Silicon Valley) for, at techfirmaerne har et »grundlæggende problem med at regulere indholdet, et problem så stort, at det ligger uden for deres kontrol.

De finansielle interesser gør, at indholdet og de penge, man tjener på det, kommer i første række«. Andre eksperter påpeger, at voldeligt indhold netop skaber stor trafik.

Når nettet oversvømmes, kan man bygge hurtige dæmninger, men de holder ikke alt vandet tilbage. Flere medier brugte klip eller stillbilleder fra videoen. Startende med Murdoch-kanalen Sky News Australia. Også Murdochs The Sun i Storbritannien brugte billeder fra den.

Da algoritmerne gik til kamp mod videoen, gik begavede slyngler i gang med at ændre dens tekniske sammensætning (format, billedhastighed, farvesætning etc.), så algoritmerne ikke kunne genkende den.

Formålet var at sprede den yderligere. Ikke nødvendigvis af sympati for den australske massemorder, men fordi der både var en syg hackerglæde ved bare at kunne gøre det, men også fordi flere klik og brugerminutter øgede trafik og profit.

Ineffektive robotredaktører

Den videofilmede Christchurch-massakre markerer endnu en milepæl i ikke bare den moderne terrorismes udvikling, men også i mediernes.

At der er traditionelle medier som The Sun, Sky News Australia og Daily Mail, som gang på gang overtræder etiske grænser, er en ældgammel nyhed. Det er heller ikke breaking news, at internettet og dets sociale medier er globale og fungerer som eneste nyhedskilde for flere og flere.

Vi ved også, at der ikke er ansvarshavende redaktører på sociale medier, søgemaskiner og verdens største tv-selskab YouTube. Men indtil nu troede vi måske, at algoritmerne, robotredaktørerne, var effektive som en slags robotredaktører. Det er de langtfra. Det er de menneskelige kontrolfaktorer heller ikke.

Facebook har indrettet en slags »kontrolfabrikker«, hvor hundreder af underbetalte, overarbejdende, stressede unge mennesker skal forsøge at agere redaktører, hvilket journalisten Casey Newton beskrev i en reportage i The Verge i februar.

Og så er der de kræfter, der mener, at lovmæssige forbud mod netindhold er en knægtelse af ytringsfriheden.

Men for hver netskandale styrkes de politiske kræfter i Europa og USA, som ser mere og mere kritisk på techselskabernes magt- og pengekoncentration. Der er dog fortsat lang vej endnu – hvis der overhovedet findes en løsning.

Information
Jensen Media
Jensen Media
Bredgade 25D
1260 København K
Tlf.: 33 69 61 85
Lasse Jensen
mobil.: 22 17  72 01
Denne e-mail adresse bliver beskyttet mod spambots. Du skal have JavaScript aktiveret for at vise den.

© 2010-19 Jensen Media
All rights reserved

Vi har 16 gæster online