Visste om smittsomme selvmordsbilder – Instagram gjorde ingenting

NRK avslørte nylig et skjult nettverk på Instagram. Hundrevis av norske jenter deler bilder og video av selvskading, selvmordstanker og gjentatte selvmordsforsøk.

Minst 16 unge jenter knyttet til dette miljøet har på få år tatt sitt eget liv.

En av disse var Andrine (17). Hun la ut på bilder og film av alvorlig selvskading og gjentatte selvmordsforsøk på sin skjulte konto. Og til slutt sitt eget selvmord. Tre måneder etter at NRK publiserte de første sakene om det skjulte nettverket og Andrine, lå innholdet fortsatt på plattformen.

Dette skjedde til tross for at Instagram hadde fått vite om brukernavnet på på Andrines konto. Til tross for at innholdet på den var skadelig for andre og i strid med selskapets egne regler.

Fjernet 100 innlegg

For noen dager siden tok NRK kontakt med Instagram og spurte hvorfor kontoen fortsatt var full av skadelig innhold. Da startet ryddejobben umiddelbart. I løpet av bare noen timer fjernet Instagram rundt 100 innlegg med alvorlig selvskading. De fjernet også flere bilder og meldinger Andrine delte med nettverket den siste kvelden hun levde.

Instagram vil ikke svare på hvorfor de ikke har moderert innholdet før nå. Selskapets kommunikasjonssjef i London, Sinead Purcell, skriver i en e-post til NRK:

«Vi svarer ikke på spørsmål om moderering av individuelle kontoer».

Instagram sa, i et tidligere intervju med NRK, at de må få vite om skjulte kontoer i nettverket hvis de skal kunne moderere eller stenge dem. Til tross for at de altså har visst om Andrines hemmelige konto i flere måneder, fjernet de ikke skadelig innhold før NRK tok kontakt igjen.

Mammaen til Andrine, Heidi Tårnes, er sjokkert over Instagram. At de ikke har fjernet de mest skadelige bildene på datterens konto.

– Dette skulle de gjort for mange måneder siden. Hvis noen skader seg eller forsøker å ta sitt eget liv, fanger de det ikke opp. Men hvis noen blotter en halv brystvorte er det borte på et blunk. Jeg forstår ikke Instagrams krenkelsesnivå, sier hun.

Tips og støtte

Dersom Instagram oppdager skadelig innhold, for eksempel selvskading eller selvmordstanker, kan de sende meldinger direkte til kontoene. Brukerne får blant annet telefonnumre til forskjellige hjelpelinjer, men også råd om hvordan de selv kan få det bedre.

NRKs avsløring om det skjulte nettverket avdekket at minst 500 norske jenter er en del av miljøet. Instagram vil ikke svare på hvor mange av de andre kontoene de nå har moderert eller hvor mange av jentene som har fått tilbud om hjelp.

Fjernet ikke selvmordsmetode

Modereringen til tross. Instagram har ikke fjernet alt på Andrines konto.

Svært brutale bilder av hvordan 17-åringen tok sitt eget liv ligger fortsatt ute. Instagram svarer heller ikke på spørsmål om hvorfor ikke selvmordsmetoden er fjernet.

Til slutt stengte selskapet hele kontoen til Andrine for nye følgere.

Brutte løfter

I et intervju med BBC i februar i fjor sa toppsjefen i Instagram, Adam Mosseri, at skadelig innhold skal bli vanskeligere å finne. Han lovte blant annet at det ikke skal bli anbefalt videre til andre brukere på Instagram. Mosseri sa han ville vurdere sin egen stilling i selskapet hvis dette ikke kom på plass.

Ett år har gått, men Mosseri sitter fortsatt godt på toppen av det mektige selskapet.

NRK har gjort nye undersøkelser på innsiden av det skjulte nettverket og kan avdekke at anbefalingene bare fortsetter.

Unge jenter som nylig har delt selvmordstanker eller forsøk på å ta sitt eget liv blir fortsatt anbefalt videre til andre sårbare.

For eksempel: Ei jente går inn og ut av psykiatrisk behandling. Hun deler metoder for selvskading og konkrete planer om å ta sitt eget liv. Hun blir anbefalt videre til andre brukere med liknende mørke profiler samtlige ganger NRK sjekker.

Hyppige anbefalinger

Jentas konto er bare en av en mengde kontoer som Instagram anbefaler hyppig. Av de 100 kontoene som blir anbefalt oftest i det skjulte nettverket NRK har avdekket, er det bare fem som ikke er knyttet til nettverket. Det vil si: Har du en av de lukkede, mørke kontoene i nettverket, sørger Instagram for at du nesten utelukkende får forslag om å følge andre potensielt skadelige kontoer.

Jo mørkere kontoen din er, jo mørkere innhold anbefaler selskapet. Slik sørger Instagram for at nettverket blir opprettholdt og bygges videre.

Instagram sier til NRK at de har økt antall ansatte som jobber med å sikre plattformen til 35000. De understreker at maskinlæring, som skal finne og fjerne skadelig innhold, er under stadig utvikling.

Martin Ruby, som er ansvarlig for retningslinjer i Facebook Norden, skriver til NRK:

«Våre tanker går til dem som rammes av dette. Vi har investert i team og teknologi. Og vi har gjort flere endringer i våre retningslinjer for å trygge plattformen mot skadelig innhold. Vi tester nå ny teknologi i andre deler av verden, som skal kunne finne slikt innhold, og vi ser nå på hvordan vi kan få denne teknologien på plass i Europa.»

Millionbøter

Ifølge britiske medier kan selskaper som Instagram og Facebook risikere enorme bøter i framtida.

I forbindelse med innføringen av nye personvernregler, har britene utviklet en rekke nye regler for å beskytte barn og unge fra skadelig innhold på nett. Ifølge en av reglene, som er utviklet av det britiske Information Commissioner’s Office (IOC), skal plattformene beskytte mot:

«Innhold som åpenbart er skadelig for barns velvære (...), for eksempel pro-selvmord, pro-selvskading, pro-spiseforstyrrelser og innhold som beskriver eller fremmer skadelig oppførsel av barn».

Dette innebærer at selskaper som Instagram kan bli anmeldt dersom de ikke stanser for eksempel teknologi som skyver skadelig innhold mot unge brukere. De nye reglene blir trolig vedtatt av det britiske parlamentet før sommeren.

Reglene legger for første gang et større ansvar over på teknologiselskapene. De har hittil selv styrt om og hvordan de beskytter barn på nett.

Britiske medier skriver at bøtene for skadelig innhold kan bli så høye som 17 millioner pund. Det er mer enn 200 millioner norske kroner.

Utvalg i Norge

I Norge har regjeringen satt ned et utvalg som skal utrede tiltak for å beskytte barn mot skadelig eksponering i elektroniske medier. Utvalget skal legge fram forslagene sine til sommeren.

En ny ytringsfrihetskommisjon skal også blant annet se på elektroniske plattformers rettslige ansvar for ulovlig og skadelig innhold på sosiale nettverk.

– Hvilke konkrete tiltak som kommer ut av dette er for tidlig å si. Men dette er et tema som regjeringen tar på største alvor. Det dreier seg i bunn og grunn om å sikre barn gode oppvekstvilkår, sier statssekretær Knut Aastad Bråten i Kulturdepartementet.