Waarom verspreidt misinformatie zich snel via Twitter?

Als je The Social Dilemma hebt gezien, weet je dat sociale platforms erop zijn ingericht om onze aandacht vast te houden. De Netflix-documentaire gaat ook in op de verspreiding van misinformatie. Tristan Harris werkte als Google Design Ethicist bij Twitter: “Uit een MIT-onderzoek kwam dat nepnieuws op Twitter zes keer sneller verspreidt dan echt nieuws. Hoe ziet die wereld eruit? Bij COVID zien we een extreme versie van wat er gebeurt in ons informatie-ecosysteem.”

Voormalig werknemer van Facebook, Sandy Parakilas, vertelt: “We hebben een systeem gecreëerd dat verkeerde informatie voorstelt. Niet omdat we dat willen, maar omdat valse informatie bedrijven meer geld oplevert dan de waarheid. De waarheid is saai.”

De impact en kracht van nepnieuws blijkt ook uit onderzoek van de datajournalisten van Pointer. Zij ontdekten onlangs dat ruim vijftig anonieme Twitter-accounts schadelijke en onjuiste berichten over het coronavirus in Nederland hebben verspreid. Een aantal daarvan is later door Twitter opgeschort of tijdelijk beperkt.

Sociale media maken het makkelijk om misinformatie te verspreiden. Student Technische Bestuurskunde aan de TU Delft, Yves van Engelen, onderzocht hoe je de impact van misinformatie kan verminderen door de kritische betrokkenheid van de gebruiker te vergroten. “De kritische betrokkenheid van de gebruiker ontbreekt op dit moment vaak. Maar daar kunnen de gebruikers zelf niet veel aan doen. De design features, bijvoorbeeld het algoritme en de vormgeving van Twitter zorgen er namelijk nu voor dat je minder kritisch gaat nadenken.”

Twitter hecht in het huidige design veel waarde aan toegankelijkheid. “Iedereen kan erop, iedereen kan, al dan niet anoniem, delen," zegt Van Engelen. "En het is gratis. Dat zorgt ervoor dat misinformatie sneller verspreidt. Een andere waarde van Twitter is snelheid. Het is een realtime platform. Het is een wedstrijd wie het eerst iets heeft gepubliceerd, zeker in tijden van onzekerheid.”

Van Engelen ziet hoe de gebruiker continu wordt aangemoedigd om te retweeten, reageren of andere interactie te laten plaatsvinden. “Het vinkje om te delen staat altijd in beeld. En je hebt de zogenoemde infinite scroll, oftewel scrollen zonder dat er een eind aan komt. Daardoor consumeer je meer informatie dan je zou willen. Het algoritme zorgt er ook voor dat jij, in plaats van het meest recente bericht, juist het bericht ziet waarvan het platform denkt dat jou het meest aanspreekt. De berichten zijn in lijn met denkbeelden die jij al hebt. Je wordt door deze filterbubbel minder kritisch, blijkt uit verschillende onderzoeken.”

Van Engelen focust zich in zijn onderzoek op de verantwoordelijkheid van wat mensen delen. Twitter hanteert volgens Van Engelen bepaalde waarden, net als andere platformen. Dat zijn de eerder genoemde snelheid en toegankelijkheid, maar ook verantwoordelijkheid is daar een belangrijk onderdeel van. “Er moet een soort omslag komen van hoe platformen hun waarden in hun design, de vormgeving en algoritme, laten terugkomen. Ze kunnen mensen stimuleren om te denken: ‘Ga ik dit delen? Is dat relevant?’” 

“Ik heb vooral gekeken naar wat sociale media-platformen zelf in hun design kunnen veranderen om kritisch denken bij de gebruiker te stimuleren. Je zou voor het delen een pop-up kunnen inbouwen met ‘dit bericht is nog niet geverifieerd met andere bronnen. Weet je zeker dat je het wilt delen'. Of: ‘Je hebt de link van dit bericht niet geopend, wil je niet eerst het artikel lezen voordat je het deelt’. Zo maak je mensen bewuster van het feit dat ze wellicht misinformatie delen.”

Om verspreiding van nepnieuws over de Amerikaanse presidentsverkiezingen harder aan te pakken, voert Twitter later deze maand grote veranderingen door. Het wordt gebruikers tijdelijk moeilijker gemaakt om berichten met nepnieuws viraal te laten gaan, zo lezen wij bij NOS Nieuws. Gebruikers kunnen niet zomaar berichten over de verkiezingen retweeten, maar worden aangespoord om er een eigen opmerking of context aan toe te voegen. Twitter stelt daarnaast geen berichten meer voor op basis van de interesse van de gebruikers en de activiteit rondom accounts die ze volgen. Zo zien ze alleen berichten van accounts die ze daadwerkelijk volgen.

Wanneer mensen iets proberen te verspreiden wat Twitter als onwaar heeft gemarkeerd, krijgen ze een waarschuwing dat ze op het punt staan onjuiste informatie te delen. Misleidende tweets van politici en campagneteams, en Amerikaanse accounts die meer dan 100.000 volgers hebben, krijgen een waarschuwingslabel en beperkingen. Oproepen om verkiezingsresultaten te beïnvloeden en aanmoedigingen tot geweld worden verwijderd.

Maar niet alleen een ‘gezonder’ design kan helpen om nepnieuws tegen te gaan. Internist en CEO van het University College London Hospitals, Marcel Levi, schrijft in een column voor Het Parool dat hij wel een toekomst ziet voor ‘een moderne leugendetector voor fake news en nepinformatie’.

“Taalkundigen ontwikkelen steeds betere algoritmes die in staat zijn op basis van woordgebruik en teksteigenschappen valse informatie te identificeren. Zo gebruiken ze vaker dan ware berichten overdreven woorden, zoals fantastisch, verschrikkelijk, briljant, of afschuwelijk. Nepnieuws staat veelvuldig geschreven in hoofdletters, bevat meer uitdrukkingen die positieve of negatieve emoties benadrukken en bevat frequent bangmakende boodschappen. Ook gebruikt onzin-informatie een stuk minder verschillende woorden, meer herhalingen, en een veel simpelere zinsopbouw.”

Van Engelen denkt dat automatische fact checking nog ver weg is, omdat meningen lastig te onderscheiden zijn van misinformatie. Het onderzoek van Van Engelen biedt gebruikers tools, zoals de pop-up, om zich bewust te maken van misinformatie op sociale media. De resultaten worden volgend jaar gepresenteerd.