Digitale wildgroei van desinformatie in het Nederland

De afgelopen jaren is veel aandacht besteed aan de rol van Facebook bij het ondermijnen van democratische verkiezingen, het versterken van haatzaaiende taal en het verspreiden van onjuiste informatie over de volksgezondheid in grote democratieën als India, de VS en de Europese Unie. Er is echter minder aandacht besteed aan de effecten van Facebook in kleinere landen, met name in landen die niet Engelstalig zijn.

Samenvatting

Dit is de eerste analyse in zijn soort die uitgebreid ingaat op desinformatie en misinformatie in Nederland, en belicht de verschillende rollen van politieke actoren, inconsistent platform-beleid, en sociale influencers bij het aanwakkeren en in stand houden van een wildgroei aan desinformatie.

De studie toont 170 openbare groepen en pagina’s aan, met een totaal van 1,4 miljoen “page likes”. Van deze 170 zijn tot op heden enkel 5 verwijderd Verscheidene nieuwe groepen en pagina’s verschijnen ondertussen op Facebook. Entiteiten die in dit rapport worden gesignaleerd, zijn in de tijdsperiode van een jaar gegroeid met +354,6% (complotgroepen) en +657,5% (complotpagina’s) enhebben zich uitgebreid op Telegram en de MeWe-app door actief te werven op Facebook. 

Deze groepen en pagina’s zitten vol met COVID-19 desinformatie en QAnon-gerelateerde samenzweringscontent. Het aantal Nederlandstalige QAnon- en COVID-19-pagina’s op Facebook neemt toe. 

Tussen 01 januari 2020 en 07 september 2021 genereerden Nederlandstalige pagina’s en groepen bijna 31,58 miljoen interacties en ongeveer 132,11 miljoen videoweergaven. 

De afgelopen weken zijn we getuige geweest van de vorming van groepen die zich actief verzetten tegen de COVID-vaccinatie. Zo werd op 29 juli de groep “Facebook voor ongevaccineerden” opgericht, met een ledenaantal van 44.300. 

Facebook heeft beleid ontwikkeld tegen het ontmoedigen van goede gezondheid-praktijken. Dit beleid in Facebook’s bewoordingen luidt: 

“Wanneer we aanvullende informatie en/of context hebben om deze te identificeren, verbieden we ook het volgende:  Inhoud die aanzet tot actie of die aanbeveelt of promoot dat anderen het COVID-19-vaccin niet krijgen.”

In May 2021 hebben we reeds een rapport ingediend bij Facebook MenloPark (US) Policy Headquarters over COVID desinformatie in Nederland, waarin we verschillende van deze pagina’s en groepen hebben aangewezen die de Richtlijnen voor de Community van Facebook actief overschrijden. Ondanks de toezegging dat zij de informatie met het betrokken team zullen controleren, heeft Facebook geen actie ondernomen om de verspreiding van desinformatie tegen te gaan.

Er zijn redenen om aan te nemen dat Facebooks business model profiteert van de verspreiding van desinformatie. Wij dringen erop aan dat het parlement een commissie instelt om dit nader te onderzoeken.

Tussen 17 maart 2019 en 17 maart 2021 bedroegen de totale advertentie-inkomsten van Facebook in Nederland ongeveer 15 miljoen euro, waarvan politieke advertenties ongeveer 25% voor hun rekening namen en daarmee de grootste bijdragende groep vormden. De extreem-rechtse partij FvD stond in de top vijf van kopers van Facebook-advertenties in Nederland.

Uit het onderzoek blijkt dat Nederlandse extreem-rechtse partijen en hun leden actief sensatiebeluste content promoten die volgens Facebooks eigen advertentie- en community-standaarden niet is toegestaan. Uit het onderzoek bleek verder dat extreem-rechts in de aanloop naar de verkiezingen actief desinformatie op Facebook heeft gepromoot via zowel organisch gegroeide inhoud als betaalde politieke advertenties. Deze politieke advertenties bevatten COVID-19 desinformatie en QAnon-achtige samenzweringstheorieën die Facebook specifiek heeft toegezegd te zullen verwijderen en verminderen. Het goedkeuringsproces van Facebook stond deze advertenties duidelijk toe, en het platform genereerde inkomsten uit deze polariserende inhoud. Over een periode van drie maanden, tussen 17 december 2020 en 17 maart 2021, verdiende Facebook ten minste 199.300 euro met COVID-19 desinformatie-advertenties.

Over een periode van 7 weken (van 1 februari 2021 tot 21 maart 2021) heeft ons team van onderzoekers 938 berichten (inclusief politieke advertenties en opmerkingen) die in strijd waren met de richtlijnen voor de community gemarkeerd bij Facebook. Slechts 12 van onze gemarkeerde posts werden verwijderd. Ondanks Facebooks belofte om COVID-19 desinformatie tegen te gaan en QAnon-inhoud te verwijderen, faalt Facebooks content moderatie.

De bevindingen van het onderzoek onderstrepen wat Mark Zuckerberg in 2018 toegaf: naarmate de inhoud meer ” borderline ” is, is de kans groter dat het engagement krijgt. Extreem-rechtse partijen krijgen consequent veel engagement op sociale media. Dit is geen weerspiegeling van de Nederlandse samenleving en haar politieke voorkeuren, maar van Facebook’s algoritmes die polariserende verhalen versterken. 

Uit het onderzoek bleek ook dat het gebrek aan duidelijk beleid van Facebook over mondiale en transnationale kwesties, zoals COVID-19 en klimaatverandering, een ongecontroleerde ruimte creëert waarin het ongefundeerde scepticisme en ontkenning van extreem-rechtse groeperingen zoals het FvD floreert. Hoewel politieke partijen van mening kunnen verschillen over kwesties als klimaatbeleid en regelgeving, stellen de auteurs van de studie dat politieke engagement en advertenties moeten worden geëvalueerd in een context-specifieke setting. Dit betekent dat Facebook aanzienlijk moet investeren om zijn moderatiebeleid, -proces en -resultaten te verbeteren.

Een andere bevinding van de studie was dat vooraanstaande vrouwelijke politici zoals Sigrid Kaag slechts een “aandeel van de totale stem” van 1% op het platform hadden. Facebook bepaalt het “aandeel van de totale stem” op basis van het aandeel van de interactie die een profiel heeft ontvangen in een Crowd Tangle List. De Crowd Tangle List voor dit onderzoek bestond uit alle Nederlandse kandidatenpagina’s die in het publieke domein op Facebook beschikbaar waren.

Onze aanbevelingen

Voor Facebook:

De studie adviseert Facebook om verder te gaan dan de baseline van de Corporate Commitments voor Mensenrechten. Dit proces moet beginnen met het invoeren van een bindende en obligate toezegging op het gebied van mensenrechten in hun beleidsdocumenten. In het Community- en Ad-beleid van Facebook wordt momenteel geen melding gemaakt van commitments op het gebied van fundamentele mensenrechten.

Als Facebook zich echt als een “gemeenschap” wil profileren, moet het een morele grondhouding en kritische juridische verantwoordelijkheid aannemen om ervoor te zorgen dat zijn platforms levensreddende informatie verspreiden in plaats van levensbedreigende ophef.

Facebook moet aandacht besteden aan rapporten zoals deze en de inhoud aanpakken die wordt gemarkeerd. Als Facebook werkelijk geïnteresseerd is in het veilig maken van zijn “gemeenschap voor iedereen”, dan moet inhoud die wordt gemarkeerd in onderzoek dat wordt gedaan door kenbare actoren uit het maatschappelijk middenveld, academici en onafhankelijke niet-partijgebonden organisaties serieus worden genomen.

Facebook moet zijn beleid, met inbegrip van het beleid inzake transparantie en aansprakelijkheid, in overeenstemming brengen met de basisprincipes van het procesrecht, het bewijsrecht en het bestuursrecht, en tegelijkertijd open blijven staan voor uitdagingen en wijzigingen. Dit zou betekenen dat er moet worden geïnvesteerd in teams voor Recht en Beleid, die niet tot taak hebben Facebook te verdedigen in rechtszaken, maar die gezonde en samenhangende regels moeten opstellen.

Voor de Nederlandse regering:

Het wordt sterk aanbevolen dat Nederland een permanente parlementaire commissie instelt om platformalgoritmen regelmatig te auditeren. Het parlement zou het recht moeten hebben om grote bedrijven te controleren op zowel hun product als hun proces, vooral wanneer dergelijke bedrijven de openbare orde en het welzijn kunnen schaden.

De Nederlandse Regering moet zowel de wetenschappelijke communicatie als de communicatie rond maatschappelijke verantwoordelijkheid versterken.

Nederland beschikt reeds over het ELSA-fonds van waaruit onderzoek naar een sterker virtueel burgerschap kan worden bevorderd.

In de communicatie moet echter een empathische kijk op de problemen waarmee de Nederlandse samenleving wordt geconfronteerd, worden verankerd. De recente Toeslagenaffaire heeft een zekere structurele apathie tegenover de burgers van het land aan het licht gebracht. De Nederlandse overheid moet actie ondernemen om sensibiliseringstraining en verbetering van het inlevingsvermogen in te bedden in de communicatie over de volksgezondheid.

Nederland moet proactief een Digital Services Act aannemen. De wet zou ervoor zorgen dat platforms die door Nederlandse burgers worden gebruikt, ongeacht de geografische locatie van de dienstverlener, over passende controles beschikken om misinformatie en desinformatie uit te filteren. In feite zouden platforms consistente mechanismen voor zelfregulering van inhoud moeten opbouwen of met sancties worden geconfronteerd wanneer zij er niet in slagen tijdig standaarden vast te stellen of er naar eigen goeddunken van afwijken. 

Europese naties moeten voortbouwen op het fundament dat door GDPR is gelegd, om er collectief voor te zorgen dat digitale ruimten inclusief zijn en, ongeacht de locatie, in overeenstemming zijn met de universele mensenrechten.

Overzicht van het rapport

Hoofdstuk 1, De Nederlandse verkiezingen, laat de niet-Nederlandse lezer kennismaken met het multiculturele, dynamische politieke landschap van Nederland.

Hoofdstuk 2, The ad will shock you, duikt dieper in de inhoud van advertenties die in november 2019 zijn gekocht door extreem-rechtse politieke partijen.

Hoofdstuk 3, Stop de Lockdown belicht hoe politieke advertenties beladen met COVID-disinformatie op grote schaal werden gedeeld op Facebook door extreem-rechtse partijen en Facebook hebben verrijkt met ten minste 199.300 euro tussen december 2020 en februari 2021.

Hoofdstuk 4, Chasing QAnon down the rabbit hole, laat zien dat ondanks Facebook’s duidelijke beleid tegen het bieden van een platform voor QAnon en aan QAnon gelinkte complottheorieën, er ten minste 170 Nederlandstalige pagina’s en groepen zijn met een ledenbestand van 1,4 miljoen gebruikers (en groeiend) die actief desinformatie verspreiden, onder andere over COVID.

Hoofdstuk 5, Het bericht is niet strijdig met de Richtlijnen van de Community, belicht het resultaat van het markeren van 938 posts op Facebook tussen februari 2021 en maart 2021. Van deze posts blijft 98% op Facebook staan.

Het rapport kan worden gedownload van onze website

(Enkel in Engels)

This study is led by Dr. Ritumbra Manuvie, Lecturer of Law, University College Groningen, University of Groningen. 
Menu