Strengere regelgeving nodig om online seksueel kindermisbruik te bestrijden

Door Evelijn Zandberg, Tirsa Bos op 3 juni 2024 om 14:51

Lees voor

Strengere regelgeving nodig om online seksueel kindermisbruik te bestrijden

Evelijn en Tirza hebben een artikel geschreven over strengere regelgeving om seksueel kindermisbruik te bestrijden. Op 8 juni doen ze mee aan een mudrace, je kunt ze hier sponsoren!

In Rutger Bregmans veelbesproken boek Morele Ambitie staat een citaat dat toegeschreven wordt aan Bertrand Russell: “The mark of a civilized human is the ability to look at a column of numbers, and weep”. Dat kwam bij ons binnen. De afgelopen tijd hebben we tijdens het lezen van diverse artikelen en nieuwsberichten over online seksueel misbruik van kinderen verschillende statistieken voorbij zien komen. In 2023 werd naar schatting 1 op de 8 kinderen wereldwijd slachtoffer van online seksueel misbruik.[1] Dat zijn meer dan 300 miljoen kinderen. Het jaar ervóór werden 5 miljoen online misbruik-gerelateerde bestanden gedetecteerd in de EU.[2] In Nederland werden er in datzelfde jaar door middel van online bewijsmateriaal 222 kinderen geïdentificeerd die slachtoffer waren van seksueel misbruik, waaronder een baby van zes maanden oud. Kinderen wiens leven hierdoor een hel wordt gemaakt zijn niet alleen in Nederland te vinden, maar ook in landen als de Filippijnen of Cambodja. “Long distance kindermisbruik” betekent meestal dat mannen in het Westen betalen voor het kijken naar livestreams van seksueel geweld in deze landen. Geen wonder dus dat van alle kinderpornolinks 37% gehost wordt op Nederlandse servers.[3] Laat deze cijfers even op je inwerken. Dit gaat om mensen van vlees en bloed. Dit gaat om kinderen – soms niet ouder dan twee[4] – die voor de webcam misbruikt worden door hun eigen ouders. En dat materiaal wordt dan online gezet. Alsof ze elke keer weer opnieuw misbruikt worden.[5]

Bovenal is dit een hartverscheurend probleem waar veel te weinig aandacht voor is. Maar alleen weten dat dit speelt, is niet genoeg. Er is actie nodig en goed beleid, ook op EU-niveau. Aangezien meer dan de helft van online beeldmateriaal van seksueel kindermisbruik te vinden is op Europese servers, rijst de vraag – wat doet de EU hieraan?[6] In mei 2022 stelde de Europese Commissie regelgeving voor om online seksueel kindermisbruik beter te bestrijden. De nieuwe wet zou online platforms en dienstverleners verplichten om schadelijk materiaal – bekend als CSAM (Child Sexual Abuse Material) op te sporen, aan te geven en van het internet af te halen.[7] Het Europees Parlement (EP) heeft echter flink tegengas gegeven. De amendementen die zijn ingediend door het EP hebben het wetsvoorstel afgezwakt. Het belangrijkste pijnpunt? De balans tussen privacy waarborgen enerzijds en het beschermen van kinderen anderzijds. Het EP heeft client side scanning al van tafel geveegd: deze methode zou betekenen dat berichten automatisch gescand worden vóór verzending. Ook wil het EP niet dat end-to-end-encryptie in gevaar wordt gebracht. Het EP staat hierin niet op zichzelf. Eerder dit jaar schreef een grote groep wetenschappers een open brief met kritiek op het wetsvoorstel van de Commissie.[8] Verschillende organisaties zijn bezorgd over het waarborgen van privacy en het gevaar van surveillance en overheidscontrole. Nu er onenigheid is over de nieuwe wet is er gelukkig nog steeds een tijdelijke wet (die afloopt in augustus dit jaar) die vrijwillige detectie van CSAM mogelijk maakt.[9] Feit blijft dat snelle actie met langetermijnvisie nodig is op EU-niveau.

In dit korte stuk kunnen we niet ingaan op de voor- en nadelen van verplichte online detectie. We zijn geen expert op het gebied van privacyregels, detectiemethodes en de finesses van trucjes zoals client side scanning. Toch willen we wel kanttekeningen plaatsen bij de zorgen om privacy. Natuurlijk is privacy belangrijk. Wij willen ook niet dat overheidsinstanties zomaar alle appjes kunnen gaan meelezen over onze schouder. Maar de vraag is: is dat per se het scenario met strengere EU-wetgeving? Bij online detectie moet je niet gelijk denken aan een Big Brother-figuur die al jouw berichten onder de loep neemt. Wat wél een belangrijke rol speelt, is kunstmatige intelligentie (AI). AI kan gebruikt worden om schadelijk materiaal te detecteren en als blijkt dat het om CSAM gaat, kan dat gecheckt worden door ‘echte mensen’, overheidsinstanties en experts. Klinkt dat eng, gebruikmaken van AI? Guess what, AI wordt ook al gebruikt voor tegenovergestelde doeleinden, namelijk het maken van (kinder)porno. Uitvindingen als AI kunnen dus voor de meest walgelijke doelen gebruikt worden, maar AI kun je ook inzetten om online kindermisbruik op te sporen. Er bestaan al technieken om – ook in een end-to-end-beveiligde omgeving – online misbruik te detecteren zonder de privacy van appgebruikers in gevaar te brengen.[10] Laten we hopen dat EU-beleidsmakers denken in oplossingen en hier goed gebruik van maken. En dat ze niet alleen privacy, maar vooral ook het welzijn van kinderen wereldwijd voor ogen houden. Het is tijd om verder te kijken dan alleen ons nauwe eigenbelang. De jongste generatie, zowel in Nederland als daarbuiten, mag niet de dupe worden van een maatschappij die alleen de gemakken van het internet wil zonder de grenzen ervan te accepteren.