De reeks terroristische aanslagen op Europese bodem heeft laten zien dat het internet misbruikt wordt door terroristen om aanhangers te werven, te radicaliseren en aan te zetten tot geweld. Sinds 2015 heeft de EU verschillende maatregelen genomen om terroristische online-inhoud te bestrijden. Nederland is bijvoorbeeld actief in het EU Internetforum, waarbij lidstaten en het bedrijfsleven op vrijwillige basis samenwerken om het aanbod van terroristische content op het internet te beperken.
Omdat niet alle aanbieders van hostingdiensten bij de vrijwillige afspraken betrokken zijn, kan de verspreiding van terroristische online-inhoud volgens de EU niet adequaat worden aangepakt. Daarom heeft de EU op 16 maart 2021 de TOI-verordening aangenomen om de vrijwillige samenwerking aan te vullen met een aanvullend wetgevend kader. Daarmee hoopt de EU terroristische online-inhoud nog minder toegankelijk te maken.
De nieuwe verordening
De bedoeling is om terroristische online-inhoud snel te verwijderen via één gemeenschappelijk instrument voor alle lidstaten. De regels zullen vanaf 7 juni 2022 van toepassing zijn op alle aanbieders van hostingdiensten die actief zijn in de EU. Dit is al snel het geval, namelijk als (rechts)personen in staat worden gesteld gebruik te maken van de diensten en wanneer deze zijn gericht op een lidstaat. Dit laatste is afhankelijk van relevante omstandigheden, waaronder factoren zoals het gebruik van een taal of munteenheid die in de betrokken lidstaat gangbaar is. Of de activiteiten op een lidstaat gericht zijn, kan ook afgeleid worden uit de beschikbaarheid van een applicatie in de nationale appstore, uit het maken van lokale reclame of uit het onderhouden van klantenrelaties, bijvoorbeeld door het bieden van klantenservice in een taal die in die lidstaat gangbaar is. De vrijwillige samenwerking met deze bedrijven zal worden voortgezet, maar de wetgeving zal de lidstaten aanvullende instrumenten bieden om de snelle verwijdering van terroristische inhoud waar nodig af te dwingen. In het hiernavolgende staan we stil bij de belangrijkste veranderingen.
De nieuwe autoriteit
De lidstaten zijn verplicht een bevoegde autoriteit aan te wijzen voor het uitvaardigen en toetsen van verwijderingsbevelen, het toezien op de uitvoering van specifieke maatregelen en het opleggen van sancties. De autoriteit wordt verder belast met het ontvangen van meldingen over (vermoedelijk) terroristisch online materiaal en het opvolging geven aan deze meldingen. De autoriteit zal bovendien ook zelf terroristische online content detecteren en identificeren. In Nederland is gekozen deze taken te neer te leggen bij een nieuw op te richten zelfstandig bestuursorgaan als autoriteit. Deze autoriteit zal zich naast de TOI-verordening ook gaan bezighouden met het verwijderen van online kinderpornografisch materiaal.
Verwijderingsbevelen
Aanbieders van hostingdiensten worden verplicht opvolging te geven aan een verwijderingsbevel. Dit betekent dat zij terroristische inhoud zo spoedig mogelijk en in elk geval binnen één uur na ontvangst van het bevel dienen te verwijderen of de toegang tot deze inhoud in alle lidstaten dienen te blokkeren. Een dergelijk bevel kan grensoverschrijdend worden uitgevaardigd door elke lidstaat, en kan worden gericht aan elke aanbieder die hostingdiensten aanbiedt in de EU, ongeacht zijn plaats van vestiging. Voor alle aanbieders van hostingdiensten geldt dat zij op grond van de verordening een contactpunt moeten aanwijzen of oprichten die altijd bereikbaar moet zijn.
Specifieke maatregelen
De verordening verplicht aanbieders van hostingdiensten verder tot het treffen van specifieke maatregelen om de verspreiding van terroristische online-inhoud tegen te gaan, indien de aanbieder is blootgesteld aan terroristische online-inhoud. Een aanbieder is blootgesteld aan terroristische online-inhoud indien de bevoegde autoriteit een ‘blootstellingsbesluit’ heeft genomen en meegedeeld aan de aanbieder van hostingdiensten. De blootstelling wordt op basis van objectieve factoren vastgesteld, zoals het feit dat de aanbieder in de twaalf voorafgaande maanden twee of meer definitieve verwijderingsbevelen heeft ontvangen.
De aanbieder is in dat geval verplicht om in zijn algemene voorwaarden bepalingen op te nemen om het misbruik van zijn diensten voor de verspreiding van terroristische online-inhoud tegen te gaan en deze voorwaarden toe te passen. Ook is de aanbieder verplicht om specifieke maatregelen te nemen tegen misbruik van zijn diensten. De keuze ten aanzien van de te treffen maatregelen blijft bij de aanbieder. Gedacht kan worden aan maatregelen van technische of van operationele aard, bijvoorbeeld aan een systeem waarmee gebruikers terroristische online-inhoud bij moderatoren kunnen melden. Als een aanbieder technische (lees: geautomatiseerd filteren) maatregelen treft, moet zijn voorzien in menselijk toezicht of verificatie door mensen.
Wie gaat dat betalen?!
Aanbieders van hostingdiensten zullen de aanvullende kosten zelf moeten dragen. Wel wordt in de verordening rekening gehouden met de proportionaliteit van de verplichte maatregelen ten aanzien van de grootte van de aanbieders van hostingdiensten. Ook gelden de maatregelen als verwijderingsbevelen en het nemen van specifieke maatregelen alleen voor aanbieders van hostingdiensten die worden geconfronteerd met terroristische content op hun platformen. De verwachting in de EU is dus dat maar een klein percentage van aanbieders met extra kosten worden opgezadeld.
De belangrijkste kosten zien op de deadline van 1 uur voor verwijderingsbevelen. Andere kostenposten hebben betrekking op het implementeren van contentmoderatie- of filtertechnologieën voor aanbieders die worden blootgesteld aan terroristische inhoud, evenals kosten in verband met de risicobeoordeling, actieplan voor corrigerende maatregelen, en transparantie- en rapportagevereisten. Aangezien deze verplichtingen betrekking hebben op verschillende functies en expertise, zullen ze over het algemeen toegewijd personeel of middelen vereisen. Aangenomen wordt dat een deel van de kosten wordt geabsorbeerd door moderatiefuncties die al bestaan voor andere soorten (illegale) inhoud. Kortom: meer verplichtingen, meer kosten en minder tijd voor met name de relatief kleinere aanbieders van hostingdiensten in de EU.
