Internet is niet het probleem: het is iets veel zorgwekkender

Als je abonnementenlijsten minimaal compleet zijn, heb je inmiddels James Bridle’s ‘Er is iets mis op internet’ gelezen, een lang en gedetailleerd artikel over de verspreiding van bepaalde video’s op YouTube Kids, dat door veel ouders wordt gebruikt om hun kinderen vermaakten zich, waardoor ze vaak werden blootgesteld aan volledig ongepaste inhoud.

Dit soort ongepaste video’s zijn al geïdentificeerd: inhoud met populaire kinderfiguren in gewelddadige contexten, meestal met extreem eenvoudige afbeeldingen. De analyse van Bridle kijkt niet alleen naar inhoud, maar onderzoekt ook de mechanismen van een platform dat niet alleen dit soort inhoud mogelijk maakt, maar beloont ook degenen die deze aanbieden via algoritmen en financiële beloningen voor het aantrekken van kijkers naar de site. Het is een interessante analyse, die YouTube grotendeels de schuld geeft van het feit dat het niet genoeg heeft gedaan om dit soort inhoud te verwijderen, behalve door systemen te leveren om dit te melden of als ongepast te markeren.

De conclusie uit de analyse van Bridle is echter nog verontrustender: het internet heeft een probleem. De combinatie van factoren zoals de onbegrensde ontwikkeling van de aandachtseconomie, algoritmen die sensatiezucht belonen, samen met anonimiteit en andere kenmerken van internet, hebben problemen gecreëerd die er niet zouden moeten zijn. Maar in werkelijkheid is het echte probleem niet het internet zelf: het zit in de menselijke natuur.

Laat me het uitleggen: alle systemen kunnen op verschillende manieren worden gebruikt. Het ontbreken van regelgeving om schadelijk gedrag te vermijden, of inefficiënte regelgevende systemen hebben tot allerlei soorten misbruik geleid: spam kwam met de popularisering van e-mail. Moeten we de uitvinders van de e-mail de schuld geven? Nee, het probleem is dat sommige mensen ontdekten dat ze e-mailprotocollen konden gebruiken om tegen zeer lage kosten commerciële berichten naar een groot aantal nietsvermoedende, onervaren of domme mensen te sturen, die ze uitbuitten om hen van hun geld te scheiden. Dit gedrag is constant: elke dienst die naar voren komt, trekt mensen aan die bereid zijn om het te gebruiken om het oorspronkelijke doel te bedriegen, te stelen, te manipuleren of te verdraaien. Sociale netwerken zijn platforms om inhoud te delen, maar kunnen worden gebruikt om verkiezingen te manipuleren. YouTube is bedoeld voor het bekijken van video’s, maar kan ook worden gebruikt om kinderen te misleiden met ongepaste inhoud en geld te verdienen door ze bloot te stellen aan ongepaste inhoud. ICO’s zijn nu in opkomst, en samen met hen hebben we een enorme toename gezien van het aantal pogingen om potentiële investeerders te misleiden en hun geld te stelen.

Bij gebrek aan effectieve regelgeving vanwege de snelheid waarmee nieuwe tools worden ontwikkeld en gepopulariseerd, evolueren criminelen en koloniseren ze elke nieuwe ecologische niche op internet. Tegen de tijd dat het uploaden van video’s naar YouTube om te profiteren van de algoritmen een strafbaar feit wordt, zullen criminelen zich op andere dingen hebben toegelegd.

Een goede advocaat zal altijd mazen in de wet kunnen vinden om overtreders vrijgesproken te krijgen, terwijl het principe van “Ik weet het als ik het zie” , of gewoon gezond verstand, niet genoeg wordt gebruikt.

Er zijn niet genoeg rechtbanken of rechters om de problemen van internet op te lossen, en zelfs als die er wel zouden zijn, zouden ze worden geconfronteerd met een complexe realiteit van jurisdicties en nationale rechtsstelsels die totaal niet in staat zijn zich aan te passen aan een mondiale omgeving zonder grenzen.

Wat de ene staat probeert te definiëren als onaanvaardbaar gedrag en kader binnen een criminele activiteit van een type dat ongetwijfeld al bestond, is in een ander land totaal onwettig of bevindt zich in een limbo waar het onmogelijk is om bestaande wetten toe te passen. Controlemechanismen zoals reputatie of het verdienen van de smaad van de samenleving die in het verleden mogelijk hebben gewerkt, stoppen aan bepaald gedrag, hebben geen zin en lopen opnieuw achter de criminelen aan. Wanneer een kwaadwillend persoon een manier vindt om te profiteren van een bepaald platform, weet het grootste deel van de samenleving niet wat er aan de hand is.

We hebben een hulpmiddel gemaakt waarvan we niet weten hoe we het moeten beheersen en dat veel mensen hebben weten te verdraaien voor hun voordeel, hun toevlucht nemen tot gedrag dat iedereen met een minimum aan gezond verstand kan zien, zou moeten worden gestraft, maar dat is zelden het geval. Nogmaals: het probleem ligt niet bij het internet zelf, maar bij de mens. Wat kan er worden gedaan met mensen die in hun levensonderhoud voorzien door kinderen bloot te stellen aan volledig ontoereikende en aanstootgevende inhoud? Welke straf is passend? Hoe kunnen we dergelijk gedrag ontmoedigen? Hoe kunnen we de wet aanpassen om de ergste aspecten van de menselijke natuur onder controle te krijgen in een omgeving die zo snel verandert?

(En español, aquí)