Tag: mensenrechten

Posted on

Deepfake porno. Taakje voor het onderwijs.

Natuurlijk, leerkrachten hebben het al hartstikke druk. En natuurlijk, bij iedere maatschappelijk issue wordt er meteen geroepen dat het in het onderwijs moet. En ja, er is al heel veel gedoe over seksuele vorming op school. Moet dit er dan echt bij? Ja, dat moet.

Met ‘dit’ bedoel ik ‘deepfake porno’. En het enige dat daar geen plekje van in het onderwijsprogramma moet krijgen, is hoe je het moet maken. Want dat is nu juist het probleem; dat weten heel veel jongeren al lang. En het worden er steeds meer.

Een paar weken geleden stonden alle nieuwsrubrieken vol met de laatste details over bangalijsten. Utrechtse studenten hadden een PowerPoint (wat op zich wel schattig is) gemaakt waarin vrouwelijke medestudenten werden besproken. Dat was heel heftig, terecht dat daar hard op werd ingegrepen. Maar stel je nou eens voor dat het niet gaat om jonge studentes, maar om middelbare scholieren. En stel je voor dat het geen PowerPoint is, maar een niet van echt te onderscheiden nep-video.

Overbodig als middel, gewild als doel

Het is niet zo dat er helemaal geen aandacht is voor mogelijke gevaren rondom deepfake beelden en video’s. Over het algemeen gaat het dan om vergezichten van hoe kwaadwillenden, in opdracht van buitenlandse staten, met dit soort materialen nep-nieuws kunnen produceren en verspreiden. Tegelijkertijd valt dan op, dat dit eigenlijk nog maar heel weinig gebeurt. Belangrijkste reden is dat het helemaal niet nodig is om deepfake materialen te produceren om op grote schaal desinformatie te verspreiden en aanhang te vinden voor vergezochte samenzweringstheorieën. Aan het einde van zo’n artikel of item ga je, wellicht lichtelijk gedesillusioneerd over je medemens, toch rustig je bed in.

Maar met porno ligt het anders. Waar het in het geval van misinformatie een -overbodig- middel is om deepfake beeldmateriaal te produceren, bij porno is dat het doel. En dat doel wordt steeds eenvoudiger bereikt. Met steeds minder goed van echt te onderscheiden eindresultaat. In 2022 maakte presentatrice Welmoed Sijtsma een documentaire over een deepfake porno film die van haar was gemaakt. Die documentaire kreeg veel aandacht, maar daarna werd het eigenlijk best stil. Terwijl de technologische ontwikkeling enorme vooruitgang boekte. Zonder dat er al te veel ruchtbaarheid aan werd gegeven is er inmiddels een enorme hoeveelheid aan deepfake porno te vinden. Op speciaal daarvoor gebouwde websites en in Telegram groepen. Maar ook door simpelweg een Google zoekopdracht te doen, of via social media als Reddit en Tumblr.

De strijd tegen deepfake porno is allang verloren

In veel gevallen gaat het dan al niet meer om bewerkelijke processen zoals in ‘die goede oude nepporno tijd’, toen de maker nog nachtenlang in een donker kamertje moest zitten zweten bij de video-editting software. Als je geen genoegen wilt nemen met de apps die je in je appstore kunt downloaden, is een simpele zoekopdracht voldoende om tientallen, zo niet honderden, AI tools te vinden waarmee je eenvoudig zelf je deepfake pornomateriaal kunt maken. Tools die bijvoorbeeld net ChatGPT en Microsoft’s CoPilot gebruik maken van de modellen van Open.ai, kwaliteit gegarandeerd voor een habbekrats. En als je toch iets specifieks wil en een beetje handiger bent, kun je ook op zoek naar open source code op GitHub.

In 2018 verzuchtte de Amerikaanse actrice Scarlett Johanson al dat de strijd tegen deepfake porno een verloren zaak was. En dat was dus nog vóór de AI revolutie. De slachtoffers waren celebrities van wie veel stilstaand en bewegend beeld te vinden was. Inmiddels kan het slachtoffer ieder willekeurig persoon zijn, het kost namelijk nauwelijks tijd of moeite om het te produceren. En al net zo weinig moeite om je knutselwerk anoniem met de wereld te delen.

De juridische weg lijkt heilloos

Het is dus een groot, groeiend probleem. Maar ik kan me heel goed voorstellen dat je nu denkt dat er veel betere manier zijn om dit probleem aan te pakken dan via het onderwijs. Dit kan toch niet legaal zijn allemaal? Waarom sturen we de politie er niet op af?

Net zoals met alle AI ontwikkelingen, is ook deepfake porno er in zo’n tempo gekomen dat het voorlopig helemaal nog niet zo makkelijk is om er via juridische weg iets aan te doen. In het geval van Welmoed Sijtsma is de dader weliswaar opgepakt en veroordeeld, maar dat was helaas wel de uitzondering. De overheid stelde na onderzoek in 2022 dat niet zozeer wetgeving, maar vooral handhaving een probleem gaat zijn. En ook dat onderzoek vond plaats vóór de AI revolutie. Niet alleen zorgde deze revolutie er voor dat er veel méér materiaal wordt ontwikkelt, het zorgt er ook voor dat het mogelijk is dat middels AI volkomen random personages worden ontwikkeld voor een deepfake porno video. En bewijs dan maar eens dat jouw beeltenis in zo’n video is geplaatst en niet een fictief personage dat toevallig op je lijkt.

Guardrails leggen het af tegen creativiteit

Behalve de makers van de porno, zou je ook kunnen proberen om de makers van de technologie aan te pakken. Maar dat blijkt nog niet zo eenvoudig. Tech multinationals hebben diepe zakken voor een juridische strijd en bevinden zich ook nog eens op verschillende continenten waardoor het nog eens moeilijker wordt om ze aan te pakken. En daarnaast kunnen ze zich natuurlijk verschuilen achter het standpunt dat zij enkel de technologie ontwikkelen en geen verantwoordelijkheid kunnen dragen voor wat gebruikers er vervolgens mee doen.

Het lijkt een heilzamer route om techbedrijven te vragen om vrijwillig veiligheidsmaatregelen in hun systemen in te bouwen (guardrails). Echter, áls ze al bereid zijn om dat te doen -wat erg twijfelachtig is, het blijft toch een mannenwereldje- is het vrijwel onmogelijk om deze guardrails voldoende effectief te maken. Dit soort beperkingen werken slechts zo lang niemand creatief genoeg is geweest om te ontdekken hoe die beperking te omzeilen.

Een misdrijf zonder slachtoffers

Mocht het dus al ooit lukken om te kunnen voorkomen dat er deepfake porno wordt gemaakt, dan zal dat zeker nog vele jaren duren. En in de tussentijd moeten we doen wat we kunnen om zoveel mogelijk slachtoffers te voorkomen. Het onderwijs is in die strijd een belangrijke route. Via die weg kunnen we jongeren, voordat zij dader worden, leren dat het voor hen wellicht onschuldig lijkt maar dat dat het voor de slachtoffers zeker niet is. Het kan voelen als een misdrijf zonder slachtoffer, het is immers geen echte video, maar de gevolgen voor de slachtoffers zijn vaak even ernstig.

Tegelijkertijd zullen we realistisch genoeg moeten zijn dat het produceren van deepfake porno waarschijnlijk nooit helemaal zal verdwijnen. De vraag zal blijven bestaan en er zullen mogelijkheden blijven bestaan om aan die vraag te voldoen. En dan is het dus ook belangrijk dat we met elkaar leren hoe we er het beste mee om kunnen gaan als er zich zo’n incident voordoet. Hoe reageren we op een dader, maar vooral: hoe zorgen we er samen voor dat de schade voor het slachtoffer minimaal mogelijk blijft. Door steunend en begripvol op te treden bijvoorbeeld.

Deepfakes bedreigen mensenrechten

Één van de meest contraproductieve manier om iets tegen deepfake porno te doen is het promoten van verregaande onderdrukking van vrouwen. In ultraconservatieve kringen worden vrouwen soms al ontmoedigd om überhaupt online vindbaar te zijn. Dat zou de enige manier zijn om te voorkomen dat je ooit in een deepfake porno terecht komt. Maar in een tijd waarin je er niet omheen kunt om wanneer je gehoord wenst te worden, dat óók online of minimaal via massamedia te doen; betekent dat per saldo dat deze vrouwen monddood worden gemaakt. En dan is het middel erger dan de kwaal.

En zo zijn door AI gegenereerde deepfakes dus tóch een bedreiging van de democratie en van universele mensenrechten. Niet rechtstreeks maar, niet voor het eerst, via een omweg. Langs het taboe rond seksualiteit.

Afbeelding gegenereerd met Adobe Firefly

Posted on

Feministen, vreemdelingenhaters en naar beneden trappen

Afgelopen week speelde JC Decaux een bijrol in het nieuws. Posters die opriepen tot protest tegen een nieuwe aanpassing van de transgenderwet werden opgehangen, na ophef verwijderd en uiteindelijk weer teruggehangen.

Dat laatste lijkt mij een wijze beslissing. Alhoewel ik van mening ben dat tolerantie ten opzichte van intolerantie niet-wenselijk is (denk aan alle optredens van FvD-kamerleden of het haatzaaiende ONgehoord Nederland) denk ik dat we dit mogen scharen onder vrijheid van meningsuiting. Een groot deel van de mensen achter deze poster is niet zozeer intolerant, als wel een gevaarlijke combinatie van bang en slecht geïnformeerd.

Dit manifest is ondertekend door een kleurrijk gezelschap waar je naast een intellectuele topper als Bart Jan Spruyt ook mensen aantreft als “Theo Boer, vader van 2 kinderen”. Dat wekt vertrouwen.

Even over die wet zelf

Het grote bezwaar dat deze groep mensen heeft tegen de voorgestelde aanpassing is dat je als transgender niet meer naar een deskundige hoeft die voor jou beslist of jij wel of niet in een lichaam van het verkeerde geslacht geboren bent. Je mag dat straks zelfs beslissen en op het gemeentehuis aangeven dat je een aanpassing in je identiteitsbewijs wilt; hetzelfde gender als dat je daadwerkelijk bent.

Om al te spontane opwellingen te voorkomen, moet je na een aantal weken terugkomen om je wens te bevestigen. Dat klinkt als vooruitgang. Dus dat allerlei reactionaire en christelijke organisaties tegenstander zijn, is niet gek. Maar volgens een voormalig bastion van vooruitgang, de feministische beweging, is dat het niet. Volgens hen liggen er allerlei gevaren op de loer en al die veronderstelde gevaren worden weer eens afgewenteld op de vrouw.

Transgenders en asielzoekers

In het manifest zelf, in Twitter-discussies en artikelen en stukjes lees ik telkens hetzelfde patroon:

1) Transvrouwen zijn mannen die doen alsof ze vrouw zijn (transmannen worden volkomen genegeerd, ook in deze discussie);

2) Rechten voor transvrouwen zijn een bedreiging voor echte vrouwen (in een wereld die toch al heel gevaarlijk voor hen is.

Dit doet mij wel héél erg denken aan een andere recente maatschappelijk discussie:

1) Asielzoekers zijn gelukszoekers die doen alsof ze in gevaar zijn;

2) Deze asielzoekers krijgen huizen en geld cadeau terwijl de eigen bevolking geen woning heeft en de rekeningen niet kan betalen.

Kwetsbaren aanpakken

En er zijn wat meer paralellen tussen beide kwesties. Zo zijn de aannames niet geworteld in de realiteit of conform de huidige wetenschappelijke consensus (transgenders wegzetten als mensen die doen alsof is van een stuitende domheid). Maar het ergste is wat mij betreft dat simpelweg door het voeren van deze discussies de kwetsbare groepen waar het om gaat, worden beschadigd.

Het protest tegen de aanpassing van de transgenderwet is volgens Bart Jan Spruyt en zijn feministische aanhang niet op gang gekomen omdat men bang voor de agressie van trans-activisten. Een handige truc waarmee je de rol van slachtoffer behoudt terwijl de je de agressor bent en je ook meteen een alternatieve verklaring geeft voor de impopulariteit van je standpunt. De individuele transgender is kwetsbaar. Kwetsbaar voor misbruik, geweld en depressie. De gemeenschap heeft groot gelijk om daar direct tegen te protesteren en het niet te negeren zoals een door sommige opiniemakers werd geopperd.

Een asielzoeker heeft geen verweer

Een laatste overeenkomst in hoe transgenders en asielzoekers worden aangevallen die ik wil benoemen, is de volgende: in plaats van de werkelijke oorzaak aan te pakken, wordt een nóg weerlozer slachtoffer aangevallen. Naar beneden trappen dus.

In de asielzoekers kwestie gaat het niet écht om asielzoekers. Het gaat om zorgen over de eigen toekomst, je baan, je inkomen, je woning. Allemaal zaken waarvoor je eigenlijk de rijke, bezittende macht aan moet vallen om het op te eisen. Bij de mensen die te veel hebben, kun je door te demonstreren, lobbyen en staken opeisen waar je recht op hebt. Een asielzoeker heeft niets, zelfs geen verweer.

Bij het protest tegen deze transgender wet gaat het, op een paar kleinzielige uitzonderingen na, niet écht om de rechten voor transgenders. Het gaat hen om de onveiligheid die veel vrouwen nog steeds ervaren. Een volstrekt terechte zorg, waar we allemaal wat aan moeten doen. Maar dan moet je je niet voor een populistisch karretje laten spannen dat enkel ten doel heeft om de bestaande machtsstructuren te handhaven. We moeten doen wat Tim Hoffman in zijn nieuwe programma propageert: Pak de macht.

Wat dan wél?

Die onveiligheid voor vrouwen kun je wél effectief bestrijden door betere seksuele vorming aan te bieden op scholen. Door alcohol ge- en vooral misbruik terug te dringen. Door seksueel delinquenten beter te behandelen en vooral door de maatschappelijk norm te bestrijden dat al dat zogenaamd mannelijke gedrag oké is.

In plaats van de makkelijk te winnen strijd aan te gaan met groepen die nóg minder weerbaar zijn dan jij, zou je het op moeten nemen tegen de machtige systemen boven ons. Precies de systemen die mannetjes als Bart Jan Spruyt écht willen verdedigen.

Deze column is geschreven voor Marketing Report.

Foto uit ND.