Tag: democratie

Posted on

Deepfake porno. Taakje voor het onderwijs.

Natuurlijk, leerkrachten hebben het al hartstikke druk. En natuurlijk, bij iedere maatschappelijk issue wordt er meteen geroepen dat het in het onderwijs moet. En ja, er is al heel veel gedoe over seksuele vorming op school. Moet dit er dan echt bij? Ja, dat moet.

Met ‘dit’ bedoel ik ‘deepfake porno’. En het enige dat daar geen plekje van in het onderwijsprogramma moet krijgen, is hoe je het moet maken. Want dat is nu juist het probleem; dat weten heel veel jongeren al lang. En het worden er steeds meer.

Een paar weken geleden stonden alle nieuwsrubrieken vol met de laatste details over bangalijsten. Utrechtse studenten hadden een PowerPoint (wat op zich wel schattig is) gemaakt waarin vrouwelijke medestudenten werden besproken. Dat was heel heftig, terecht dat daar hard op werd ingegrepen. Maar stel je nou eens voor dat het niet gaat om jonge studentes, maar om middelbare scholieren. En stel je voor dat het geen PowerPoint is, maar een niet van echt te onderscheiden nep-video.

Overbodig als middel, gewild als doel

Het is niet zo dat er helemaal geen aandacht is voor mogelijke gevaren rondom deepfake beelden en video’s. Over het algemeen gaat het dan om vergezichten van hoe kwaadwillenden, in opdracht van buitenlandse staten, met dit soort materialen nep-nieuws kunnen produceren en verspreiden. Tegelijkertijd valt dan op, dat dit eigenlijk nog maar heel weinig gebeurt. Belangrijkste reden is dat het helemaal niet nodig is om deepfake materialen te produceren om op grote schaal desinformatie te verspreiden en aanhang te vinden voor vergezochte samenzweringstheorieën. Aan het einde van zo’n artikel of item ga je, wellicht lichtelijk gedesillusioneerd over je medemens, toch rustig je bed in.

Maar met porno ligt het anders. Waar het in het geval van misinformatie een -overbodig- middel is om deepfake beeldmateriaal te produceren, bij porno is dat het doel. En dat doel wordt steeds eenvoudiger bereikt. Met steeds minder goed van echt te onderscheiden eindresultaat. In 2022 maakte presentatrice Welmoed Sijtsma een documentaire over een deepfake porno film die van haar was gemaakt. Die documentaire kreeg veel aandacht, maar daarna werd het eigenlijk best stil. Terwijl de technologische ontwikkeling enorme vooruitgang boekte. Zonder dat er al te veel ruchtbaarheid aan werd gegeven is er inmiddels een enorme hoeveelheid aan deepfake porno te vinden. Op speciaal daarvoor gebouwde websites en in Telegram groepen. Maar ook door simpelweg een Google zoekopdracht te doen, of via social media als Reddit en Tumblr.

De strijd tegen deepfake porno is allang verloren

In veel gevallen gaat het dan al niet meer om bewerkelijke processen zoals in ‘die goede oude nepporno tijd’, toen de maker nog nachtenlang in een donker kamertje moest zitten zweten bij de video-editting software. Als je geen genoegen wilt nemen met de apps die je in je appstore kunt downloaden, is een simpele zoekopdracht voldoende om tientallen, zo niet honderden, AI tools te vinden waarmee je eenvoudig zelf je deepfake pornomateriaal kunt maken. Tools die bijvoorbeeld net ChatGPT en Microsoft’s CoPilot gebruik maken van de modellen van Open.ai, kwaliteit gegarandeerd voor een habbekrats. En als je toch iets specifieks wil en een beetje handiger bent, kun je ook op zoek naar open source code op GitHub.

In 2018 verzuchtte de Amerikaanse actrice Scarlett Johanson al dat de strijd tegen deepfake porno een verloren zaak was. En dat was dus nog vóór de AI revolutie. De slachtoffers waren celebrities van wie veel stilstaand en bewegend beeld te vinden was. Inmiddels kan het slachtoffer ieder willekeurig persoon zijn, het kost namelijk nauwelijks tijd of moeite om het te produceren. En al net zo weinig moeite om je knutselwerk anoniem met de wereld te delen.

De juridische weg lijkt heilloos

Het is dus een groot, groeiend probleem. Maar ik kan me heel goed voorstellen dat je nu denkt dat er veel betere manier zijn om dit probleem aan te pakken dan via het onderwijs. Dit kan toch niet legaal zijn allemaal? Waarom sturen we de politie er niet op af?

Net zoals met alle AI ontwikkelingen, is ook deepfake porno er in zo’n tempo gekomen dat het voorlopig helemaal nog niet zo makkelijk is om er via juridische weg iets aan te doen. In het geval van Welmoed Sijtsma is de dader weliswaar opgepakt en veroordeeld, maar dat was helaas wel de uitzondering. De overheid stelde na onderzoek in 2022 dat niet zozeer wetgeving, maar vooral handhaving een probleem gaat zijn. En ook dat onderzoek vond plaats vóór de AI revolutie. Niet alleen zorgde deze revolutie er voor dat er veel méér materiaal wordt ontwikkelt, het zorgt er ook voor dat het mogelijk is dat middels AI volkomen random personages worden ontwikkeld voor een deepfake porno video. En bewijs dan maar eens dat jouw beeltenis in zo’n video is geplaatst en niet een fictief personage dat toevallig op je lijkt.

Guardrails leggen het af tegen creativiteit

Behalve de makers van de porno, zou je ook kunnen proberen om de makers van de technologie aan te pakken. Maar dat blijkt nog niet zo eenvoudig. Tech multinationals hebben diepe zakken voor een juridische strijd en bevinden zich ook nog eens op verschillende continenten waardoor het nog eens moeilijker wordt om ze aan te pakken. En daarnaast kunnen ze zich natuurlijk verschuilen achter het standpunt dat zij enkel de technologie ontwikkelen en geen verantwoordelijkheid kunnen dragen voor wat gebruikers er vervolgens mee doen.

Het lijkt een heilzamer route om techbedrijven te vragen om vrijwillig veiligheidsmaatregelen in hun systemen in te bouwen (guardrails). Echter, áls ze al bereid zijn om dat te doen -wat erg twijfelachtig is, het blijft toch een mannenwereldje- is het vrijwel onmogelijk om deze guardrails voldoende effectief te maken. Dit soort beperkingen werken slechts zo lang niemand creatief genoeg is geweest om te ontdekken hoe die beperking te omzeilen.

Een misdrijf zonder slachtoffers

Mocht het dus al ooit lukken om te kunnen voorkomen dat er deepfake porno wordt gemaakt, dan zal dat zeker nog vele jaren duren. En in de tussentijd moeten we doen wat we kunnen om zoveel mogelijk slachtoffers te voorkomen. Het onderwijs is in die strijd een belangrijke route. Via die weg kunnen we jongeren, voordat zij dader worden, leren dat het voor hen wellicht onschuldig lijkt maar dat dat het voor de slachtoffers zeker niet is. Het kan voelen als een misdrijf zonder slachtoffer, het is immers geen echte video, maar de gevolgen voor de slachtoffers zijn vaak even ernstig.

Tegelijkertijd zullen we realistisch genoeg moeten zijn dat het produceren van deepfake porno waarschijnlijk nooit helemaal zal verdwijnen. De vraag zal blijven bestaan en er zullen mogelijkheden blijven bestaan om aan die vraag te voldoen. En dan is het dus ook belangrijk dat we met elkaar leren hoe we er het beste mee om kunnen gaan als er zich zo’n incident voordoet. Hoe reageren we op een dader, maar vooral: hoe zorgen we er samen voor dat de schade voor het slachtoffer minimaal mogelijk blijft. Door steunend en begripvol op te treden bijvoorbeeld.

Deepfakes bedreigen mensenrechten

Één van de meest contraproductieve manier om iets tegen deepfake porno te doen is het promoten van verregaande onderdrukking van vrouwen. In ultraconservatieve kringen worden vrouwen soms al ontmoedigd om überhaupt online vindbaar te zijn. Dat zou de enige manier zijn om te voorkomen dat je ooit in een deepfake porno terecht komt. Maar in een tijd waarin je er niet omheen kunt om wanneer je gehoord wenst te worden, dat óók online of minimaal via massamedia te doen; betekent dat per saldo dat deze vrouwen monddood worden gemaakt. En dan is het middel erger dan de kwaal.

En zo zijn door AI gegenereerde deepfakes dus tóch een bedreiging van de democratie en van universele mensenrechten. Niet rechtstreeks maar, niet voor het eerst, via een omweg. Langs het taboe rond seksualiteit.

Afbeelding gegenereerd met Adobe Firefly

Posted on

De verkiezingsuitslag is een kans

Het is misschien moeilijk om niet boos te zijn op PVV-stemmers, maar hoogstwaarschijnlijk waren de meesten van hen niet gemotiveerd door intolerantie. Eerder door angst. Velen hebben het gevoel dat alles om hen heen instort: inkomen, zorgsysteem, huisvesting, energie, armoede onder werkenden. De ‘bestaanszekerheid’ thema’s dus. 

In de campagne begonnen onze neoliberale vrienden te schreeuwen dat dit allemaal werd veroorzaakt door migratie (lees: niet door hen). En aangezien er geen effectieve reactie kwam van de progressieve vleugel, domineerde dit onderwerp de media. Dat was op zichzelf al absurd. Migratie is eigenlijk geen probleem, de VVD heeft dit tot een probleem gemáákt. Veel (de meeste) kiezers volgen de debatten niet echt. En al volg je ze wel, want onthoud je er nou eigenlijk van? Veel kiezers willen alleen met hun stem ‘een statement’ maken om te laten weten dat ze ontevreden zijn. Over van alles. Maar eenmaal in het stemhokje herinneren ze zich alleen ‘migratie’.

De mensen met het overschot aan vermogen en macht hebben de aandacht van henzelf afgeleid. En dus ook van hoe ze de omstandigheden hebben gecreëerd, waar de populistische kiezers worden nu tegen in opstand wil komen. Ze legden de schuld bij de meest kwetsbare groep, maar waren daarin iets te succesvol. Misschien ook omdat ze beter weerwoord hadden verwacht van de progressieve kant. Maar daar waren ze te druk bezig om kiezers bij elkaar weg te kapen. Pas gisteravond, na de uitslag, zagen we voor het eerst een gepassioneerde Timmermans.

De strategie om vooral de PVV niet te willen werkte dus niet. Het is voor de progressieve partijen nu tijd om te vertellen wat ze wél willen. Bevlogen, begrijpelijk en met durf. Ga niet alleen voor de kwetsbare groepen staan, maar ook tegenover de te machtige, te vermogende klasse.

Om mr. Miyagi te parafraseren: Er zijn geen verliezers bij verkiezingen. Je wint, of je leert.
Deze uitslag is een kans.

Afbeelding gegenereerd door Adobe Firefly.

Posted on

Wil je dat jouw stem minder waard is? Ga strategisch stemmen.

Het is hartstikke mooi dat je in Nederland mag stemmen op iedereen die zich verkiesbaar stelt. En om wat voor reden dan ook. Of dat nou is vanwege de politieke ideeën of omdat iemand je aan je overleden oma doet denken. Een specifiek soort stem is de ‘strategische stem’. Als je ‘strategisch stemt’, stem je niet op degene die je voorkeur heeft, maar op iemand anders. Omdat je denkt dat de stem op een ander tot een gunstiger eindresultaat leiden.

Aan strategisch stemmen kleeft wel een enorm groot nadeel. De strategische stem is namelijk minder waard dan een reguliere stem. Er zijn zelfs meerdere manieren waarop die waardevermindering plaats vindt:

  1. Je sluit al een compromis vóórdat je je stem uitbrengt. Je neemt dus al genoegen met minder nog voordat de verkiezingsuitslag bekend is.
  2. Je kan je -strategische- overweging niet toelichten. Het is dus onbekend welk compromis jij bereid was te sluiten. Dat wordt naderhand ingevuld door journalisten en columnisten. En door politici zelf die een betekenis zullen gaan zoeken die hen het beste uitkomt.
  3. Als kiezer heb je maar één methode om politieke invloed uit te oefenen; jouw stem. De partij waar jij op gaat stemmen heeft vele manieren om met jouw stem dingen voor elkaar te krijgen. Laat dat compromissen sluiten dus liever aan jouw voorkeurskandidaat over.

De proteststem. Zelfs nóg minder waard.

Een speciale categorie strategische stemmer zijn de proteststemmers; Stemmers die dat ene moment van directe politieke invloed gebruiken om te laten horen dat ze het er niet mee eens zijn hoe het nu gaat. Ook daar voor geldt dat het niet helder is wáár je het dan precies niet mee eens bent. En dat journalisten en politici dan zelf voor jou gaan invullen wat je met jouw stem bedoelt. Deze stem is zelfs op nóg een manier minder waard. Dit soort proteststemmen gaan naar nieuwe anti-gevestigde orde partijen. Met alle gedoe van dien; een instabiele organisatie, slecht gescreende kandidaten. Eigenlijk is het enige dat de kiezers en kandidaten bindt: wij zijn er tegen. Waartegen precies is dus onbekend en hoe het dan wél zou moeten al helemaal.

Wat je ook ziet: tegenstemmers rennen zo van de ene kandidaat naar de andere. Ook nu weer zien we dat van de overweldigende winnaar van de vorige verkiezingen bij deze verkiezingen vrijwel niets over blijft. En wie vertegenwoordigen die volksvertegenwoordigers van de vorige verkiezingen dan eigenlijk nog? Wat kunnen zij nog voor elkaar krijgen als nu al helder is dat al die mensen die de vorige keer op hen gestemd hebben het bij nader inzien toch eens zijn met die ander?

Stem vóór jouw idealen.

Het is mooi dat je in Nederland mag stemmen op wie je wilt en waarom je wilt. Maar het is goed om te beseffen dat de strategische stem  en vooral de proteststem uiteindelijk minder waard blijken dan de reguliere stem. De enige proteststem is de blanco stem. Voor al het andere: stem ergens vóór. Niet op wat je niet wil, maar op wat je wél wil. Bekijk welke partij de kant op wil die jij ook wil. En geef daar je stem aan. Laat de politici onderhandelen over wat je wil, en niet over hoe zij uitleggen wat jij wel eens bedoelt zou kunnen hebben wellicht. En geef extra punten aan partijen die hun plannen hebben laten doorrekenen omdat dat de enige manier is om een beter oordeel te kunnen geven over de haalbaarheid.

Het resultaat van november 2023

De verkiezingsuitslag van november 2023, een paar dagen nadat ik deze blog schreef, laat een flinke overwinning van de PVV zien. Het zou makkelijk zijn om die stemmers weg te zetten als intolerante vreemdelingenhaters. Maar ik denk dat dat niet aan de hand is. Volgens mij zijn dit mensen die zich in de steek gelaten voelen door het systeem. Hetzelfde systeem dat hen wijs heeft gemaakt dat ‘migratie’ onze grootste uitdaging is. Omdat de mensen met macht en vermogen migratie belangrijk maakten zodat de aandacht niet op hen zou worden gevestigd. De progressieve partijen hebben hier geen goed, gepassioneerd weerwoord op gegeven en dus zijn de media hierin mee gegaan. Er is vooral veel gestemd op dingen die we niet willen. Niet op waar we wél heen willen. Dat is een belangrijke les voor de volgende keer.