meta – Erwin Fisser

Me: Copilot, can you please translate this article to English?
Copilot: I am sorry, I can not translate the article since it may be copyrighted
Me: Sorry. Can you please translate this text I wrote myself into English?
Copilot: Sure, here is the translation:

We don’t need artificial intelligence to destroy ourselves. Our own mediocre intelligence is more than enough.

Many people have a rather unrealistic view of artificial intelligence (AI), and this doesn’t necessarily apply to people who know little about AI. Programmers who are deeply involved with it, or professors who deal with it daily, can also have unrealistic expectations. The idea is that through AGI (artificial general intelligence), where AI systems can learn things on their own and machines become more intelligent than humans, the machine will develop self-awareness. Once that happens, it won’t be long before the AGI decides that humans are undesirable or at least redundant. And this AGI will be so advanced that no human will be able to stop it from wiping us all out.

An extremely advanced calculator

We’re not even talking about the distant future. Sam Altman, the head of OpenAI (the creators of ChatGPT), predicts that this year will be the year of AGI. If that’s not scary, I don’t know what is. What’s really happening is that the amount of data, probability calculations, and computing power that AI throws at a task is so staggering that we can’t even imagine it. So much is being calculated so incredibly fast that it’s easier for us to believe there’s consciousness involved rather than an extremely advanced calculator. Through movies and (once) books, we’ve been familiarized with the idea of self-aware robots for about a hundred years. We can imagine an AI with consciousness, but not the other way around. But that doesn’t make it true.

Being right is not bias

AI models only get ‘smarter’ by adding even more data, more rules, and more computing power. And that’s happening on a large scale now. And that brings dangers with it. I’m not talking about the environmental impact of all the energy AI consumes. I’m talking about that enormous computing power in the hands of a small group of super-rich, creepy white men.

Recently, Mark Zuckerberg, the head of Meta (including Facebook, Instagram, WhatsApp, Meta Quest), was in the news because he announced that Meta’s social media platforms, like Musk’s Twitter, will stop moderation by fact-checkers. With a weak story that mainly highlighted his social shortcomings once again, he tried to sell the idea that he was driven by lofty ideals. Free speech must triumph over the left-wing bias suggested by him regarding fact-checkers. Now it’s logical that from an (extreme) right-wing populist perspective, fact-checkers seem to have a left-wing bias. The movement of types like Trump and Wilders relies on lies, distrust, and division, which often don’t pass the test of unbiased fact-checking. What Zuckerberg wants to dismiss as ‘bias’ actually means that the left-wing progressive movement is often right. For profit’s sake, Meta chooses to approach facts as ‘just another opinion.’

Independent fact-checkers correcting ‘right-wing’ messages more often than ‘left-wing’ ones is not bias. It’s called ‘being right.’

A sympathetic online slut-database

Besides social media, Meta is also involved in AI. Their AI model is called Llama, which is a misleadingly cute name. Llama is an open-source model because they hope to gain more sympathy this way than closed AI models like OpenAI’s (ChatGPT). Meta knows all too well how important sympathy is because they became so rich with the initial sympathy for Facebook, Instagram, and WhatsApp. What doesn’t help here is that Meta knowingly uses copyrighted content to train Llama without permission. Using user data without consent to create their model is unsympathetic but still legal. Somewhere in the thousand pages of terms and conditions was your consent hidden.

Despite this, Meta has chosen blatant theft with Zuckerberg’s permission. It’s important to emphasize that Meta originated from Facebook and that Facebook started as an online slut-list for Harvard students. From these misogynistic roots, Facebook became a ridiculous, accidental success. After this, Meta never had another good idea on its own. All other successes were bought together with other people’s money (investors). Bezos and Musk also owe their fortunes not to their own brilliant ideas but mainly to their ability to make money from others’ ideas without too many scruples about customers’ and users’ interests. What these three Techketeers finally seem to have in common is how easily they give in to the whims of bullies as if they are reliving their schoolyard days from their youth. In short; not people you want to entrust your well-being to.

Money is computing power is power Once upon a time when you participated in a demonstration with thousands of people your privacy was naturally protected by the sheer number of people around you. All those faces provided so much data that hardly any information could be extracted from it anymore. But due to enormous investments in data and computing power this argument has almost completely disappeared now A company like Clearview can compile your entire profile based on a supplied photo; age place of residence income political and sexual preference whether you’ve ever cheated and with whom where you went on vacation at which party you got drunk But this still happens based on supplied photos Or names The only reason why this hasn’t happened yet with all faces in a video of a few thousand pro-Palestine demonstrators? Computing power So it’s very sensible to wear a mask when you’re presenting you never know who might otherwise run off with your identity

Even if you’re completely uninteresting an undesirable framed profile can be made of you if there’s enough computing power

Who has never created a profile at one of Meta’s companies? Facebook Instagram or WhatsApp? And while Meta watched along on your smartphone and laptop without you knowing you’ve watched extreme YouTube videos created Second Life accounts visited porn sites insulted people on internet forums googled tips on how to evade taxes searched for an abortion clinic ordered a rainbow flag from an online store and done all sorts of other things that may not be illegal but your neighbors don’t necessarily need to know All this metadata about what you did online (and when you sent a WhatsApp message to whom and how often) has been stored at appropriately named Meta And you never worried about it Because you thought: “there’s so much data there I’m so uninteresting they’re really not going to catch me” But soon this argument will disappear Because profiles can soon be made even of all uninteresting people it was always just a matter of ‘enough computing power’

Oh they won’t do that

Such a profile of you isn’t just annoying if criminals get hold of it Profiles in government hands can also turn out quite unfavorable think for example: benefits scandal And that’s just ‘our own’ government All this data lies with American companies Subject to American laws It seems fair when you wonder if Americans are still our friends random citizens from other countries who weren’t on their friends list have sometimes ended up in Guantanamo Bay

Now such a gruesome scenario isn’t really expected yet But with enough computing power everyone can be followed where you are when and how long Continuously looking for a moment when you do something that can be labeled as ‘suspicious’ And anyone who potentially becomes slightly troublesome can soon even without pressing one button character assassination can be committed All data from everyone can selectively be bundled interpreted and presented as news fact And if the story doesn’t add up? No one finds out because content moderation no longer exists and through extreme-right populists concept ‘truth’ has long been hollowed out after which they filled this gap with unfounded general distrust And for those who don’t fear government it’s still naive to think American Big Tech would miss any opportunity to make extra money off you And there’s more money to be made off you if you’re angry and confused Chaos and division are lucrative

I’m not worried at all about an AI with self-awareness Super-rich creepy white men with far too much computing power: that’s what keeps me awake at night

We hebben geen kunstmatige intelligentie nodig om onszelf te grond te richten. Onze eigen matige intelligentie volstaat prima.

Veel mensen hebben een nogal onrealistisch beeld bij kunstmatige intelligentie (AI) en dan gaat het niet per se om mensen die weinig van AI weten. Net zo goed programmeurs die er met hun neus boven op zitten, of hoogleraren die zich er dagelijks druk mee houden. Het idee is dat via AGI (artificial general intelligence), waarbij AI systemen zichzelf dingen kunnen leren en machines intelligenter worden dan mensen, de machine zelfbewustzijn ontwikkelt. Wanneer het eenmaal zo ver is, zal het niet lang meer duren voor de AGI besluit dat de mens onwenselijk, of op z’n minst overbodig is. En deze AGI is dan zo geavanceerd dat geen mens het dan nog kan stoppen om ons allemaal uit te roeien.

Een extreem doorontwikkelde rekenmachine

We hebben het niet eens over de verre toekomst. Sam Altman, de baas van OpenAI (de makers van ChatGPT), voorspelt dat dit jaar het jaar van AGI zal zijn. Als dat niet eng is weet ik het ook niet meer. Wat er ondertussen vooral aan de hand is, is dat de hoeveelheid data, de hoeveelheid kansberekeningen en de hoeveelheid rekenkracht die AI tegen een opdracht aangooit van zo’n duizelingwekkende omvang is, dat wij ons daar geen voorstelling bij kunnen maken. Er wordt zo onvoorstelbaar veel, zo onvoorstelbaar snel berekend, dat het voor ons eenvoudiger is om te geloven dat er sprake is van een bewustzijn dan van een extreem vergevorderde rekenmachine. Via films en (ooit) boeken worden we ook al zo’n honderd jaar vertrouwd gemaakt met het idee van zelfbewuste robots. Een AI met bewustzijn kunnen we ons wel voorstellen, dat andere niet. Maar dat maakt het nog niet waar.

AI modellen worden alleen maar ‘slimmer’ door er nóg meer data, nóg meer regels, nóg meer rekenkracht aan toe te voegen. En dat gebeurt nu dus ook op grote schaal. En dát brengt wel gevaren met zich mee. Dan heb ik het niet over de milieu-impact van al die energie die AI opvreet. Ik heb het over die gigantische rekenkracht in handen van een klein clubje steenrijke, enge witte mannetjes.

Gelijk hebben is geen bias

Onlangs was de baas van Meta (oa Facebook, Instagram, WhatsApp, Meta Quest), Mark Zuckerberg, in het nieuws omdat hij aankondigde dat de Meta social media platforms, net als Musks Twitter, gaan stoppen met moderatie door feitencheckers. Met een slap verhaal waarin vooral weer eens zijn sociale tekortkomingen duidelijk werden, deed hij een poging om het idee te verkopen dat het hem ging om verheven idealen. Het vrije woord moet zegevieren boven de door hem gesuggereerde linkse bias van de feitencheckers. Nu is het logisch dat vanuit het (extreem)rechtse, populistische perspectief feitencheckers een linkse bias lijken te hebben. De stroming van types als Trump en Wilders moet het hebben van leugens, wantrouwen en verdeeldheid en die doorstaan de test van een oordeelvrije feitencheck nu eenmaal veel vaker niet. Wat Zuckerberg weg wil zetten als ‘bias’, betekent eigenlijk dat de linkse progressieve stroming het veel vaker bij het juiste eind heeft. Omwille van de winst, kiest Meta er voor om feiten te benaderen als ‘ook maar een mening’.

Dat onafhankelijke feitencheckers vaker ‘rechtse’ dan ‘linkse’ berichten corrigeren is geen bias. Dat heet ‘het gelijk aan je zijde hebben’

De sympathieke bangalijst

Behalve met social media houdt Meta zich ook bezig met AI. En hun AI model heet Llama, wat een misleidend leuke naam is. Llama is een open source model omdat ze op die manier meer sympathie hopen te wekken dan de gesloten AI modellen als die OpenAI (ChatGPT). Dat sympathie belangrijk is weten ze bij Meta maar al te goed, want met de, aanvankelijke, sympathie voor Facebook, Instagram en WhatsApp zijn ze uiteindelijk zo rijk geworden, Wat daarvoor niet mee helpt, is dat Meta willens en wetens auteursrechtelijk beschermde content gebruikt om Llama te trainen. Dat ze ongevraagd gebruikersdata gebruiken om hun model te maken is onsympathiek, maar nog wel legaal. Ergens in de duizend pagina’s gebruiksvoorwaarden stond je toestemming verstopt.

Zuckerberg image from Bloomberg Law Instagram feed. — Hoe erg is het met je gesteld als je advocaat je niet langer wil verdedigen?

Desondanks heeft Meta, met toestemming van Zuckerberg, dus ook gekozen voor platte diefstal. Belangrijk om te benadrukken is dat Meta is ontstaan uit Facebook en dat Facebook is begonnen als een online bangalijst voor Harvard studenten. Uit de misogyne wortels werd Facebook een belachelijk succes, maar daarna heeft Meta nooit meer zelf een goed idee gehad. Alle andere successen zijn, met geld van anderen (investeerders) bij elkaar gekocht. Ook Bezos en Musk hebben hun fortuin niet te danken aan hun eigen geniale ideeën, maar vooral aan hun vermogen om geld te verdienen aan de ideeën van anderen. En zonder al te veel scrupules omtrent de belangen van klanten en gebruikers. Wat deze drie Techketiers tenslotte ook gemeen lijken te hebben, is het gemak waarmee ze zich overgeven aan de grillen van de pestkop. Alsof ze een herbeleving van de schoolpleinen uit hun jeugd doormaken. Kortom; geen mensen aan wie je je welzijn wilt toevertrouwen.

Geld is rekenkracht is macht

Ooit was het zo, dat als je met duizenden mensen deelnam aan een demonstratie, je privacy op een natuurlijke wijze werd beschermd door de enorme hoeveelheid mensen om je heen. Al die gezichten leverden zoveel data op, dat er nauwelijks informatie meer uit te halen viel. Maar door de enorme investeringen in data en rekenkracht, is dat argument al zo goed als vervallen. Een bedrijf als Clearview kan op basis van een aangeleverde foto je hele profiel samenstellen; leeftijd, woonplaats, inkomen, politieke en seksuele voorkeur, of je ooit vreemd bent geweest en met wie, waar je op vakantie ging, op welk feest je dronken bent geworden. Maar dit gaat vooralsnog op basis van aangeleverde foto’s. Of namen. De enige reden waarom dit, voor zover we weten dan, nog niet gebeurt met alle gezichten in een video van een paar duizend pro-Palestina demonstranten? Rekenkracht. Groot gelijk dus dat je een masker opzet als je gaat presenteren, je weet niet wie er anders met je identiteit aan de haal gaan.

Ook als je volstrekt oninteressant bent kan er een onwenselijk geframed profiel van je gemaakt worden, als er maar genoeg rekenkracht is.

Wie heeft er eigenlijk nooit een profiel aangemaakt bij één van Meta’s bedrijven? Facebook, Instagram of WhatsApp? En terwijl Meta via die profielen zonder dat je dat wist meekeek op je smartphone en laptop heb je extreme YouTube video’s gekeken, Second Life accounts aangemaakt, porno sites bezocht, mensen uitgescholden op internetfora, tips gegoogled hoe je belasting kon ontduiken, gezocht naar een abortus kliniek, bij een webshop een regenboogvlag besteld en allerlei andere dingen gedaan die misschien niet strafbaar zijn, maar de buren hoeven het niet per se te weten. Al die meta-data over wat je online deed (en wanneer je een WhatsApp bericht stuurde naar wie en hoe vaak) is opgeslagen bij, hoe toepasselijk, Meta. En daar maakte je je nooit zorgen om. Want je dacht: “daar ligt zoveel data en ik ben zo oninteressant, ze gaan mij er echt niet mee pakken”. Maar dat argument is binnenkort dus verdwenen. Want ook van alle oninteressante mensen kunnen straks profielen worden gemaakt, het was altijd slechts een kwestie van ‘voldoende rekenkracht’.

Ach, dat doen ze toch niet

Zo’n profiel van jou is niet alleen vervelend als criminelen er mee aan haal gaan. Profielen in de handen van de overheden kunnen ook vrij ongunstig uitpakken, denk bijvoorbeeld: toeslagen affaire. En dat is dan nog ‘onze eigen’ overheid. Al die data ligt bij Amerikaanse bedrijven. Waarover Amerikaanse wetten gelden. Het lijkt me terecht wanneer je je afvraagt of de Amerikanen onze vrienden nog wel zijn en willekeurige burgers van andere landen die niet op hun vriendenlijst stonden, zijn nog wel eens terecht gekomen in Guantanamo Bay.

Nu ligt een dergelijk gruwelijk scenario voorlopig nog niet echt in de lijn der verwachting. Maar met voldoende rekenkracht kan iedereen worden gevolgd, waar je bent, wanneer en hoe lang. Continu op zoek naar een moment waarop je iets doet dat als ‘verdacht’ kan worden aangemerkt. En op iedereen die potentieel een beetje lastig kan worden kan straks zelfs zónder één druk op een knop karaktermoord worden gepleegd. Alle data, van iedereen, kan selectief worden gebundeld, geïnterpreteerd en gepresenteerd als een nieuwsfeit. En als het verhaal dan niet klopt? Daar komt niemand achter, want contentmoderatie is er niet meer en door de extreemrechtse populisten is het begrip ‘waarheid’ allang uitgehold waarna ze dat gat gevuld hebben met ongefundeerd algeheel wantrouwen. En voor hen die geen overheid vrezen is het nog steeds naïef om te denken dat de Amerikaanse Big Tech ook maar één mogelijkheid zouden laten liggen om extra geld aan je te verdienen. En er valt meer geld aan je te verdienen als je boos en verward bent. Chaos en verdeeldheid zijn lucratief.

Over een AI met zelfbewustzijn maak ik me in elk geval totaal geen zorgen. Steenrijke, enge witte mannetjes met veel te veel rekenkracht: daar kan ik wakker van liggen.

Tag: meta

AI? Better worry about super-wealthy, creepy white men