Vrouwen in de IT, Bill Gates, bias, deskilling, Wall Street en ... Hillary Clinton! - week 14

Vrouwen en technologie, alweer

We moeten het er maar weer over hebben... vrouwen en technologie. Naast alle lieve, ontroerende en opbeurende reacties op mijn Volkskrant-stuk van vorige maand, was er natuurlijk ook weer iemand die bromde, want, zo schreef hij over mijn opmerkingen over GamerGate, n=1. Nu is die hele opmerking natuurlijk al vrij maf, want het was niet n=1 mensen, en zelfs al was het dat, dan kun je van de uitingen van één mens nog een hoop opsteken over vooroordelen. Maar goed, I can't help myself, dus hier toch nog voor mensen die ook dachten dat GamerGate een soort one offje was, en dat Silicon Valley verder een paradijselijke oase van gendergelijkheid is/was, deze longread uit The Guardian. In het stuk komt onder andere een artikel uit Upside Down magazine uit 1990 voor getiteld “The pussification of Silicon Valley”, maar helaas is dat niet meer terug te vinden, want dat had ik wel willen lezen! (Ik kan je niet aanraden om "Upside Down Magazine Pussy" in te tikken in Google, oops, ik deed dit in de zon op een terrasje en klikte van schrik al mijn browsertabs dicht!). En er is nog meer geschiedenis over vrouwen en programmeren, natuurlijk, lees ook dit mooie stuk over de geschiedenis van COBOL, waarin ook programmeertalen en feminisme samen aan bod komen:

Many of these men fancied themselves to be a cut above the [women] programmers who came before, and they often perceived COBOL as inferior and unattractive, in part because it did not require abstruse knowledge of underlying computer hardware or a computer science qualification.

En die attitude zie je terug in software, de voorbeelden zijn talrijk, zo schreef Wired onlangs over seksistische (en andere!) bias in SORA. Wil je nog dieper duiken in de oorzaken, TechPolicy legt de oorzaken van bias in detail uit.

En wat doet al dat neerkijken op dan met vrouwen? Dit is een goed moment voor een shoutout naar de vreselijk dappere Rachel Los die in haar proefschrift aan TU Delft een "anti-acknowledgements" sectie opnam, waarin ze iedereen noemt die haar ontmoedigde door de jaren heen. Ik moest erbij denken aan dit stuk van Caroline Criado-Perez (van het boek Invisible Women) over imposter syndrome. Zij schrijft dat volgens haar imposter syndrome niet bestaat, want:

I think that women in positions of authority who feel like imposters are reacting very rationally to a culture that treats them as imposters.

Ja, zo is het. Ik voel me geen imposter omdat ik niet goed genoeg zou zijn, ik voel me een imposter omdat mensen mij behandelen alsof ik er niet bijhoor.

Bill Gates, al 10 jaar gebabbel over EdTech

Bill Gates is weer eens op een technologie gaat het onderwijs veranderen-tourtje, hij schoof onlangs aan bij Jimmy Fallon, en natuurlijk is hij weer eens vol lof over de kansen van AI in het onderwijs. Snijdt dat hout? Bepaal het zelf na het lezen van dit stuk over 10 jaar loze beloftes van Gates (ok dat was misschien een spoiler alert).

Het deed me denken aan deze podcast van Ed Zitron (sowieso een aanrader als je goed gaat op boze Britse monologen!) over hoe mensen met weinig verstand zich steeds tegen mooie media aan bemoeien, maar niet snappen wat een goed verhaal is (zo ging bijv Deadspin, de sport-blog ik aanhaalde in mijn stuk in de Volkskrant) ook ten onder.

En dan kan je denken: "ach ja Felienne, kan het jou schelen dat die man onzin praat?" Laat lekker zijn en ga in de zon zitten. Maar het kan me wel schelen, om twee redenen. Eén, iedere keer dat dit soort high profile lui iets roepen, moet ik nog op allerhande plekken gaan staan om uit te leggen dat het echt nergens op trekt, en ten tweede, omdat het echt serieuze gevolgen heeft als mensen zonder kennis zich met zaken bemoeien, met de Charter Schools in de VS liep het echt beroerd af! Je kan dat stuk in z'n geheel lezen (word je niet vrolijk van) of je kan het bij de laatste alinea houden, en dan heb je het ook wel gesnapt:

The amount of money in play is breathtaking. And the fiascos it has wrought put a spotlight on America’s class divide and the damage that members of the elite, with their money and their power and their often misguided but unshakable belief in their talents and their virtue, are inflicting on the less financially fortunate.

Zelfs Bill (en Melinda) zelf zeiden in 2020, toen hun plannen in duigen waren gevallen, dat biljardairs zich eigenlijk niet met de inhoud moeten bemoeien.

Deskilling

In mijn lezingen (ook komende week weer, op de Erasmus, er zijn nog kaartjes!) heb ik het vaak over deskilling, een marxistisch concept dat omvat dat als je vaardigheden niet gebruikt, je ze dan verliest. Ik geloof er erg in dat AI ervoor zal zorgen dat mensen sommige vaardigheden verliezen, en ik zie de laatste tijd steeds meer mensen die zich daar ook zorgen over maken.

Bijvoorbeeld dit openhartige stuk, waarin een docent van een Amerikaanse "middenmoot" universiteit (dat zou bij ons vergelijkbaar zijn met een HBO, denk ik), hoe zijn studenten steeds minder kunnen (en willen) lezen en leren. Het is heel erg herkenbaar en droevig tegelijk.

In IT-land was er dit mooie stuk van programmeur Luciono Nooijen die ziet hoe hij met AI programmeertools het idee had dat hij er zelf steeds minder bij was:

Anytime I defined a function, I paused in my editor to wait until the AI tools would write the implementation for me. It took some effort to remember what the syntax was to write unit tests by hand.

Nu kan je je echt wel afvragen hoe belangrijk het is om alles helemaal zelf te programmeren, er is altijd wel iets dat je moet opzoeken, maar ik vind dat gevoel toch belangrijk, omdat ik denk dat dit ook zo met chat-gpt zal gaan, dat je straks als je aan een stuk begint denkt.. ok AI, zeg het maar. Nooijen kijkt ook echt wel verder dan syntax in zijn stuk, en denkt na over het leerproces dat hoort bij een senior developer worden:

When I see a lot of hype about vibe coding [FH: dat is programmeren met behulp van AI, zonder dat je alle details zelf begrijpt], I can’t help but think: how do you exactly expect to vibe code your way to senior? Where will you get the skills from to maintain and extend the vibe-coded codebase when the AI tools are down, or have become too expensive?

Ik moest ook weer aan deskilling denken bij dit gran-di-oze stuk (wel echt alleen bedoeld voor opmaak-nerds) over het stille maar meedogenloze succes van markdown.

Thinking and learning is painful because growing is painful

Zo is het! Het is een cool stuk (van de makers van alternatieven voor Powerpoint en Word) over hoe schrijftools steeds maar complexer zijn geworden, maar die tendens nu om lijkt te keren. Ik heb al heel lange tijd een stuk in de pen over opmaak-software Latex en dit doet me er weer aan denken dat ik niet kan wachten om het te gaan typen!

Breder geschikt dan nog is dit stuk over de waarde van menselijke vertalingen. Vertalen met AI, het klinkt leuk en lekker efficient (voor wie daarvan houdt) maar taal is zo mooi, zo menselijk, wil je dat wel automatiseren? En wat verlies je dan?

Ik leer Arabisch (wat te gek is!!) en ik leerde onlangs:

إذا كُنْتَ تَتَعلَّم العَرَبيَّة ، فَأنْتَ تَتَعلَّم رَوْحاً جَدِيْدَة

Het betekent: "Als je Arabisch leert, leer je een nieuwe ziel", en zo voelt het echt. We wereld die voor je open gaat met nieuwe letters, nieuwe concepten, nieuwe vrienden, het is, zo zei ik laatst tegen de Palestijnse vriend die Arabisch in mijn leven bracht: dit is het mooiste cadeau dat je me had kunnen geven.

Weet je wie wel in klimaatverandering gelooft?

Wallstreet. Lees dit ontluisterende stukje waarin goed wordt uitgelegd hoe mensen die er toe doen (in de betekenis dat ze macht hebben) dondersgoed weten dat 2 a 3 graden opwarming is wat ons te wachten staat. Maar geen probleem joh, kan je de komende tijd lekker veel airco's verkopen:

A 3 degree warming scenario, the analysts determined, could more than double the growth rate of the $235 billion cooling market every year, from 3 percent to 7 percent until 2030.

Toeslagenaffaire, nummero zoveel

Ik had 'm even gemist, maar KPMG heeft onderzoek gedaan bij de Belastingdienst naar het RAM systeem, dat data uit verschillende bronnen bij elkaar bracht om fraudeurs op te sporen. En wat blijkt, zo meldt Tweakers? Dat mag juridisch helemaal niet. Bij de introductie van de AVG stopte de fiscus ermee, maar ook onder de toen geldende wetgeving mocht het al niet. Accountability tot aan de drempel, again: want staatssecretaris van Oostenbruggen van reageert in een brief met:

Ik stel vast dat de Belastingdienst RAM niet had moeten en mogen gebruiken en ik betreur dat

En het systeem draaide echt niet in de marge, volgens Tweakers werden er wel 20.000 burgers geselecteerd voor controle, en stonden er in de computers van de Belastingdienst 1170 spreadsheets met RAM data.

Het is trouwens ook niet zo gek dat ik dit nieuws eerder miste, want het lijkt erop dat grote media er nauwelijks over rapporteerden, ik vond het toevallig via de (sowieso zeer prima!) nieuwsbrief van digitalerechtenorganisatie Bit of Freedom.

Soms krijg ik wel eens het verwijt dat ik altijd maar weer met de toeslagenaffaire aan kom zetten als het over technologie en bias gaat, en ja, ik krijg er zelf ook wel eens een lange sik van, maar het is ook wel de gift that keeps on giving, want every single time is er weer een systeem dat discriminerend blijkt te werken en niet-juridisch houdbaar wordt ingezet.

Waarom gaan jonge mensen geen goede dingen doen?

Mijn Ongevraagd Advies van deze week ging over het leuke stuk op de Correspondent van ... over de Bermuda Driehoek van talent. Waarom gaan getalenteerde jongeren en masse op de Zuidas werken (en dan bedoel ik niet bij mij op de VU). Je denkt misschien dat het voor het geld is, maar volgens Simon van Teutem zijn er ook andere dingen in het spel!

Goed nieuws

Het zal de komende tijd een uitdaging zijn om steeds weer goed nieuws te vinden, want headlines worden wordt negatiever, maar ik blijf mijn best doen natuurlijk!

Allereerst HRC is back! Ik vind Obama heel heel stil gedurende Trump 2, hij kwam ff op BlueSky oppoppen om iets over de verjaardag van de ACA te zeggen, maar niks over... gestures at the world. Nee, dan badass Hillary, die komt ons eens even haarfijn uitleggen wat er voor shit gaande is in het Witte Huis. Oh hoe had de wereld er toch andes uit kunnen zien!

En weet je nog die rechtszaak van New York Times tegen OpenAI? OpenAI had een motie ingediend om die te verwerpen, maar die is afgewezen, zo schrijft Ars Technica.

NYT has "plausibly" alleged contributory infringement, showing through more than 100 pages of examples of ChatGPT outputs and media reports showing that ChatGPT could regurgitate portions of paywalled news articles that OpenAI "possessed constructive, if not actual, knowledge of end-user infringement." 

Schreef ik vorige week nog over Britse minister Kyle, die al dat gedoe rond copyright maar onzin vindt? Nu blijkt dat de meerderheid van de Britse MP's het wel snapt en copyright wel wil handhaven.

En wat vinden 'gewone mensen' eigenlijk van AI? Gaat dat ons leven heus beter maken? Nee, de meeste mensen denken niet dat AI ze gaat helpen, en dat geeft toch een fiks opiniegat aan met de gemiddelde AI-influencer op Linkedin.

En: de verkoop van Tesla keldert, en is 60% lager dan vorig jaar om deze tijd. Goedzo, denk ik dan, iedereen mag vinden wat hij wil, ook Elon Musk, maar je mag er ook de consequenties van ondervinden.