De marathon en de marathon, ruimtereizen en bias, alweer - week 16

Wat een week was dit! Zondag liep ik de marathon van Rotterdam, en maandag las ik voor bij de klimaatmarathon in het Hoofdgebouw van de VU.

Op dinsdagmiddag mocht ik de PvdA/GroenLinks fractie bijpraten over de impact van AI op het onderwijs en onze wereld en 's avonds sprak ik in het Beatrixtheater voor een zaal informatici over mijn visie voor ons vakgebied. Wat beide praatjes met elkaar gemeen hadden is een focus op de menselijke kant: algoritmes kunnen van alles maar wat maakt een mens een mens?

Tussen het paaseitjes eten door heb ik ook nog een hoop moois gelezen!

Het doel van onderwijs

Ik zag de vraag wat maakt mensen mensen ook terug in dit werkelijk prachtige stuk van wiskunde-docent Peter Hoogendijk, die na een carrière als uitgever (van wiskundeboek Getal en Ruimte) weer voor de klas staat. Het stuk zoekt de balans tussen onderwijs dat 'werkt' vanuit cognitief perspectief (Van Kirschner, Rosenschein, en ook het perspectief van Barton dat ik vorige week in mijn nieuwsbiref beschreef) en onderwijs dat ruimte open houdt voor verwondering, mens zijn en alternatieve doelen. Het is een lange read, en denk ik alleen zinnig voor mensen die al lang in het onderwijs werken, maar het is prachtig mooi. Het krachtigste voorbeeld vind ik de vergelijking met de 'earthrise' foto.

De mannen gingen er, gewapend met de allerbeste kennis van de wetenschap op dat moment, op pad naar de maan. Maar de foto, inderhaast en ongepland op een kleurenrolletje geschoten, toonde de aarde. Hoogendijk schrijft:

Bij terugkeer op aarde, drie dagen later, realiseren zij zich dat ze waren vertrokken om de maan te verkennen, maar dat ze de aarde hebben ontdekt.

Zo is het ook met onderwijs. Je moet je kop vol hebben met alle wetenschappelijke kennis over hoe het moet (en dat is in mijn vakgebied, de informatica, zo makkelijk nog niet want we weten nog niet zo goed hoe dat dan is!), maar je moet ook altijd open blijven staan voor het onverwachte, voor een gesprek, een schouderklop, een knuffel, en een schaterlach. Mijn dierbaarste momenten voor de klas gingen niet over informatica, maar over het leven zelf; over huiselijk geweld, over seks, over wat het betekent om volwassen te worden. Leerlingen een context bieden waarin ze over dingen durven te praten en ready zijn als het gebeurt, dat is voor mij het prachtige risico van onderwijs.

Hoogendijk beschrijft een voorbeeld van een leerling die bij exponentiële groei vertelt over een roddel die zich verder verspreidde, en niet te stoppen was; zo kreeg hij een schitterende inkijk in wat er speelde in de school.

Ook dat is een probleem van AI in het onderwijs, wat verandert er door de aanwezigheid van technology (ook heel mooi bevraagd door Remco Pijpers deze week in het kader van leesonderwijs) Als leerlingen van een algoritme leren, wie is er dan ready voor de kleurenfoto's van het puberleven? Wat moet die ene leerling die, smekend, vroeg of ik zijn cijfer niet in Magister in te voeren omdat zijn vader hem er dan van langs zou geven, als het straks automatisch in de cloud staat? Wat moet die leerling die mij, met een mix van schaamte en trots, kwam vertellen dat hij onlangs voor het eerst seks had gehad, zijn ei kwijt als hij meteen achter de laptop moet?

Lady Astronaut

En als we het dan toch over ruimtereizen hebben, even kort over Katy Perry. Echt heel kort want je kan op genoeg andere plekken lezen hoe dit absoluut geen feministische win is, daar heb je mij niet voor nodig. Relevanter perspectief vind ik de impact op klimaatverandering, en dan niet de directe uitstoot, maar de voorbeeldfunctie die beroemdheden hebben en de impact daarvan op 'gewone mensen'. Een paper in Nature beschrijft hoe mensen meer bereid zijn tot het ondernemen van actie tegen klimaatverandering als celebs en politici het goede voorbeeld geven. Geen zin/tijd om een Nature paper te lezen? Dit stuk op de Conversation door een auteur van het paper zelf vat het ook goed samen!

Wil je trouwens meer lezen over klimaatverandering en vrouwelijke astronauten, maar niet het nieuws? Deze schitterende serie van Marie-Robinette Kowal is echt een tip! Het is een alternate history waarin klimaatverandering in de jaren '50 al zo erg wordt dat de mensheid op ruimtereis moet, en tsja... om ergens anders opnieuw te beginnen, moeten er natuurlijk ook vrouwen mee. Het boek is zo scherp omdat het echt een multidimensionaal verhaal is, de eerste vrouwelijke witte astronaut is zich er zelf ook goed van bewust dat ze op een bepaalde manier de plek inneemt van zwarte en Aziatische mensen die minstens zo talentvol zijn.

Mooiste aan het boek vind ik de worsteling van de mannen van vrouwelijke astronauten om een plek in de wereld te hebben. Voor vrouwen van astronauten zijn allerhande fotogenieke werkzaamheden te verrichten (koekjes bakken enzo), maar wat moeten mannen? Dat is denk ik in onze huidige wereld nog net zo'n vraag, wat moeten een man doen en zijn wiens vrouw een topbaan heeft? (zie ook dit lovely stuk in NY Times over een Buggy Club voor vaders)

Wetenschappers en universiteiten hebben elkaar nodig

Toen X nog Twitter was had ik een aantal hele fijne Twitter-vrienden, mensen uit andere vakgebieden die mooie weetjes deelden, onderzoek, of gewoon vertelden hoe hun leven eraan toe ging. Eén daarvan is Marc van Oostendorp, die ik misschien wel 10 jaar volgde voor ik hem een keer in het echt trof. Maar nu kan ik hem via Mastodon weer volgen en dat is echt tof! Deze week schreef hij zelf bijvoorbeeld op Neerlandistiek over opscheppen, waarom hebben we daar een hekel aan? Als mensen het terecht doen, is het toch gewoon eerlijk? Het is heerlijk om je tenen af en toe te dippen in het water van andere vakgebieden!

Ook via Marc vond ik dit ijzersterke stuk in NY Times over wat universiteiten moeten doen tegen Trump: alle prioriteiten op onderzoek en onderwijs, en dus afstappen van rankings, hippe nieuwbouw of donoren pleasen. Het stuk schetst ook de context bij de acties van Trump om zich specifiek op individuele universiteiten te richten, zo speelt hij ze tegen elkaar uit ipv te zorgen dat ze zich verenigen. Hetzelfde zie je in Nederland met de toets anderstalig onderwijs (TAO), die er afgelopen week toe leidde dat (ook aan de VU) Engelse bachelors psychologie worden stopgezet. Universiteiten gingen onderling kissebissen wie ze wel mocht houden, en waren dus afgeleid van collectieve woede en plannen.

Je ziet, dit stuk is tamelijk toepasbaar op de Nederlandse context. Weg met rankings en grant proposals die universiteiten (en individuele wetenschappers) tegen elkaar uitspelen. Ik was afgelopen week op een event van NWO, waar, in regelrechte tegenspraak tot Erkennen en Waarderen, weer kwistig gestrooid werd met rankings. Daar moeten we het dus niet van hebben, we moeten dit als universiteiten zelf doen, en alles dat riekt naar neoliberaal becijferen, meten en vergelijken categorisch afwijzen. We moeten ons richten op goed onderzoek en onderwijs, zoals het NT Times artikel beschrijft, desnoods buiten de universiteit, zoals in andere tijden van verzet ook gebeurde (het stuk is lang, maar echt de moeite waard als je bij een universiteit werkt of ze een warm hart toedraagt).

Een gebeurtenis die me van de huidige bezuinigingsronde het meest bij zal blijven is niet dat er 40 collega's bij aardwetenschappen ontslagen zijn of het verlies van die Engelstalige BSc, maar dat iemand zei dat de bezuinigingen zo erg niet zijn als we ons marktaandeel maar verhogen; maw studenten van andere universiteiten inpikken. Nou met zulke vrienden heb je geen Bruins meer nodig.

Anders gaat het nu aan Harvard, die Trump's eisen simpelweg afwezen. Dat geeft, aldus dit stuk in the Guardian, en een tweede stuk in Salon, misschien ook anderen moed om zoiets te doen. Nou snap ik best dat Harvard's financiële plaatje er anders voorstaat dan dat van de universiteiten in Nederland, maar toch zou ik willen dat onze instituten ook de moed hadden om te zeggen: zak in de modder met je toets.

Bias in algoritmes

Ik gaf afgelopen week mijn laatste college in het vak AI in het onderwijs, over bias en algoritmes, en dan pak ik altijd weer mijn klapper met onderzoek erbij, en lees en herlees ik onderzoek. Zo kwam ik ook dit onderzoek van Bloomberg uit 2023 weer eens tegen. Het stuk staat vol van de schitterende en heldere data-analyses, maar deze springt er voor mij echt uit: 39% van de doktoren in de VS is een vrouw, maar Stable Diffusion toont er maar voor 7% van de 'maak een dokter' prompts één. Niet perse een stuk om te lezen maar wel om ergens te bookmarken als mensen aankomen met "mensen hebben ook vooroordelen" en "bias kan wel uit de algoritmes geprogrammeerd worden".

En dan nog even over de mindset van mensen die algoritmes maken, waar ik steeds vaker en uitgebreider over nadenk. Een paar weken terug schreef ik al over de diefstal van boeken door Meta (oa ook van mijn boek!!) en hoe meer ik eraan denk, hoe bozer ik word. Vooral als je stukken leest uit rechtszaken die nu openbaar zijn, over hoe normaal het voor programmeurs is om data te stelen, en welke argumenten ze ervoor aandragen. Zo schrijft Vanity Fair dat programmeurs achter de schermen grapten over de datasets, en met moeite copyright-info uit de dataset verwijderden. Maar het schrijnendste is Meta's argumentatie in de rechtbank, ze zeggen dat een individueel boek voor een large language model geen waarde heeft:

for there to be a market, there must be something of value to exchange, but none of Plaintiffs works has economic value, individually, as training data.

Wow, het is toch goor? Mijn boek heeft geen waarde, ik heb maandenlang voor niks zitten tikken. Zo denkt big tech dus over denken! Een los boek is eigenlijk niks, want een boek...

adjusted its (de LLM dus, FH) performance by less than 0.06% on industry standard benchmarks, a meaningless change no different from noise.

Het is een vorm van de sorites paradox; als je een korreltje pakt, is de hele zandhoop er nog gewoon. Maar ja als je 1.000.000x een korrel weghaalt, is je hoop wel weg.

Goed nieuws

Deze week in tegenstelling tot vorige week, weer wat fijn nieuws te melden! NRC interviewt Fieke Jansen, die aan de UvA onderzoek doet naar de klimaatimpact van AI. Heel goed ook dat ze de kritiek richt op het systeem en de bedrijven en niet de individuele mens (Begrijpelijk maar jammer is wel dat ze zich geen activist durft te noemen, want in de Amazone zijn er mensen waarvoor veel meer op het spel staat. Heel waar, maar dat maakt jou niet minder activist! Een BigMac is eten en de aardappelpuree van Robuchon ook, dat mag je ook in één categorie gooien zonder dat het woord eten betekenis verliest).

De Rutgers Stichting heeft een rechtszaak gewonnen tegen Civitas Christiana, die dus onmiddellijk moet stoppen met uitingen over de Week van de Lentekriebels, waaronder dat Rutgers kinderen seksualiseert en verbanden heeft met pedofielen. Het is werkelijk droevig dat het nodig was, maar dit is een win voor vrije informatie en goede voorlichting voor kinderen die ze, door uit te leggen wat er wel en niet normaal is, juist beschermt tegen misbruik.

200 AI wetenschappers hebben een brief ondertekend die beargumenteert dat er wetenschappelijke consensus is over bias en dat onderzoek ernaar niet moet worden verhinderd. Ik ben altijd blij als wetenschappers zich uitspreken en in deze tijd al helemaal!

Tip van de week!

Heb je mijn tip van een tijdje terug gevolgd, en ben je nu van Amazon ebooks af? Mooi! Maar? Staan nu al je epubs op je harde schijf te verstoffen? Met deze simpele tool kan je ze op je Kobo e-reader laden! Dat is nou het internet dat ik mis en dat ik terug wil, waar mensen kleine handige dingetjes voor zichzelf en voor elkaar maken zonder businessmodel of abo, maar gewoon omdat het kan, en leuk en betekenisvol is om iets te maken.