De vervormende lens van AI

Vorige week sprak ik op een congres over AI en de muziekindustrie. De podcast kan je terugluisteren als aflevering van de VPRO podcast "De Machine".

Op de conferentie deden ze een experiment waarbij mensen muziek te horen kregen en moesten raden of het wel of niet door AI gemaakt is, maar een handjevol mensen kon goed bepalen welke liedjes wel en niet met AI gemaakt waren.

Het deed me denken aan deze (amateur)studie over schilderijen en dit paper uit Nature.

De Turing Test

Al deze onderzoeken zijn vormen van de Imitation game, beter bekend als de "Turing test": Weet de mens of hij of zij hier met computergegenereerde output te maken heeft? Kan een mens het verschil tussen een ander mensen en computer niet maken? Dan hebben we te maken met AI.

Zelf als test voor kunstmatige intelligentie is er natuurlijk heel wat op de Turing test af te dingen, want bij menselijke intelligentie hoort nog veel meer dan alleen "uitvoer genereren". Een mens kan ook een ei bakken, ondertussen Acda en de Munnik zingen, en die taak probleemloos eventjes, maar niet al te lang, besluiten te onderbreken om een echtgenoot te kussen die binnenkomt. Laat dat een robot maar eens doen! En dan moet die robot ook een marathon kunnen lopen, een trui kunnen breien, 5 HAVO stil kunnen krijgen, en wetenschappelijk papers kunnen tikken. Menselijke intelligentie is zo veelomvattend dat er geen test is die dat kan kaderen, dat gaf Turing ook toe in zijn paper, dat je "machine" en "denken" eigenlijk niet kan definiëren. Ik denk ook niet dat Turing had gezegd dat zijn test, een gedachte-experiment, als de leidraad voor alle AI ooit gebruikt moest worden, yet, here we are.

Alles van waarde is automatiseerbaar

Wie wel eens lezingen van mij bijwoont weet dat ik het bij altijd een keer over breien heb, omdat het zo'n heerlijk voorbeeld is van een taak die absoluut moeilijk is---de meeste mensen kunnen het niet---en in zekere zin zeer goed oplosbaar door machines, er waren breimachines ver voordat er computers waren (midden 16e eeuw!). Maar desondanks is "kan een robot breien" geen test van intelligentie; als Sam Altman weer eens roept dat "AGI" ophanden is, dan bedoelt hij niet dat een robot dat ook kan. Waar we wel en niet op testen is dus ook een uitdrukking van onze waarden; het boeit de meesten mensen niet of een robot een trui kan breien of een ei kan bakken, en dat heeft niks met inherent moeilijk te maken, de meeste mensen kunnen namelijk geen trui breien maar wel een ei bakken.

Echte intelligentie is iets waar iemand een stempel van "waarde" op gezet heeft: een schilderij of gedicht, dat heeft waarde, het hangt in een museum, en je krijgt er bekendheid voor, dus dat moet de AI ook kunnen (Andere waarde is natuurlijk ook letterlijke waarde: als een AI mijn nakijkwerk kan overnemen, of ander werk dat mijn werkgever geld kost, is dat ook goed).

Maar wat is eigenlijk kunst?

Zonder dat ze onderzoekers in bovenstaande onderzoeken het expliciet maken, doen ze hier echter een "bait and switch": Ze zeggen dat ze onderzoeken of de deelnemers menselijke kunst van echte kunst kunnen onderscheiden, maar vervolgens laten ze alleen het eindproduct zien. Maar is kunst alleen een eindproduct, of is kunst een proces? In het excellente, korte en nog steeds verrassend leesbare essay "Art as Experience" uit 1934 schrijft John Dewey dat kunst geen levenloos object is, maar dat kunst is wat het met ons doet. En daarvan is het verhaal van een stuk natuurlijk een groot onderdeel van.

Ik heb zelf een werk in huis van kunstenaar Leonardo Ulian, deze:

Dit werk bestaat uit afgedankte computeronderdelen. Hij maakt er vooral mandala's van die hij met de computer ontwerpt, maar op een dag glitchte zijn Photoshop en kwam er een totaal andere vorm in beeld, en besloot hij *die* vorm na te gaan maken. Dat roept (bij mij) de vraag op wat computers voor ons doen en hoe we omgaan met fouten, en dat is onderdeel van het werk. Of je het los van dat verhaal mooi vindt, is misschien relevant als je het in je huis wil hangen, maar niet zo relevant om het werk als werk, als proces en ervaring te waarderen.

Wie een werk gemaakt heeft, en waarom, is relevant. Ik denk nu meteen aan Henry Ford Hospital van Frieda Kahlo. Als je weet wat Kahlo heeft meegemaakt, raakt dit werk je meteen heel anders.

Mensen voelen dit trouwens ook prima aan, want wat blijkt: als mensen wel weten dat het AI is, vinden ze kunst minder waard, ook als ze het even mooi vinden. De schrijvers van dit paper framen dat trouwens ook weer sterk, ze noemen dit namelijk "bias against AI", en niet gewoon menselijkheid. Ook daar zien we dus het frame dat we alleen naar het product moeten kijken en niet naar het verhaal.

De vervormende lens

Waarom is dit nu erg? Er zijn allerhande argumenten te maken over het uithollen van kunst, zoals de impact op kunstenaars die hun kunst gestolen zien en herpakt door big tech, of het verlies van interesse van kinderen en jongeren om zich te verdiepen in kunst want "dat kan AI ook". Maar meer nog dan die effecten, is het vervormende effect van door de AI kijken naar kunst. Omdat AI nu zogezegd kunst kan maken wordt de focus op het product groter, en de focus op de craft, op het verhaal, de menselijkheid van de kunst kleiner. En dat effect zien we niet alleen in de kunst, maar ook bijvoorbeeld in het onderwijs. Algoritmes "kunnen" nakijken, dus we hebben het nu steeds over proefwerken.
Algoritmes "kunnen" essays schrijven, dus we hebben het nu steeds over huiswerk.
En niet alleen als het over AI gaat, ook als het niet expliciet over de inzet van AI gaat, werkt die vervormende lens door.

Gekaderd in een theoretisch framework kunnen we zeggen dat van de drieslag van Biesta (kwalificatie, socialisatie en subjectificatie), kwalificatie de overhand krijgt en de andere twee veel minder aandacht, en ze worden totaal van elkaar losgetrokken.

Net als bij kunst is dat een beweging die al decennia gaande is, maar AI verergert het. We zien stukken verschijnen over AI scholen waarin "adults do have a place ... but it’s not in an academic capacity — they serve the role of motivation and emotional support to keep students on task". Alsof je lesgeven en leerlingen motiveren van elkaar los kan zien, juist een moeilijke opgave kan doorzettingsvermogen oproepen, en juist een bekwame docent kan een band scheppen en daarmee motivatie creëren. Het lijkt mij sterk dat alleen maar "hup hup" roepen naast een computerdocent leerlingen dezelfde motivatie geeft, maar zelfs als de AI bubbel straks onvermijdelijk een keer barst, dan heeft deze beweging het vak van leerkracht (en wetenschapper, en kunstenaar, en journalist etc etc) nog verder uitgekleed.

PS Kunst bekijken of meemaken is trouwens ook goed voor mentale en fysieke gezondheid! Het is een instrumenteel argument, maar misschien toch nog een extra reden om voor de kunsten te blijven strijden. Het is er misschien aan gerelateerd dat een gevoel van verwondering ("awe") goed is voor mentale gezondheid.