Mens: Hij is allang niet meer van zichzelf, hij is geen subject meer - hij is object geworden. En prooi.

Pessimisme is goed
Op dinsdag 24 april 2018 merkte Bas Heijne in de Westerkerk in Amsterdam op dat pessimisme goed is voor de mens(heid).

Een vrije schrijver
Hij deed dat in een debat dat ontstond nadat hij de zogenaamde Abraham Kuyperlezing had uitgesproken. Dat deed hij in zijn hoedanigheid als 'Vrije schrijver' van de Vrije Universiteit. Een fenomeen dat sinds twaalf jaar bestaat.

Een jaar lang loopt zo'n vrije schrijver op de VU mee. Spreekt met studenten uit de geesteswetenschappelijke hoek; geeft colleges en organiseert bijeenkomsten die ook door vrije burgers mogen worden bijgewoond. Aan het eind van zo'n jaar verzorgt hij of zij een afsluitende lezing.

Een nieuw essay
Zo ook dit jaar. Aan het eind van een mooie avond overhandigde rector magnificus Vinod Subramaniam aan Bas Heijne Vrijheid, gelijkheid, broederschap. Het essay dat hij als Vrije schrijver schreef en deze avond deels voorlas.

Liefhebbers en kenners van het werk van Bas Heijne zullen daarin veel herkennen. Het sluit naadloos aan bij zijn NRC-columns en zijn laatste twee boeken: Onbehagen : Nieuw Licht op de beschaafde mens (uit 2016) en Staat van Nederland : een pleidooi (uit 2017). Het heeft nadrukkelijk ook een link met de vierdelige tv-serie Onbehagen van Human-VPRO die in april 2018 wordt uitgezonden.

Half vol, of half leeg
Na de lezing van Bas Heijne nodigde moderator Lennart Booij twee hoogleraren van 'de VU' op het podium. Zoals het 'goede' wetenschappers betaamt waren zij niet alleen lovend over het verhaal van Bas. Ze kwamen ook met op- en aanmerkingen.

Op zeker moment wees Bas naar een glas water op een soort geïmproviseerd altaar. Uit dat glas had hij overduidelijk gedronken. En kon niet nalaten een link te leggen tussen een zojuiste gemaakte opmerking dat er in 'de wereld' ook veel positieve ontwikkelingen zijn (met name Steven Pinker werd genoemd) en waarom hij meestal de nadruk legt op negatieve tendenzen in onze 'prachtige' wereld. Het glas was volgens hem halfleeg.

Pessimisme is goed voor de mens(heid), merkte hij op. Dwingt ons na te denken over hoe het anders of beter kan. Beaamde dat hij niet met oplossingen aan komt zetten. Vaak verhaalt over wat er fout gaat. Hij ziet voor zichzelf een rol weggelegd als iemand die vragen stelt, onderwerpen op de agenda zet of houdt. En daarmee mensen dwingt na te denken over hoe zij zich tot die negatieve zaken verhouden. Hen als het ware dwingt om zelf 'iets' (anders) te gaan doen.

Complex
Wat deze avond wederom duidelijk werd is dat Bas Heijne de nuance koestert. Weet dat 'de' werkelijkheid niet zwart of wit is. Dat mensen die het stellig menen te weten gewantrouwd moeten worden. Hij weet dat 'de mens' een complex wezen is. En alhoewel 'de wetenschap' steeds meer te weten is gekomen over hoe de mens functioneert (in de kern: een wezen dat vooral 'geleid' wordt door zijn of haar gevoel) hebben we daar als mens niet zo veel aan.

We 'doen maar wat'; denken weinig serieus na. Lopen achter dingen aan die feitelijk niet goed voor ons of de wereld zijn. Tegelijkertijd moeten we het daarmee wel doen. Ook weet Bas dat de kennis over hoe de mens écht functioneert door steeds meer instellingen, bedrijven, organisaties en overheden wordt uitgebuit, geëxploiteerd. We staan wat dat betreft pas aan het begin van een niet zo'n 'mooie' toekomst. Zeker is dat hij over die ontwikkeling nog jaaaaaaaaarenlang artikelen kan schrijven. Natuurlijk noemde hij deze avond Yuval Noah Harari, de Israëlische historicus. Noemde diens eerste boek (Sapiens : een kleine geschiedenis van de mensheid). Prima, maar had beter naar zijn tweede kunnen verwijzen: Homo Deus : een kleine geschiedenis van de toekomst. Ook kwam impliciet Daniël Kahneman (van Thinking fast and slow - Ons feilbare denken) kort voorbij. Twee heren die elk op hun manier aan de fundamenten van onze zekerheden morrelen.

Wende
De avond werd afgesloten door Wende Snijders. Ze zong vier liedjes. Het was geen toeval dat zij daar was. Bas Heijne schreef voor haar nieuwste cd (Mens) een voorwoord: Wat is de mens. Toon en inhoud daarvan sluiten (niet toevallig ook) aan bij zijn Abraham Kuyperlezing en de eerder genoemde boeken en tv-serie. Uit dat mini-essay enkele regels:

In ons hoofd heerst naast de rede verbeelding en verlangen. Onze borst zit vol tegenstrijdige emoties. We willen ons bevrijden, maar ook ergens thuishoren. We willen individu zijn en groepsdier. We willen vrede en oorlog, vechten en vrijen, zingen en zuchten. Hart en hoofd. Geest en lichaam. Een mens wil zichzelf verheffen en verliezen.

Die gevoelens zijn niet meetbaar. En als je ze in feiten uitdrukt, spreken ze elkaar keihard tegen. Maar je voelt ze, ze zijn echt, ze maken je mens.

Schrijf ze, die gevoelens. Prevel ze, zucht ze, droom ze.

En Wende 'deed voor' hoe een mens is. Zong haar onlangs met de Annie M.G. Schmidt-prijs bekroonde lied Voor alles (op een tekst van Joost Zwagerman), een cover van Amsterdam (van Jacques Brel) en Als de liefde niet bestond van Toon Hermans. Een prachtig slot van een mooie avond.

Menselijker dan mensen
Het toeval wil dat ik kort voor deze lezing door Oscar Jansen van de Groene Engel in Oss werd benaderd. Of 'de bieb' er iets voor voelde om samen met dit cultuurpodium en filmtheater een documentaire te vertonen: More human than human.

Een verontrustende documentaire over de mogelijkheid dat we in een (nabije?) toekomst omringd zullen worden door systemen die zich menselijker voor zullen doen dan mensen. En of ik in dat verband iemand kon benaderen om die documentaire toe te lichten. Hij vroeg me dit omdat hij wist van 'ons' Homo Deus-leesavontuur van vorig jaar. Mooi gezien. Bullseye.

More human than human gaat op donderdag 28 juni 2018 in Nederland in première en wordt die avond ook in de Groene engel vertoond. Klik hier voor kaartjes

Lambèr Royakkers, als hoogleraar ethiek en techniek verbonden aan de Technische Universiteit Eindhoven, zal deze avond een inleiding verzorgen.

Op zijn TUE-pagina staat een zin die doet vermoeden dat hij de juiste persoon is om juist deze documentaire van deskundig commentaar te komen voorzien:

We cannot work on the development of robots and artificial intelligence - especially when it comes to making autonomous decisions - without considering the consequences for our society and lives.

Veraling: We kunnen niet werken aan de ontwikkeling van robots en kunstmatige intelligentie - vooral als het gaat om het nemen van autonome beslissingen - zonder de consequenties voor onze samenleving en onze levens te overwegen.

Op vrijdag 9 juni 2017 sprak Lambèr Royakkers tijdens de 2e TEDx Veghel over dit onderwerp.

Artikel: Lambèr Royakkers - Al kan een intelligent systeem betere beslissingen nemen dan de mens, dan nog kan het beter zijn dat de mens het slechter blijft doen.

Youtube: Ben jij bang voor kunstmatige intelligentie? (TEDx Veghel, juni 2017)

Dat eeuwige glas
Bas Heijne en Yuval Noah Harari onderschrijven waarschijnlijk bovenstaande zin van Lambèr Royakkers.

Zij willen zich niet in een van twee tegenover elkaar staande extreme kampen laten opsluiten.

Aan de ene kant de tech-optimisten als Raymond Kurzweil en Mark Zuckerberg die heilig geloven dat binnen enkele jaren de zegeningen van Kunstmatige Intelligentie overal voel- en merkbaar zullen zijn. En die trend zal de mens(heid) in hun ogen niet alleen veel onbekends maar vooral 'goeds' brengen.

Ze willen ook niet behoren tot het kamp van de super-pessimisten als een Stephen Hawking, Nick Bostrom of Elon Musk. Die op hun manier heilig geloven dat de mens gedoemd is om door die slimme, zelflerende systemen tot slaaf of een soort varken (uit de bio-industrie) te worden gemaakt.

Royakkers weet evenals Bas Heijne en een Yuval Noah Harari dat beide tendenzen, beide uitersten momenteel bezig zijn zich te ontwikkelen. En niemand kan voorspellen, en zeker niet weten wie 'het' gaat winnen.

Een ding is zeker: als mensen moeten we op onze hoede zijn. Niet geloven dat alle nieuwe wetenschap en technologie louter goede dingen zullen voortbrengen. Voor we het in de gaten hebben komen er wezens die menselijker zijn dan wijzelf.

Een internationale denker?
Bas Heijne weet dat hij zich tot Nederlanders richt. Maakt zich waarschijnlijk geen illusies dat ook buiten ons land naar hem zal worden geluisterd. Alhoewel? Wellicht neemt een buitenlands tv-station zijn Onbehagen-tv-serie over. Mocht dat niet gebeuren dan is dat jammer voor 'de wereld', maar niet anders.

Yuval Noah Harari is daarentegen andere koek. Met zijn Sapiens en Homo Deus heeft deze Israëlische historicus velen op aarde bereikt. Twee internationale bestsellers. Ik schat dat hij wekelijks minstens vijfentwintig uitnodigingen krijgt om ergens aan te treden. Daar gaat hij natuurlijk sporadisch op in. Bas Heijne schreef trouwens het voorwoord bij de Nederlandse editie van Homo Deus.

Yuval Noah Harari stemde wel in op een uitnodiging van the New York Times. Om samen met Thomas Friedman (een journalist die vooral bekend is geworden door zijn boeken De aarde is plat, De toekomst is groen en Wat is er mis met Amerika?) te spreken over de toekomst van de mens(heid).

How Thomas Friedman and Yuval Noah Harari Think About The Future of Humanity (1:25:31)

Een groot thema. Tamelijk aanmatigend. Toch is het een geslaagde bijeenkomst. Deels. Thomas Friedman heeft niet zo veel te melden en je hoopt steeds dat Harari weer aan het woord komt.


Drie bedreigingen

In het begin van de bijeenkomst (0:55-7:00) schetst Harari drie grote bedreigingen voor de mensheid: een nucleaire oorlog, klimaatverandering en de ongecontroleerde groei van Kunstmatige Intelligentie.

Hij heeft het niet over andere rampen, waaraan 'de mens' niets kan doen. Denk aan een supervulkaan, mega-tsunami's of de inslag van een groot rotsblok op aarde.

Over de eerste twee (nuclaire oorlog en klimaatverandering) is hij stellig. Die kunnen alleen opgelost worden door internationale samenwerking; er een wil is om deze bedreigingen te gaan aanpakken.

Over de ongebreidelde groei van wetenschap en technologie maakt hij zich echter grote zorgen. Bij hem is het glas op dit punt ook halfleeg. Hij stelt dat de meeste mensen er geen goede raad mee weten. Terecht, want het gaat over zaken die ons verstand te boven gaan. Hij schaart trouwens voor het gemak ook het sleutelen aan erfelijk materiaal onder dit derde, grote thema. Hij weet dat ze deels samen oplopen en zowel mooie als slechte kanten kunnen en waarschijnlijk zullen hebben.

In onderstaand lange citaat uit het begin van het gesprek tussen Harari en Friedman voel je als het ware Bas Heijne's geest er doorheen schemeren. Vooral als het gaat over wetenschappers die steeds beter weten hoe 'de mens' functioneert en hoe hem of haar te bespelen. Ons 'dingen' te laten doen die 'we' niet willen. Manipuleren, zogezegd. Denk in dit verband aan de recente ophef rondom Facebook en Cambridge Analytica.

Een emotionele poppenkast
Een ander gevaar is dat nieuwe technologieën zouden kunnen leiden tot de ineenstorting van de liberale democratie. Vooral als je denkt aan de combinatie, de fusie van biotech en Infotech.
Zij kunnen heel snel het punt bereiken waarop ze systemen maken, algoritmen maken die ons beter begrijpen dan wij onszelf begrijpen.

En als je eenmaal een extern algoritme hebt dat je beter begrijpt dan dat je jezelf begrijpt, is de liberale democratie zoals we die de afgelopen eeuw hebben gekend verdoemd. Het zal zich moeten aanpassen aan de nieuwe omstandigheden. Het zal zichzelf in een radicaal nieuwe vorm opnieuw moeten uitvinden of het zal instorten. ()

Liberale democratie vertrouwt op de gevoelens van mensen en dat werkte zolang niemand je gevoelens beter kon begrijpen dan jijzelf of je moeder. Maar als er een algoritme is dat je gevoelens beter begrijpt dan je moeder en je emotionele knoppen beter kan indrukken dan je moeder én je zult niet eens begrijpen dat dit gebeurt, dan zal de liberale democratie een emotionele poppenkast worden. ()

Maar wat gebeurt er als je hart een buitenlandse agent is, een dubbelagent. Die iemand anders bedient. Die weet hoe je jouw emotionele knoppen moet indrukken; wie weet hoe je boos moet worden, hoe je dapper moet worden, hoe je jouw blij kunt maken.
Dit is het soort bedreiging dat we nu al beginnen te zien opkomen.

Het loopt zo'n vaart niet!
De tijd zal het leren, maar het is onwaarschijnlijk dat binnen korte tijd één van de twee scenario's bewaarheid zal worden. Hemel noch hel lijkt dichtbij. Maar dat laat onverlet dat we op onze zaak moeten letten. Zeker is dat overal op aarde zeer slimme jongens en meisjes bezig zijn 'dingen' te bedenken die een grote impact op ons leven en de manier waarop onze samenleving is geordend zullen hebben.

Juist daarom hebben we mensen nodig die ons alert houden. Dat houdt vaak in dat zij deze ontwikkelingen wantrouwend, negatief benaderen. De documentaire More human than human is daarvan een voorbeeld. Waarschijnlijk is driekwart van hetgeen beweerd wordt flauwekul. Maar helpt wel om als argeloze burger beter te leren begrijpen wat mogelijk op ons afkomt. Verder zullen Yuval Noah Harari, Lambèr Royakker, Bas Heijne en talloze andere schrijvers en denkers ons bij de les proberen te houden. Tot slot drie citaten:

 

Yuval Noah Harari: voordat het ons leert te beheersen
So really I would say that the three big challenges, the three top items on our global agenda is how to prevent nuclear war, how to prevent climate change and how to learn to control the new technology before it learns to control us. (Youtube: How Thomas Friedman and Yuval Noah Harari Think About The Future of Humanity, 6:36-7:00)

Vertaling: Dus ik zou echt willen zeggen dat de drie grote uitdagingen, de drie belangrijkste items op onze mondiale agenda, het voorkomen van nucleaire oorlog is, hoe we klimaatverandering kunnen voorkomen en leren hoe we de nieuwe technologie kunnen beheersen voordat deze leert ons te beheersen.

Bas Heijne: krijgt het totalitaire trekjes
Het is allemaal voor een betere wereld, maar tegelijk dringt het bedrijf van Zuckerberg - en het is een bedrijf - diep door in mijn persoonlijke leven.
Waar ligt de grens? De hang om onze levens volkomen transparant te maken, ons in alle opzichten meet- en monitorbaar te maken, krijgt totalitaire trekjes.
Steeds meer mensen beschouwen de techgiganten als een bedreiging voor onze vrijheid. (Uit: Vrijheid, gelijkheid, broederschap, pagina 33-34)

Bas Heijne: hij is object geworden. En prooi
Daarom maken we de mens steeds beter meetbaar. Hij maakt deel uit van een verzameling data, hij bestaat in een verzameling statistieken, hij wordt dagelijks gepeild - dit vindt hij, dat denkt hij, dit wil hij, dit is hij. Alles keurig geordend, uitgedrukt in cijfers, geduid door algoritmen. Hij is allang niet meer van zichzelf, hij is geen subject meer - hij is object geworden.
En prooi. (Uit het mini-essay Wat is de mens in het boekje van de cd Mens van Wende)

 

Klik hier voor kaartjes voor More human than human, Groene engel 28 juni 2018

Artikel

Bas Heijne: Het probleem is niet de toon van het debat. Het probleem is dat er alleen nog maar toon is, en geen debat. (februari 2017)

(donderdag 26 april 2018)
Hans van Duijnhoven

Homepage citaten