Het belang van systemisch denken door Mary Catherine Bateson

Mary Catherine Bateson (1939-2021)

Begin vorige maand overleed Mary Catherine Bateson, dochter van Gregory Bateson en Margaret Mead, die beiden een belangrijke rol speelden in de ontwikkeling van de antropologie en bovendien aan de wieg stonden van de cybernetica (systeemtheorie). Over hen schreef ze With a Daughter’s Eye, een persoonlijke biografie van haar wereldberoemde ouders vol rake observaties en doorvoelde inzichten. Ze hielp haar vader bij het schrijven van diens belangrijkste werk – Mind and Nature, a Necessary Unity (vertaald als Het verbindend patroon) en voltooide postuum zijn laatste boek Angels Fear (vertaald als Waar engelen zich niet wagen). In haar eigen werk als antropoloog verdiepte ze zich in de metaforische aard van het menselijk denken, het belang van verhalen en hoe ons levensverhaal ons leven mede vormt. Jarenlang was Catherine betrokken bij de Edge Foundation, een initiatief van literair agent John Brockman met als motto: ‘verzamel de grootste denkers, sluit ze op in een kamer en laat ze elkaar de vragen stellen waar ze zelf mee worstelen’. Twee jaar geleden leverde ze haar laatste bijdrage aan de allerlaatste Annual Question van de Edge Foundation: Wat is de laatste vraag? Klik hier om haar bijdrage te lezen.

Ton Maas

Ik vraag me al een tijd af hoe mensen nadenken over complexe gehelen zoals de ecologie van de planeet, het klimaat of menselijke populaties die zich in de loop der eeuwen op verschillende locaties hebben gevormd en nu weer samenkomen. Om over deze dingen na te kunnen denken heb je volgens mij zoiets als systeemtheorie nodig. Dus verdiepte ik me weer eens in de systeemtheorie. De aanleiding daarvoor was mijn bezorgdheid over de toestand in de wereld. Iets dat we allemaal kunnen zien, is dat de internationale samenwerking om allerlei problemen aan te pakken, zoals die na Tweede Wereldoorlog met veel moeite tot stand is gebracht, steeds meer onder druk komt te staan. We zien dat de vooruitgang die we dachten te hebben geboekt op het gebied van rassenverhoudingen, behoorlijk tegenvalt. We zien hoe de Europese Unie uit elkaar begint te vallen. We hebben de klok een paar eeuwen terug gezet als het gaat om wat het betekent om mens te zijn, om een planeet met elkaar te delen en hoe met elkaar om te gaan. Voor je het weet moeten we weer helemaal vanaf nul beginnen.

Een paar jaar geleden werd ik gevraagd om iets te schrijven voor de American Society for Cybernetics. Ik bleef maar zeggen dat ik daar jaren niets aan had gedaan of over had nagedacht, maar ze bleven aandringen. Het ging om een ​​hoofdstuk voor een dik boekwerk genaamd The Handbook of Human Computation – over de verscheidenheid van de interactie tussen mens en computer. Ik zei dat ik daar niets van afwist, maar kreeg als antwoord: ‘Als u geen tijd hebt voor een ​​hoofdstuk, schrijf dan alstublieft het voorwoord.’ Ik vroeg waarom ze dachten dat ik daar dan wel tijd voor zou hebben, waarop de reactie luidde: ‘We sturen u alle samenvattingen toe.’ Enigszins geïrriteerd antwoordde ik dat ze beter iemand anders konden zoeken, maar ze bleven me stukken sturen om te lezen. Ik begon te googelen naar wat human computation betekende en kwam erachter dat er wel degelijk raakvlakken waren met mijn eigen kennis en ervaring. Dus schreef ik alles op wat ik wist over human computation en stuurde het op met de opmerking: ‘Zoals je ziet weet ik er niks van.’ Dat stuk hebben ze vervolgens gepubliceerd.

Ik ben toen toch naar dat congres gegaan en weer in gesprek geraakt met mensen die aan AI werkten. Ik realiseerde me dat ik in mijn jeugd ontzettend veel heb geleerd van mijn ouders, die tot in de jaren vijftig betrokken waren bij de Macy-conferenties over cybernetica. Andere deelnemers, zoals Warren McCulloch, kwamen vaak bij ons over de vloer en zij en mijn ouders voerden de hele tijd discussies, waar ik als kind naar luisterde.

Ik besloot AI niet direct te benaderen, maar via een omweg. Ik had al eerder vastgesteld dat ons vermogen om na te denken over complexe interactieve systemen lijkt af te nemen, dat heel wat inspanningen om internationale samenwerking te bevorderen, ondermijnd worden, landen met meerdere etnische bevolkingsgroepen of dialecten dreigen uiteen te vallen en dat het ook in een samenleving als de Verenigde Staten, met haar vele etnische en raciale groepen, steeds moeilijker werd om tot samenwerking te komen.

We denken allemaal met behulp van allerlei soorten metaforen en gebruiken metaforen om complexiteit hanteerbaar te maken, maar de manier waarop mensen computers en AI gebruiken, hangt af van hun fundamentele epistemologie – of ze gewend zijn om in systemische termen te denken, of ze de voorkeur geven aan kwantitatieve benaderingen en of ze thuis zijn in de wereld van games. AI wordt in belangrijke make gebruikt om ​​patronen in de wereld om ons heen te simuleren. Maar het ene patroon in de wereld gebruiken als metafoor voor het andere, is wat mensen eigenlijk sowieso de hele tijd al doen.

Amerikanen zijn geneigd te spreken van de ‘oorlog tegen drugs’, de ‘oorlog tegen armoede’ of de ‘oorlog tegen kanker’, maar vragen zich daarbij niet af of ‘oorlog’ daarvoor wel een geschikte metafoor is. Het is uiteraard een manier om over complexiteit te praten, maar als die niet aansluit, zal dat leiden tot een verkeerde aanpak van de problemen. De oorlog tegen armoede is deels mislukt omdat armoede niet iets is dat je kunt verslaan. Daarom is oorlogvoering een ongeschikte metafoor. Hetzelfde geldt voor de oorlog tegen drugs, die tot vreselijke misstanden heeft geleid.

Een van de problemen die zich voordoen als technologie op een nieuw gebied wordt ingezet, is dat het ons dwingt tot oversimplificatie. De mogelijkheden die AI biedt, waren er al vanaf het moment waarop we begonnen te denken over computers, maar natuurlijk is er altijd dat gevoel van teleurstelling dat er beperkingen zijn aan wat je kunt doen. We blijven aldoor proberen om complexere dingen voor elkaar te krijgen.

Tot voor kort kon van computers niet worden gezegd dat ze leerden. Een machine maken die steeds efficiënter leert denken, vormde een grote uitdaging. Een van de dingen die ik me in dat opzicht afvraag, is hoe we een machine kunnen leren te weten wat hij niet weet maar misschien wel zou moeten weten om een ​​bepaald probleem verstandig en effectief aan te kunnen pakken. Ook voor ons mensen is dat een hele uitdaging. Het leren oplossen van problemen kost veel tijd. En het kost ons zelfs nog meer tijd om te beseffen dat we niet alles weten wat we zouden moeten weten om een ​​bepaald probleem op te kunnen lossen, omdat daarbij heel veel complexiteit komt kijken.

Hoe ga je om met onwetendheid? Ik bedoel niet hoe je onwetendheid bestrijdt, maar hoe je omgaat met het besef van wat je niet weet en ook niet weet niet hoe je dat aan de weet zou kunnen komen als je een bepaald probleem wilt oplossen. Toen Gregory Bateson de doelgerichtheid van de mens aan de orde stelde, leidde dat vervolgens tot zijn betrokkenheid bij de milieuproblematiek. We doen van alles met de planeet waarop we leven, zonder te beseffen wat de neveneffecten konden zijn. En  we denken al helemaal niet over hoe die neveneffecten op elkaar zullen inwerken. Als je snapt wat voor neveneffecten er kunnen optreden, stel je andere vragen voordat je beslissingen neemt, projecties maakt en analyseert wat de gevolgen zullen zijn.

Dat geldt bijvoorbeeld ook voor onderzoek naar medicijnen. De eerste vraag die mensen stellen is: ‘Is het middel effectief tegen de kwaal?’ Maar de volgende vraag zou moeten zijn: ‘Wat doet het middel nog meer dan de ziekte bestrijden?’ Elk jaar worden er weer medicijnen van de markt gehaald als het besef doordringt dat de bijwerkingen op de lange termijn soms ernstiger zijn dan de kwaal waartegen ze bedoeld waren.

Wat de analogie daarvan in de computerwereld is, weet ik niet. We proberen processen te ontwikkelen voor het oplossen van problemen en leveren data aan om te analyseren, maar we stellen de machine niet in staat om te zeggen: ‘Wat moet ik nog meer weten voor ik dit probleem aanpak?’ De digitale revolutie is gepaard gegaan met zoveel opwinding en euforie dat we inmiddels overschatten waartoe AI in staat is, zeker bij de huidige stand van zaken.

Een van de meest essentiële aspecten van de menselijke wijsheid is nederigheid: weten dat je niet alles weet. Je zou kunnen zeggen dat we niet hebben geleerd hoe we voor nederigheid kunnen zorgen in de omgang met onze apparaten. Een computer weet niet wat hij niet weet en is bereid projecties te maken, ook al beschikt hij niet over alles wat van belang zou zijn voor die projecties. Hoe we daarvoor kunnen zorgen? Ik heb geen idee. Maar het is belangrijk om je ervan bewust te zijn, om te beseffen dat er grenzen zijn aan wat we met AI kunnen bereiken. AI is fantastisch als het om berekeningen gaat en bespaart enorme hoeveelheden arbeid. Maar volgens mij ontbreekt het aan nederigheid, verbeeldingskracht en humor. Dat wil niet zeggen dat je die dingen niet kunt gebruiken bij het hanteren van apparaten, zeker als het gaat om communicatie met andere mensen. Maar het betekent wel dat elementen als intelligentie en wijsheid – ik hou van het woord wijsheid, omdat het meer multidimensionaal is – zullen ontbreken.

Als kind was ik zijdelings getuige van de cybernetische revolutie. Als ik terugdenk aan specifieke voorbeelden, realiseer ik me dat wanneer een van mijn ouders me iets probeerde te leren, dat rechtstreeks verband hield met wat ze deden en dachten met betrekking tot cybernetica.

Een van mijn favoriete jeugdherinneringen is dat mijn vader me ooit hielp met het inrichten van een aquarium. Achteraf gezien begrijp ik dat hij me leerde na te denken over een gemeenschap van organismen en hun onderlinge interacties, hun wederzijdse afhankelijkheid en het probleem van het bewaren van evenwicht, zodat ze een vitale gemeenschap zouden vormen. Het beschouwen van de natuurlijke wereld in termen van ecologie en evenwicht stond toen nog in de kinderschoenen. In plaats van op te sommen wat er was, leerde ik te kijken naar relaties in plaats van naar afzonderlijke dingen.

Hij was zo verstandig om me niet  te vertellen dat hij me iets over cybernetica probeerde uit te leggen. Ik denk dat ik dan zou zijn afgehaakt. Maar hij leerde me wel degelijk nadenken over systemen. Gregory bedacht de term ‘schismogenese’ toen hij in 1936 de cultuur bestudeerde van de Iatmul, een stam op Nieuw-Guinea. Schismogenese heet inmiddels ‘positieve feedback’; het is wat er gebeurt bij een wapenwedloop. Er is frictie tussen landen, waardoor het ene zich bedreigd voelt door het andere. Dus schaft men extra tanks aan. De anderen zien dat en zeggen: ‘Ze wapenen zich tegen ons’. Vervolgens kopen ze nog veel meer tanks. Op die manier komen er aldoor meer tanks, vliegtuigen, bommen of wat dan ook. Dat noemen we positieve feedback: het soort feedback dat een proces in een stroomversnelling brengt in plaats van het te temperen.

Volgens mij denken de meeste Amerikanen nog steeds dat ‘positieve feedback’ is wanneer iemand je een schouderklopje geeft en zegt dat je het goed hebt gedaan. Maar positieve feedback betekent: meer doen van hetzelfde. Dus als dat betrekking heeft heroïne gebruiken of ruzie maken met je buurman, zal het tot problemen leiden. Negatieve feedback corrigeert wat je doet. Niet iemand die zegt: ‘Dat was een slechte toespraak’ maar iemand die zegt: ‘Verander van koers. Stop met het maken van nog meer bommen. Drink niet steeds meer alcohol.’ Negatieve feedback is corrigerende feedback.

Aan het begin van de oorlog waren mijn ouders, Margaret Mead en Gregory Bateson, een pas getrouwd stel. In die tijd ontmoetten ze Lawrence K. Frank, een van de bestuurders was van de Macy Foundation. Als gevolg van die ontmoeting raakten ze allebei betrokken bij de Macy Conferenties over Cybernetica, die gedurende twintig jaar plaatsvonden. Mijn moeder wordt in die kringen nog steeds aangehaald als het gaat over tweede-orde-cybernetica: de cybernetica van cybernetica. Ze verwijzen in dat verband ook vaak naar Gregory, hoewel die meer geïnteresseerd was in cybernetica als abstracte analytische methode. Mijn moeder wilde vooral weten hoe we deze inzichten kunnen toepassen op menselijke relaties.

Mijn ouders hadden een heel verschillende kijk op de Macyconferenties. Mijn moeder, die als eerste het begrip cybernetica van de cybernetica – tweede-orde-cybernetica – introduceerde, had als achtergrond de antropologische werkwijze van participerende observatie: hoe je iets kunt doen en jezelf observeren terwijl je het doet. Ze zei: ‘Wel, jullie zijn een nieuwe wetenschap, de cybernetica, aan het uitvinden, maar kijk je ook naar het proces van het uitvinden, het proces van publiceren, verklaren en interpreteren?’ Een van de problemen in de Verenigde Staten is dat bepaalde deelgebieden van cybernetica hebben geleid tot een enorme hoop economische activiteit in de informatica, terwijl de systeemtheoretische kant van de cybernetica altijd een stiefkind is gebleven. En juist dat systeemdenken is volgens mij cruciaal.

Als ze zei: ‘Jullie moeten kijken naar wat je doet; wat is de cybernetica van cybernetica?’ bedoelde ze: ‘Stop en kijk naar je eigen proces en probeer dat te begrijpen.’ Uiteindelijk loop je daarbij aan tegen het probleem van recursiviteit, maar daar valt volgens mij wel mee te leven.

Hoe weet je dat je weet wat je weet? Als ik denk aan de opwinding van die eerste jaren van de conferenties over cybernetica, is er beslist het een en ander verloren gegaan. Zo is de nadruk op technologie en de enorme impact van computertechnologie op de economie ten koste gegaan van de epistemologische nieuwsgierigheid die eraan ten grondslag lag, van hoe we weten wat we weten en hoe dat onze besluitvorming beïnvloedt.

Als je in onze huidige samenleving de term ‘cyber’ gebruikt, denken mensen meestal dat het om techniek gaat, om apparatuur. Het verwijst niet meer naar het mysterie van datgene dat voor evenwicht zorgt of hoe kan worden voorkomen dat een systeem uit elkaar valt – wat ooit de aanleiding was om ons in de materie te verdiepen. Het is waarschijnlijk niet voor het eerst dat een technologie met een extreem breed spectrum aan toepassingen zo effectief is voor bepaalde problemen dat ze andere mogelijke toepassingen aan het zicht onttrekt.

We zouden eigenlijk veel vaker gebruik moeten maken van cybernetische modellen. Als het bijvoorbeeld over geneeskunde gaat, denken we nu meer dan vroeger aan wat er aan de hand is als iemand lang geleden waterpokken had en nu gordelroos. Wat is er gebeurd? Hoe kon dat virus overleven? Door onder te duiken en een ​​andere vorm aan te nemen. We ontdekken steeds meer gevallen van problemen waarvan we dachten dat we ze hadden opgelost, maar die we misschien juist hebben verergerd.

Fabrieken hebben hogere schoorstenen gekregen in een poging om smog en zure regen tegen te gaan. Met als resultaat dat de rook verder en hoger terecht komt en nog steeds neerdaalt in de vorm van zure regen. Laten we daar eens naar kijken. Iemand heeft geprobeerd een probleem op te lossen en dat is ook gelukt: de smog is verminderd. Maar er gaat nog steeds rook door de schoorsteen en we denken dat die verdwijnt. Hij is niet weg. Hij is ergens heen gegaan. We moeten kijken naar het systeem als geheel. Wat gebeurt er met de rook? Wat gebeurt er met de kunstmest die in sloten en beken terecht komt? We gebruiken technologie om een ​​probleem op te lossen zonder de epistemologie van het probleem te begrijpen. Het probleem hangt samen met een groter systeem en wordt op deze manier niet opgelost.

Als je terugkijkt op de cybernetica-conferenties, vind je volop voorbeelden van ideeën die hadden kunnen worden toegepast op maatschappelijke en intermenselijke problemen maar waar niets mee gedaan is. De meeste mensen leren niets over cybernetica. Ze schaffen apparaten aan. Maar de cybernetica, die een complete tak van communicatietheorie heeft voortgebracht, is een manier van denken en geen industrie. In onze relaties met andere landen raken we soms verstrikt in schismogenese – zoals bijvoorbeeld een wapenwedloop – zonder dat mensen zich ervan bewust zijn dat dat is wat er aan de hand is, en zonder na te denken over wat er nodig is om zo’n ​​probleem op te kunnen lossen.

We denken dat we drugsverslaving kunnen oplossen met handhaving door de politie. Lukt niet. Het levert alleen meer banen op bij de politie en in het gevangeniswezen. Bij het nadenken over maatschappelijke problemen maken we geen gebruik van systeemtheorie, maar bij zakelijke problemen wel. Daar hebben we zelfs specialisten voor. Aan veel business schools wordt wel degelijk systeemtheorie onderwezen. Maar we voeden onze kinderen niet op tot systeemdenkers. En dat zouden we juist wel moeten doen.

Je hoeft niet veel technische termen te kennen om ​​systeemdenker te zijn. Een van de dingen die ik me de laatste tijd realiseer en die mij als antropoloog fascineren, is dat als je kijkt naar geloofssystemen en religies, ook die van heel lang geleden, blijkt dat mensen vaak intuïtief besef hadden van systemen en metaforen gebruikten om erover na te denken. Zo trof me het beeld van het pantheon van Griekse goden – Zeus en Hera, Apollo en Demeter enzovoort. Ik realiseerde me plotseling dat ze in de mythologie getrouwd zijn, kinderen hebben en dat de zon en de maan broer en zus zijn. Er zijn ruzies tussen de goden en huwelijken, echtscheidingen enzovoort. Omdat het Griekse pantheon gebaseerd was op verwantschap, stelde het mensen in staat gebruik te maken van wat ze hadden geleerd door hun vrienden en familieleden te observeren.

Dan wordt duidelijk dat het Griekse religieuze systeem een ​​manier was om wat je wist over je zusters en je neven en nichten en je tantes te vertalen in kennis over wat er aan de hand was met het weer, het klimaat, de gewassen en internationale betrekkingen – van alles eigenlijk.  Een metafoor biedt altijd een denkkader: kennis over het een gebruiken om na te denken over iets anders. Religie is dus onder meer een hulpmiddel bij de adaptie. Het is een vorm van analogisch denken.

Iets anders dat ik graag benadruk, is dat we de hele tijd een analoge machine bij ons hebben, ons lichaam genaamd. Het heeft allerlei verschillende organen die op elkaar inwerken; ze zijn onderling afhankelijk. Als een ervan uit balans raakt, zal dat uiteindelijk ook de anderen uit evenwicht brengen. Dit geldt evenzeer voor de samenleving, want ook daar is alles met elkaar verbonden.

Er zijn nog een paar andere zaken die in het oog springen. Als je kijkt naar het Oude Testament, de Hebreeuwse Geschriften, dan valt op dat men uitgaat van de verschillen tussen dingen. Precies hetzelfde zie je bij heel jonge kinderen. Mama is niet hetzelfde als papa. Papa is niet hetzelfde als broer. Ik herinner me dat mijn dochter het woord ‘Goggy’ gebruikte, waarmee ze eigenlijk ‘Doggy’ bedoelde. Maar vervolgens noemde ze ook de koe een ‘Goggy’, waarschijnlijk omdat ook die vier poten had. Daarna moet je dan de koe van de hond leren onderscheiden. Als kind moeten we leren onderscheid te maken tussen dingen – dit is dit en dat is dat. In het boek Genesis worden alle dingen afzonderlijk geschapen. Ze evolueren niet door differentiatie. God scheidt de dag van de nacht, het licht van de duisternis, het droge land van het water. Daarna volgt een groot aantal regels van dingen die gescheiden moeten worden gehouden. Je kunt niet twee verschillende soorten vezels in dezelfde stof weven. Je kunt niet ploegen met een os en een ezel, maar je moet twee ossen gebruiken.

Dit differentiatieproces is in intellectueel opzicht weliswaar van belang, maar het is slechts een begin. Taxonomie is belangrijk als basis voor alles wat we weten over de natuurlijke wereld. We hebben geleerd te classificeren. Een bij is geen vlinder. In allerlei vormen van religie en mythologie zie je dat stadium terug. En bij sommige latere vormen zie vervolgens de overstap van het maken van onderscheid naar het herkennen van relaties.

Kijken we naar het Nieuwe Testament, dan zien we dat Jezus de regels om dingen gescheiden te houden voortdurend overtreedt. Dat maakte mensen boos, omdat het niet was wat ze hadden geleerd. Hij stelde steeds de vraag: ‘Wat is het verband?’ En niet: ‘Wat is het verschil?’ Het is duidelijk dat deze blijvende behoefte om te erkennen dat dingen gescheiden en verschillend zijn en op verschillende manieren gebruikt kunnen worden, om vervolgens in te zien dat alles met elkaar verbonden is en hoe, elkaar in intellectuele zin in balans houden. Als je naar de geschiedenis van de mythologie kijkt, zie je hoe de mens zich langzaam vooruit beweegt. Kijk je naar de geschiedenis van de wetenschap, dan zie je hoe dingen die ooit gelijk werden gesteld, nu als gescheiden worden beschouwd. Hoe ver we ook gaan in onze speurtocht naar steeds elementairdere deeltjes, we blijven steeds nieuwe deeltjes ontdekken. We zijn er nog steeds op uit om dingen te scheiden, maar we ontdekken ook nog steeds verbanden.

Zelf ben ik nauw betrokken geraakt bij vraagstukken rond klimaatverandering. Klimaatverandering komt doordat we een bepaalde route volgen zonder te snappen hoe dat andere aspecten van onze werkelijkheid zal beïnvloeden. Nog een stap verder – en dat punt blijkt lastig over te brengen – zal blijken dat wanneer mensen zich bedreigd voelen, ze zullen vechten of vluchten. Dan hebben we een vluchtelingencrisis met mensen die wegtrekken omdat hun manier van bestaan ​​niet langer mogelijk is vanwege klimaatverandering. Bovendien dreigen er conflicten als een land over meer vruchtbare grond wil beschikken – Lebensraum. Er kunnen oorlogen uitbreken om land of om visrechten.

De meeste mensen beseffen het niet, maar er is een mythe ontstaan ​​over de zogenaamde Arabische lente van een paar jaar geleden, waarover men hier in Amerika zei: ‘Mooi, de bevolking komt in opstand tegen autoritaire regeringen en die landen zullen democratisch worden.’ Maar er was iets heel anders aan de hand. De oorzaak van de Arabische Lente was een periode van vijf jaar lang droogte, waardoor veel mensen moeite hadden om hun gezin eten te geven. Dus trokken ze van het platteland naar de stad, op zoek naar banen, zodat ze geld konden verdienen om hun gezin te kunnen onderhouden. Maar er waren in de steden geen banen, dus brak er revolutie uit.

De tragedie van de cybernetische revolutie is dat de technologische kant ervan de theoretische heeft verdrongen. We gaven de voorkeur aan slimme gadgets boven meer inzicht in de wereld waarin we leven.