De automatisering wint terrein en maakt ons leven eenvoudiger. Maar dat is niet het hele verhaal, zo stelt Nicholas Carr. De automatisering eist ook haar tol van ons werk en onze talenten, vernauwt onze blik en maakt ons kwetsbaar.
Automatisering begon als iets moois. Computers en software gingen dingen doen die wij mensen vroeger zelf moesten doen. Het begon allemaal zo’n beetje in de fabrieken van Ford, de plek waar de term ‘automatisering’ ook voor het eerst gevallen zou zijn. Kort na de oorlog gingen machines er het transport van materialen verzorgen. Inmiddels is het begrip ‘automatisering’ niet meer uit onze samenleving weg te denken en ondervinden we er allemaal de gevolgen van. In toenemende mate vertrouwen we op onze computers. En dat is vaak niet voor niets: dankzij computers en andere apparaten kunnen we taken gemakkelijker of sneller uitvoeren of worden taken ons zelfs helemaal uit handen genomen. Maar automatisering is niet alleen maar rozengeur en maneschijn. “De automatisering heeft ook dieperliggende, verborgen gevolgen,” stelt Nicholas Carr in zijn boek ‘De Glazen Kooi’. En die gevolgen zijn goede redenen om de automatisering eens wat kritischer te gaan bekijken.
1. Piloten kunnen niet meer vliegen
Die gevolgen werden voor het eerst zichtbaar in de luchtvaartindustrie: een plek waar de automatisering in de afgelopen decennia een omvangrijke plek heeft weten te veroveren. “Tijdens de gemiddelde passagiersvlucht vandaag de dag heeft de piloot alles bij elkaar ongeveer drie minuten de besturing in handen – één of twee minuten tijdens het opstijgen en nog eens zoiets bij het landen. De rest van de tijd zitten piloten vooral op schermen te kijken en gegevens in te voeren,” stelt Carr. Piloten zijn geen bestuurders meer, maar bewakers of toezichthouders van de automatisering. En zolang die automatische systemen hun werk doen, is dat geen probleem. Maar “als de computersystemen aan boord niet werken zoals ze zouden moeten, of zich andere onverwachte problemen voordoen tijdens een vlucht, zien de piloten zich gedwongen het vliegtuig handmatig te besturen. Wanneer ze plotseling in een uitzonderlijke situatie terechtkomen, maken ze vaker fouten.” Automatisering vermindert de deskundigheid van de bemanning. “Psychomotorische vaardigheden slijten, en daar kan een piloot last van hebben in die zeldzame, maar ernstige gevallen wanneer hij zelf de besturing weer in handen moet nemen.” Dat werd bijvoorbeeld pijnlijk duidelijk in 2009 toen een Airbus A330 met aan boord 228 passagiers in de oceaan stortte doordat de piloot verkeerde keuzes maakte nadat de automatische piloot uitschakelde.
2. De dokter luistert niet meer
Niet alleen piloten hebben echter te maken met de negatieve gevolgen van automatisering. Het overkomt ook artsen. Dat zie je bijvoorbeeld als je kijkt naar de invoering van het elektronisch patiëntendossier: een stukje automatisering dat de gezondheidszorg moest verbeteren en goedkoper moest maken. Het dossier bevatte alle onderzoeken die mensen hebben ondergaan, dus – zo was de gedachte – wordt het regelmatig opnieuw uitvoeren van onderzoeken overbodig en dat bespaart tijd en geld. Maar uit onderzoek blijkt iets anders. “In een onderzoek dat in 2012 werd gepubliceerd in het tijdschrift Health Affairs, werd aangetoond dat wanneer artsen in staat zijn om op een eenvoudige manier eerdere röntgenfoto’s en andere diagnostische afbeeldingen van een patiënt op een computer op te roepen, ze sneller geneigd zijn om nieuw onderzoek aan te vragen dan wanneer ze niet direct bij het oudere materiaal kunnen. Over het algemeen genomen vroegen artsen die beschikten over geautomatiseerde systemen in 18 procent van alle patiëntbezoeken een nieuw onderzoek aan, terwijl artsen die nog zonder deze systemen werkten dat slechts in dertien procent van de gevallen deden.” Ook blijkt uit onderzoek dat het patiëntendossier leidt tot verminderde klinische kennis, toegenomen stereotypering van patiënten en minder grondige en persoonlijke zorg. Zo ‘knippen en plakken’ artsen vaak standaardteksten in het dossier en dat kan ten koste gaan “van hun begrip van de toestand van de patiënt en hen zo hinderen om goed onderbouwde beslissingen te nemen bij diagnose en behandeling’.” Ook blijkt uit onderzoek dat de interactie tussen dokter en patiënt door de aanwezigheid van een computer verandert. Geen wonder: recent onderzoek in de VS suggereert dat eerstelijns artsen tijdens patiëntafspraken tot wel 55 procent van hun tijd besteden aan hun scherm.
3. We worden onachtzaam en vooringenomen
Maar niet alleen piloten en dokters laten zicht te veel leiden door hun computers. Iedereen die taken uitvoert met behulp van een computer dreigt ten prooi te vallen aan twee aandoeningen: onachtzaamheid en een vooringenomenheid wat betreft automatisering. “De onachtzaamheid slaat toe wanneer de computer ons een vals gevoel van veiligheid geeft,” stelt Carr. “We raken er zo sterk van overtuigd dat de machine foutloos zal werken en elk probleem dat zich zal voordoen kan oplossen, dat we toestaan dat onze aandacht verslapt. We maken ons los van het werk, of toch in elk geval van het deel dat door de software wordt verzorgd, en als gevolg daarvan kunnen we signalen over het hoofd zien dat er iets mis is.” Een mooi voorbeeld is de spellingscontrole: we lezen onze teksten minder goed na, omdat we ervan uitgaan dat de spellingscontrole de fouten er toch wel uitvist. Dat onachtzaamheid ook grote gevolgen kan hebben, blijkt wel uit de geschiedenis van de Royal Majesty. Het schip was in 1995 onderweg van Bermuda naar Boston en de bemanning liet zich leiden door het allermodernste automatische navigatiesysteem. Maar doordat een kabel losraakte, werkte het systeem op een gegeven moment niet meer. Hoewel er duidelijk aanwijzingen waren dat het systeem niet langer functioneerde en het schip op de verkeerde koers zat, raakte het in dertig uur tijd meer dan twintig mijl uit koers en strandde op een zandbank. Er volgde een onderzoek en daaruit bleek dat de automatisering ertoe had geleid ‘dat de zeeman geen werkelijke controle over, of actieve rol in de besturing van het schip had’. Ook architecten lopen wel eens tegen hun eigen onachtzaamheid aan. Vroeger controleerden ze de blauwdrukken grondig voor ze deze aan de bouwers gaven. Nu worden de maatvoeringen veel minder gecontroleerd, want hoe kan een computer het nu bij het verkeerde eind hebben? Het heeft al tot heel wat kostbare fouten in de bouw geleid. “Vooringenomenheid wat betreft automatisering is nauw verwant aan deze onachtzaamheid. Ze ontstaat wanneer mensen onterecht veel waarde hechten aan de informatie die ze op hun beeldscherm zien.” Onachtzaamheid en vooringenomenheid zijn volgens Carr symptomen van een geest die niet wordt uitgedaagd, die niet volledig genereert, het geheugen versterkt en vaardigheden uitbreidt.
4. We hebben een grotere kans om dement te worden
Tja, zul je misschien denken. Dat is allemaal misschien wel zo, maar wat maakt het uit? Nou, veel. Zo zijn we het er wel over eens dat automatisering een stukje uitdaging in ons leven wegneemt. Was op de bonnefooi van Groningen naar Amsterdam rijden enkele decennia geleden nog een uitdaging, nu denken we er vanaf het moment dat de TomTom is ingeschakeld niet eens meer over na. En wat is het ergste wat ons kan overkomen? Dat de TomTom er een keertje naastzit? Nee, zo stelt onderzoeker Véronique Bohbot. Uit haar onderzoek blijkt dat het belangrijk is dat mensen hun navigatievermogen blijven oefenen. Want die oefeningen zijn van invloed op het functioneren en zelfs op de omvang van de hippocampus (het deel van het brein dat betrokken is bij het opslaan en ophalen van informatie). “Hoe meer mensen moeite doen om een cognitieve kaart van de ruimte om zich heen te maken, hoe sterker de onderliggende geheugencircuits lijken te worden. Dat kan zelfs leiden tot de groei van nieuwe grijze massa in de hippocampus – een fenomeen dat is aangetroffen bij Londense taxichauffeurs – zoals we ook meer spiermassa kunnen opbouwen door te oefenen. Maar wanneer ze simpelweg stap voor stap instructies volgen alsof ze robots zijn, stimuleren ze hun hippocampus niet en kunnen ze gevoeliger worden voor geheugenverlies.” Er is volgens Bohbot een reële kans dat te weinig navigeren leidt tot geheugenverlies en een grotere kans op dementie. “De samenleving is er op verschillende manieren op ingericht om de hippocampus te verkleinen,” zo stelt ze. “Ik denk dat we in de komende twintig jaar steeds jongere gevallen van dementie zullen zien.”
Wie dit zo leest, zou denken dat Carr een hekel heeft aan de automatisering. Maar niets is minder waar. “Het punt is niet dat automatisering verkeerd is. De automatisering en haar voorloper de mechanisatie maken al eeuwenlang vorderingen en hebben enorm bijgedragen aan een verbetering van onze omstandigheden.” We zijn nu enkel op een punt aangekomen waarop automatisering standaard als een zegen wordt beschouwd, terwijl het dat lang niet in alle gevallen en elke mate is. Soms is het nieuwste, meest geautomatiseerde, handigste stuk gereedschap niet de beste keuze. Bovendien is het nu zo dat automatische systemen ingezet worden om tijd en geld te besparen. Maar wat doen wij met die tijd en dat geld dat overblijft? “Als ze op een verstandige manier wordt ingezet, kan de automatisering ons verlossen van eentonig werk en ons ertoe aanzetten om meer uitdagende en bevredigende activiteiten te kiezen. Het probleem is alleen dat wij niet zo goed zijn in het rationeel nadenken over automatisering, en dat we er de implicaties ook niet goed van begrijpen. We weten niet wanneer het wel genoeg is, laat staan wanneer het gewoon te ver gaat.”
