De ontwikkelingen op het gebied van onder andere kunstmatige intelligentie, 5G- en 6G-netwerken en Internet of Things gaan hard. Zo hard zelfs, dat het erop lijkt dat we het tempo nauwelijks kunnen bijbenen.

Het zit er al een tijdje aan te komen: nieuwe technologieën die een enorme impact zullen hebben op de maatschappij. Met name de ontwikkelingen in een aantal digitale technologieën gaan hard. Hoewel het er zeker op lijkt dat de mens hierbij gebaat is, is het de vraag of we eigenlijk wel goed voorbereid zijn op deze stormachtige ontwikkelingen; weten we eigenlijk wel wat ons te wachten staat en wat de gevolgen zullen zijn?

Technologische storm
Volgens onderzoekers van de TU Delft stevenen we af op een zogenoemde ‘technologische storm’. “Je moet in dit geval denken aan ontwikkelingen op het gebied van kunstmatige intelligentie (AI), augmented en virtual reality (AR/VR), 5G- en 6G-netwerken en blockchain,” somt Ibo van de Poel, professor Ethiek & Technologie bij de faculteit Techniek, Bestuur en Management van de TU Delft in gesprek met Scientias.nl op. “Maar het gaat ook om de toenemende integratie van fysieke technologieën zoals robotica, nanotechnologie en biotechnologie. Via het Internet of Things (IoT) zullen al die technologieën steeds meer met elkaar verweven raken. De verwachting is dat we in de toekomst een ‘Internet of Bodies’ krijgen, waarbinnen sensoren bijvoorbeeld de bloeddruk of hersenactiviteit van mensen kunnen meten en die in vrijwel real-time kunnen communiceren met andere systemen, zoals intelligente algoritmes. Die kunnen op basis daarvan gezondheidsinterventies voorstellen, maar ook mensen proberen te verleiden met reclame.”

Knelpunt
Kortom, slimme lichamen, slimme huizen, slimme industrieën, slimme steden en slimme overheden liggen in het verschiet, met de belofte van vele voordelen en kansen. Maar door het samenkomen van al deze technologische vooruitgang wordt er in potentie een enorme hoeveelheid data gegenereerd op het snijvlak van de fysieke en de digitale wereld. Grote hoeveelheden zeer persoonlijke data worden steeds sneller verzameld en verwerkt en dringen daarmee diep door in onze persoonlijke levens. Onderzoekers van de TU Delft zijn dan ook al enkele jaren bezig om de technologische ontwikkelingen door een ethische bril te bekijken. Want het valt niet te voorkomen dat de ontwikkeling van al deze nieuwe technologieën gepaard gaat met een reeks nieuwe, morele, maatschappelijke en politieke uitdagingen.

Zijn we voorbereid?
Hoewel de stormachtige ontwikkelingen in principe een hoop goeds beloven, is dit eigenlijk alleen het geval als we er verstandig mee om weten te gaan en op hun komst zijn voorbereid. Maar zijn we dat eigenlijk wel? “Waarschijnlijk niet,” antwoordt Van de Poel desgevraagd. “Sommige van de uitdagingen vereisen actie op supranationaal niveau. Dat komt doordat de nieuwe cyber-fysische systemen die zullen ontstaan zich niet zullen houden aan landsgrenzen. Bovendien opereren de Big Tech-bedrijven, die deze nieuwe systemen en toepassingen ontwikkelen, wereldwijd. Er is dus actie nodig door bijvoorbeeld de EU. De EU is de laatste jaren, als het gaat om nieuwe maatregelen en wetgeving met betrekking tot kunstmatige intelligentie, al behoorlijk actief geweest. Ons rapport laat echter zien dat dit niet genoeg zal zijn om de uitdagingen van de aankomende technologische storm te adresseren.”

Uitdagingen
In het rapport onderscheiden de onderzoekers negen uitdagingen. “Sommige daarvan liggen in het verlengde van kwesties die nu al spelen,” legt Van de Poel uit. “Denk bijvoorbeeld aan toenemend energiegebruik door digitale technologie, wat vragen rond duurzaamheid oproept. Bovendien kunnen sommige toepassingen van kunstmatige intelligentie gepaard gaan met een gebrek aan transparantie. Andere risico’s zijn nieuwer. Zo is het bijvoorbeeld te verwachten dat opkomende technologieën de grenzen tussen bepaalde sociale domeinen doen vervagen. Denk aan applicaties die onze gezondheid in de gaten houden of aanmoedigen tot een gezondere levensstijl. Die raken het medisch domein, maar ook aan ons privéleven – en misschien wil onze werkgever ons dan ook aanzetten tot een gezondere levensstijl. Een ander voorbeeld van een uitdaging waar nog weinig aandacht voor is, is dat deze technologieën waarschijnlijk nog veel dieper gaan ingrijpen op de persoonlijke levenssfeer; ze kunnen bijvoorbeeld mede gaan bepalen hoe en met wie we relaties aangaan. Dat zijn enkele zaken waar we dieper over na moeten denken.”

EU observatory
In het rapport beschrijven de onderzoekers ook zeven oplossingen voor de grootste uitdagingen die ons te wachten staan. Denk daarbij aan hoe we privacy en veiligheid kunnen bewaken en hoe we ethisch gebruik van data kunnen waarborgen, zodat grote problemen die kunnen ontstaan door slordig gebruik van kunstmatige intelligentie of bepaalde gegevens, voorkomen kunnen worden. “Het gaat vooral om beleidsopties voor de EU,” vertelt Van de Poel. Een belangrijke aanbeveling is de oprichting van een ‘EU observatory’ voor digitale technologie. Dat is een organisatie die de ontwikkelingen in en maatschappelijke gevolgen van digitale technologie goed en tijdig in kaart brengt, er onderzoek naar doet en met voorstellen komt om eventuele nadelige gevolgen goed te adresseren. Dit is nodig omdat veel ontwikkelingen nog onzeker zijn; sommige nieuwe uitdagingen zullen pas gaandeweg duidelijk worden. Maar juist aan het begin van technologische ontwikkelingen kun je er nog veel invloed op uitoefenen en ze bijsturen. Daarom wil je tijdig de benodigde maatschappelijke discussie voeren.”

Maatschappelijke en morele waarden
Een tweede belangrijke aanbeveling van de onderzoekers is om veel systematischer maatschappelijke en morele waarden mee te nemen in het ontwerp van nieuwe technologie. “We hebben daar in Delft een benadering voor ontwikkeld die we Design for Values noemen en die ook steeds meer navolging krijgt,” aldus Van de Poel. “Zo wordt er gesproken over ‘privacy-by-design’ en ‘safety-by-design’. Maar dit zou eigenlijk nog veel systematischer moeten gebeuren.”

Het publieke domein
Een derde belangrijke suggestie die de onderzoekers doen, is dat we de nieuwe ‘cyber-fysische’ infrastructuren die zullen ontstaan, moeten gaan zien als onderdeel van het publieke domein. “We zouden het niet geheel moeten overlaten aan private partijen,” benadrukt Van de Poel. “Dit zou zich kunnen vertalen in publiek eigenaarschap van dergelijke infrastructuren, maar het betekent minimaal dat de overheid randvoorwaarden stelt met betrekking tot toegang tot die infrastructuren en de borging van centrale maatschappelijke waarden zoals privacy, veiligheid, duurzaamheid en rechtvaardigheid.”

Werk aan de winkel
Al met al laten de onderzoekers zien dat er nog een hoop werk te verzetten valt voordat we met overtuiging kunnen zeggen dat we voorbereid zijn op de aankomende technologische storm. De studie biedt in ieder geval een vogelperspectief van de belangrijkste maatschappelijke en ethische uitdagingen die we kunnen verwachten als gevolg van de convergentie van digitale technologieën en oppert beleidsopties die kunnen worden overwogen om deze effectief aan te pakken. Ondertussen werken ethici van de TU Delft samen met onder andere de Europese Commissie op het gebied van ethiek en innovatie en leveren zo een bijdrage aan ‘een verantwoordelijke, digitale toekomst voor Europa’.

Hoe die verantwoordelijke, digitale toekomst er precies uit zal zien? “Dat kunnen we nu nog niet helemaal goed overzien,” zegt Van de Poel. “Dat komt omdat er nog veel onzeker is. Een blauwdruk lijkt daarom niet mogelijk en ook niet wenselijk. Wat we wel weten, is dat een aantal belangrijke morele en maatschappelijke waarden onder druk kunnen komen te staan. Het is daarom belangrijk om helder te hebben welke waarden – zoals privacy, duurzaamheid, menselijk welzijn en sociale rechtvaardigheid – we in ieder geval overeind willen houden. Als we dat weten, kunnen we ook tijdig alarm slaan als deze door nieuwe, digitale technologieën in het geding komen.”