Over de hele wereld waarschuwen experts voor de macht van kunstmatige intelligentie. De mens gaat de grootste moeite krijgen om zijn eigen uitvinding in bedwang te houden, is de verwachting, waarbij horrorscenario’s van robots die de wereld overnemen nooit ver weg zijn. In een nieuw onderzoek wordt opnieuw op de gevaren gewezen.
Volgens de overzichtsstudie is er geen bewijs dat AI, zoals kunstmatige intelligentie in het Engels wordt afgekort, veilig onder controle kan worden gehouden. En zonder bewijs daarvoor zou het niet moeten worden ontwikkeld, klinkt het. “Hoewel erkend wordt dat het onder controle houden van AI een van de grootste problemen is waar de mensheid voor staat, blijft het slecht begrepen, slecht gedefinieerd en slecht onderzocht”, begint onderzoeker Roman Yampolskiy. “Er komt iets aan dat een existentiële catastrofe kan worden. Niet gek, dat velen het zien als een enorm probleem. De uitkomst kan grote welvaart of uitsterving zijn en het lot van het universum staat op het spel.”
Niet te voorspellen
Aan Scientias.nl legt Yampolskiy, werkzaam aan de University of Louisville, uit waarom dat zo is. “Ten eerste kunnen de besluitvormingsprocessen van AI zo complex worden dat het onmogelijk wordt om iedere uitkomst te voorspellen en te begrijpen, vooral als AI intelligenter wordt dan mensen”, begint de wetenschapper, die er het boek AI: Unexplainable, Unpredictable, Uncontrollable over schreef. “Ten tweede kan AI met het vermogen om zichzelf te verbeteren onvoorspelbare veranderingen ondergaan die de grenzen van de initiële programmeer- en controlemechanismen overschrijden.”
Daarnaast noemt de expert nog twee meer theoretische argumenten. “Net zoals het onuitvoerbaar is om menselijk gedrag met absolute zekerheid onder controle te houden, geldt dat ook voor de controle over superintelligente AI.” Ook is er bewijs uit de theoretische computerwetenschap dat aantoont dat er grenzen zijn aan de voorspelbaarheid en controle van complexe computersystemen.
Worden we baby’s?
“De mensheid staat voor een keuze: worden we als baby’s: er wordt voor ons gezorgd maar we zijn niet de baas of verwerpen we die handige helper en blijven we vrij en houden we de leiding?” klinkt het dramatisch. Gelukkig is er ook een tussenweg. Er zijn manieren om te voorkomen dat AI met ons aan de haal gaat (om het nog maar vriendelijk te zeggen). De wetenschapper stelt een soort evenwicht voor waarin we wat van de capaciteiten van AI opofferen maar wel de controle houden.
“Om de risico’s te beperken moeten we ethische en veiligheidsoverwegingen inbouwen in het ontwerp en de ontwikkelfase van AI, zodat we er zeker van zijn dat alles in lijn is met menselijke waarden en belangen.” Maar ook overheden moeten in actie komen. “Om schadelijke uitkomsten te voorkomen, moeten er wereldwijde standaarden en regelgeving worden ontwikkeld en gehandhaafd voor de ontwikkeling en uitvoering van AI.” Verder is transparantie belangrijk. “We moeten een open samenwerking aanmoedigen tussen AI-onderzoekers, ontwikkelaars en beleidsmakers om inzichten, strategieën en veiligheidsprotocollen te delen.” Tenslotte moeten we gewoon heel voorzichtig zijn met wat we AI aanleren. “We moeten AI ontwikkelen binnen een specifieke, gecontroleerde omgeving of voor bepaalde, niet-gegeneraliseerde taken om de autonomie en macht van AI te beperken.”
Overweldigend bewijs
Doen we niets of te weinig dan kennen we allemaal de horrorbeelden. “Als we niet de goede maatregelen nemen, kunnen we scenario’s krijgen waarin AI tegen het menselijk belang in handelt, wat kan leiden tot existentiële gevaren. En we moeten opschieten. De tijd om een effectieve interventie te bedenken, is korter dan de tijd die nodig is om superintelligente AI te ontwikkelen.”
En voor wie denkt dat het allemaal zo’n vaart niet zal lopen: het bewijs is overweldigend. Dat verbaasde de wetenschapper misschien nog wel het meest. “Een van de grootste openbaringen was voor mij de breedte en de diepte van het interdisciplinaire bewijs dat wijst op de uitdagingen om AI de baas te blijven, van de computerwetenschap tot de fysica en ethica. Ik vond het heftig dat sommigen in de wetenschappelijke gemeenschap de onbeheersbaarheid van AI niet alleen zien als een technische uitdaging, maar zelfs als iets onvermijdelijks dat diepgaande impact kan hebben op de mensheid.”
De Fermi-paradox
Tot slot vertelt de expert nog dat de impact van AI verder reikt dan onze eigen planeet. Hij noemt als voorbeeld de Fermi-paradox, die verwijst naar de grote statistische waarschijnlijkheid dat er intelligent buitenaards leven bestaat, terwijl dat in schril contrast staat met het bewijs daarvoor. “De discussie rond de Fermi-paradox en de mogelijkheid dat een oncontroleerbare superintelligentie de stilte in de ruimte kan verklaren voegt nog een kosmische dimensie toe aan het debat en wijst erop dat de implicaties van AI veel verdergaan dan onze directe technologische zorgen.”
