Reclame nu: “De nieuwe Spiderman draait in de bioscoop!” Straks: “Je gaf aan dat je je overwerkt voelt, zal ik [de Ai] een kaartje voor de film waar we het over hadden voor je bestellen?”
Zo zouden Ai-assistenten besluitvorming al in een vroeg stadium kunnen voorspellen en beïnvloeden. Deze ‘intenties’ kunnen ze dan in realtime verkopen aan bedrijven die in de (gemanipuleerde) behoefte kunnen voorzien – nog voordat we beseffen dat we een beslissing hebben genomen.
Op steeds meer plekken duiken chatbots op, ook steeds vaker in je gewone werkomgeving. Die bots kunnen zo getraind worden dat ze je niet alleen helpen met je werk, maar ook dat ze je bewegen bepaalde dingen te gaan doen, zoals in het voorbeeld of je niet naar de film wilt vanavond. Dit voorbeeld is nog relatief onschuldig, maar wat als een Ai gebruikmaakt van je politieke voorkeur of geslacht, of weet hoe je te vleien, en wat al niet meer? En dat in combinatie met op jou gerichte aanbiedingen?
Van aandacht naar intentie
Op dit moment is van die manier van beïnvloeding op wat je wilt gaan doen in de toekomst nog geen sprake, schrijven Ai-ethici van de Britse Universiteit van Cambridge in Harvard Data Science Review. Wel is het een ‘logisch gevolg’ om te verschuiven van de huidige aandachtseconomie, waarbij online bedrijven hopen je zo lang mogelijk op hun platform te houden, naar de intentie-economie. Het zou volgens de onderzoekers leiden tot het ‘vastleggen, manipuleren en vercommercialiseren’ van menselijke intentie of bedoelingen en dit zou een ‘lucratieve parallel aan – en levensvatbare uitbreiding van – de nu dominante aandachtseconomie’ zijn.
Kort gezegd: een chatbot kan heel goed je toekomstige intenties beïnvloeden om daarmee geld te verdienen voor de techbazen van de toekomst.
De ethici zeggen dat we aan het begin staan van een ‘lucratieve, maar verontrustende nieuwe marktplaats voor digitale signalen van intentie’, van het kopen van bioscoopkaartjes tot het stemmen op bepaalde kandidaten.
De onderzoekers denken niet voor niets dat dit soort technieken in de nabije toekomst ingezet gaat worden, ze verwijzen in hun onderzoek onder andere naar wat Ai-techgiganten als OpenAI aankondigden.
Digitale ‘vrienden’
Het gaat specifiek om LLM’s of large language models, het bekendste soort kunstmatige intelligentie voor veel mensen omdat je hier heel rechtstreeks mee ‘communiceert’. Deze digitale ‘vrienden’ krijgen door de persoonlijke relatie die mensen ermee kunnen ontwikkelen, inzicht in heel veel gedragingen van de gebruikers. De machines leren van alles over de mensen met wie ze chatten, van de diepste zielenroerselen tot oppervlakkige gezelligheid.
Deze chatbots kunnen praktisch alles nabootsen, ze kunnen je boos maken of juist blij. Ze kunnen het vertrouwen van je winnen en je zo ‘sociaal manipuleren’, schrijven de onderzoekers.
Geld
De bedragen die uitgegeven worden door techbedrijven aan het Ai-assistententijdperk zijn gigantisch. De digitale assistenten, zoals Copilot, worden nu al overal in je digitale omgeving geplaatst, vaak zonder dat je het merkt. Van handige hulpmiddelen tot de vraag wiens belangen deze assistenten eigenlijk dienen, stelt een van de onderzoekers Yaqub Chaudhary.
“Wat mensen zeggen tijdens een gesprek, hoe ze het zeggen en het soort conclusies dat als gevolg daarvan in realtime kan worden getrokken, zijn veel intiemer dan alleen registraties van online interacties”, zegt hij. “We waarschuwen dat er al AI-tools worden ontwikkeld om menselijke plannen en doeleinden te ontlokken, af te leiden, te verzamelen, vast te leggen, te begrijpen, te voorspellen en uiteindelijk te manipuleren en te vercommercialiseren.”
De andere onderzoeker, Jonnie Penn, legt uit dat de huidige ‘internetvaluta’ vooral uit aandacht bestaat en dat dit zal verschuiven naar intentie. “Je motivaties worden de nieuwe valuta”, zegt hij. “Tenzij het gereguleerd wordt, zal de intentie-economie je motivaties behandelen als de nieuwe valuta. Het wordt een goudkoorts voor degenen die menselijke intenties targeten, sturen en verkopen.”
De wetenschappers stellen dan ook voor dat we moeten beginnen met nadenken over de waarschijnlijke impact die zo’n online marktplaats voor het targeten, sturen en verkopen van menselijke intenties kan hebben op ons, de mens. Het gaat dan om menselijke aspiraties, zoals vrije en eerlijke verkiezingen, een vrije pers en eerlijke marktconcurrentie.
De twee schrijvers van het artikel halen hun informatie onder andere uit berichten die door verschillende grote spelers in de tech-industrie geuit zijn, zoals door OpenAI, het bedrijf achter onder andere ChatGPT, Shopify en de CEO van Nvidia, een chipmaker. Al deze bedrijven hebben al aangegeven dat het achterhalen van de intentie en het verlangen van gebruikers te achterhalen tot een van de doelen behoort.
Ook Meta, het bedrijf achter onder andere Facebook, Instagram en Whatsapp gaf in 2021 al een onderzoek uit met als titel “Intentonomy“, een dataset voor het begrijpen van menselijke intentie.
Ook Apple deed in 2024 een duit in het zakje voor het verbinden van apps met Siri, de spraakassistent op iPhones, met ‘App Intents’. Dit gaat onder andere om het voorspellen van acties die iemand zou kunnen nemen in de toekomst.
Chaudhary: “Deze bedrijven verkopen onze aandacht al. Om commercieel voordeel te behalen, is de logische volgende stap om de technologie die ze duidelijk aan het ontwikkelen zijn te gebruiken om onze intenties te voorspellen en onze verlangens te verkopen voordat we zelfs maar volledig hebben begrepen wat ze zijn.”
Penn wijst erop dat deze ontwikkelingen niet per se slecht zijn, maar wel de potentie hebben om destructief te zijn. “Publieke bewustwording van wat komen gaat is de sleutel om ervoor te zorgen dat we niet het verkeerde pad op gaan,” besluit hij.
