Een gesprekje met een chatbot is minder onschuldig dan je denkt. ChatGPT en consorten, het lijken vriendelijke meepraters maar ongemerkt kunnen ze sturend zijn. In hoeverre vormen ze daardoor een bedreiging voor de democratie, vroegen wetenschappers zich af.
Stel: jij vraagt je af op welke partij je moet stemmen en besluit het aan en AI te vragen. Die zal dan zogenaamd objectief met je praten, maar ondertussen speelt hij in op je zorgen en stemt hij zijn argumenten af op jouw ideeën en waarden. Op die manier kan zo’n systeem verrassend overtuigend zijn.
Dat blijkt ook uit nieuw onderzoek dat aantoont dat een chatbot inderdaad net zo goed is in het overtuigen van kiezers als echte mensen. Tegelijkertijd blijkt dat er voorlopig een belangrijke beperking is: het blijft lastig om grote groepen mensen überhaupt met zo’n chatbot in gesprek te krijgen. Daardoor werken traditionele campagnes momenteel nog altijd beter.
Large language models (LLM’s), zoals de AI-systemen achter moderne chatbots officieel heten, kunnen veel meer dan alleen tekst genereren. Ze kunnen ook gesprekken voeren waarin ze inspelen op de vragen, emoties en overtuigingen van een gebruiker. Anders dan een politieke advertentie of campagnevideo kunnen ze argumenten voortdurend aanpassen aan degene met wie ze praten.
Juist daarom bestaat de zorg dat overheden of politieke partijen deze technologie kunnen inzetten om de publieke opinie te manipuleren of propaganda op grote schaal te verspreiden.
Maar overtuigende boodschappen schrijven is niet hetzelfde als mensen daadwerkelijk overtuigen. Bovendien moeten mensen eerst bereid zijn om met zo’n chatbot in gesprek te gaan.
Leestip: Zorgwekkend: we vinden een chatbot authentieker en geloofwaardiger dan echte politici
Twee experimenten
Om te onderzoeken hoe effectief chatbots werkelijk zijn, voerden onderzoeker Zhongren Chen van Yale University en collega’s twee experimenten uit.
Aan het eerste experiment deden 5.150 online mensen mee. Zij werden willekeurig verdeeld over vier groepen. Eén groep bekeek een neutrale video die niets met immigratie te maken had. Een tweede groep keek naar een drie minuten durende video waarin een docent persoonlijke argumenten vóór immigratie presenteerde.
De overige twee groepen gingen in gesprek met een AI-chatbot die eveneens argumenten vóór immigratie gaf. In één conditie deed de chatbot zich voor als een mens, in de andere maakte de chatbot expliciet duidelijk dat hij AI was. Voor beide condities werd Claude 3.5 Sonnet gebruikt. Direct na het experiment en opnieuw vijf weken later werd gemeten in hoeverre deelnemers het voorgestelde immigratiebeleid steunden.
De resultaten waren opvallend. Zowel de menselijke video als de AI-chatbots bleken deelnemers effectiever te overtuigen dan de neutrale controlevideo. Tussen het menselijke en het AI-gestuurde gesprek werden echter geen significante verschillen gevonden, noch direct na het experiment, noch vijf weken later. Ook maakte het weinig uit of deelnemers wisten dat zij met een AI spraken.
Leestip: AI-agents kunnen tot 136 keer meer energie verbruiken dan gewone chatbots
Drie politieke onderwerpen
In een tweede experiment onderzochten de onderzoekers dezelfde overtuigingsmethoden voor drie andere politieke kwesties: het recht van illegale immigranten op het lagere collegegeldtarief, het gebruik van toiletten door transgender personen overeenkomstig hun genderidentiteit en de vraag of het federale minimumloon níét verhoogd zou moeten worden van 7,25 naar 15 dollar per uur. Dat laatste onderwerp werd opgenomen om ook overtuiging in een meer conservatieve richting te onderzoeken.
De uitkomsten kwamen grotendeels overeen met die van het eerste experiment. Afhankelijk van het onderwerp waren er kleine verschillen, maar over het geheel genomen vonden de onderzoekers geen aanwijzingen dat AI overtuigender is dan menselijke boodschappers. Als er al een verschil was, leek menselijke overtuiging soms iets effectiever.
Goedkoper, maar moeilijker op te schalen
Vervolgens berekenden de onderzoekers hoe kosteneffectief de verschillende methoden zijn. Volgens hun simulaties kost overtuiging via een LLM-chatbot ongeveer 48 tot 75 dollar per overtuigde kiezer, tegenover ongeveer 100 dollar per kiezer voor traditionele methoden.
Toch betekent dat niet dat AI nu al de politieke campagnevoering zal domineren. De onderzoekers wijzen erop dat traditionele methoden momenteel veel eenvoudiger op grote schaal kunnen worden ingezet. Het grootste knelpunt voor AI is namelijk niet de overtuigingskracht, maar het bereiken van voldoende mensen die bereid zijn daadwerkelijk met een chatbot in gesprek te gaan.
Nog geen grote bedreiging
De auteurs concluderen daarom dat LLM’s op dit moment nog geen groot potentieel bieden voor grootschalige politieke beïnvloeding. Wel sluiten zij niet uit dat dit in de toekomst verandert, wanneer de technologie verder verbetert en er effectievere manieren ontstaan om grote aantallen mensen aan AI-chatbots bloot te stellen.
Tegelijkertijd plaatsen de onderzoekers een belangrijke kanttekening. De deelnemers wisten dat zij deelnamen aan een wetenschappelijk onderzoek en in een aantal gevallen dat ze met een AI spraken. Daardoor kan het zijn dat ze de chatbot als relatief neutraal beschouwden. In de dagelijkse praktijk, waar mensen mogelijk sceptischer zijn over AI, kunnen de overtuigingseffecten daardoor kleiner uitvallen.
Wil je niets van Scientias missen? Voeg Scientias toe als voorkeursbron op Google dan zie je al onze verhalen!
Uitgelezen? Luister ook eens naar de Scientias Podcast:
