kennisbank item

In AI we trust? Verwachtingen, hoop en zorgen over automatisering

Publicatiedatum: 04 | 06 | 2020
Delen:

Steeds vaker worden consumenten in hun dagelijks leven geconfronteerd met geautomatiseerde beslissingen en geautomatiseerde communicatie. Van virtuele assistenten en gepersonaliseerde reclame tot gezondheidsapps: er speelt zich een verhitte discussie af over de huidige en toekomstige rol van technologie en automatisering, ook wel Artificial Intelligence (AI). Maar wat vinden consumenten van geautomatiseerde beslissingen door de inzet van AI?

Geautomatiseerde beslissingen
De mogelijkheden voor het gebruik van AI bij geautomatiseerde beslissingen zijn talrijk. Zo wordt AI bijvoorbeeld ingezet in gezondheidsapps waarbij een virtuele coach gezondheidsadviezen geeft. AI kan ook mogelijk worden ingezet voor juridische doeleinden, bijvoorbeeld om een rechter te helpen besluiten bij het geven van een boete. Ook het geven van persoonlijke aanbevelingen bij het lezen van nieuwsartikelen valt onder beslissingen gemaakt op basis van AI. 

Samen met mijn collega’s onderzocht ik wat ten grondslag ligt aan de houding van consumenten ten opzichte van geautomatiseerde beslissingen, en of er verschillen bestaan op basis van persoonlijkheidseigenschappen. Deze kennis is van belang omdat AI niet enkel staat voor technologische ontwikkelingen: het is een sociaal-technisch concept. Iedereen heeft verwachtingen, angsten en zorgen over AI gebaseerd op eigen ervaringen of op wat we meekrijgen via de media. Door kennis over wat individuele percepties drijft, kunnen merken en organisaties beter besluiten op welke manier, voor wie en onder welke omstandigheden AI-oplossingen kunnen worden ingezet.

Het onderzoek
Met behulp van een survey onder een representatie Nederlandse steekproef werd onderzocht wat consumenten vinden over het gebruik van AI voor geautomatiseerde beslissingen. Het onderzoek geeft ons een aantal interessante inzichten over verwachtingen met betrekking tot AI:

  • Er is enigszins sprake van optimisme over de relevantie van geautomatiseerde beslissingen. 40% van de respondenten geeft aan dit relevant te vinden en 35% geeft aan de inzet van AI voor beslissingen niet relevant te vinden.
  • Echter blijkt dat de zorgen over de implicaties van geautomatiseerde beslissingen wel hoog te zijn: 66% van de respondenten geeft aan zich zorgen te maken over de potentiele risico’s van geautomatiseerde beslissingen.
  • Respondenten die hoogopgeleid zijn of die beschikken over technische kennis, zijn positiever over de relevantie van AI in geautomatiseerde beslissingen.
  • Ook leeftijd maakt een verschil: ouderen zijn geneigd AI eerder als een risico te zien en vinden de inzet ervan minder relevant dan jongeren.
  • Zorgen over privacy worden geassocieerd met een hogere perceptie van risico en een lagere perceptie van relevantie over de inzet van AI. Echter, wanneer men het gevoel heeft in staat te zijn om zichzelf online te kunnen beschermen, blijkt het tegenovergestelde effect.

Kortom
De resultaten laten zien dat organisaties zich bewust moeten zijn van individuele percepties wanneer de inzet van geautomatiseerde beslissingen wordt overwogen. Enerzijds is het belangrijk om rekening te houden met de hoogopgeleide, meer technisch-georiënteerde consumenten die hoge verwachtingen hebben van AI-toepassingen. Dit zal niet altijd in lijn zijn met de huidige mogelijkheden van AI. Anderzijds is van belang om je als merk bewust te zijn van de houding van oudere consumenten en consumenten die zich zorgen maken over privacy. Hoe dan ook blijkt dat merken en organisaties de consumenten ervan moeten verzekeren dat ze betrouwbare AI-toepassingen mogelijk maken. De recent uitgebrachte richtlijnen vanuit de EU vormen hiervoor een goed uitgangspunt.

Noot: In de studie wordt ook ingegaan op persoonlijke verwachtingen over rechtvaardigheid en de vergelijking tussen geautomatiseerde beslissingen en menselijke beslissingen. Hieruit blijkt dat consumenten geautomatiseerde beslissingen vaak gelijk of soms zelfs beter percipiëren dan menselijke beslissingen.

Meer weten? Dit artikel is gebaseerd op onderstaande publicatie:
Araujo, T. B., Helberger, N., Kruikemeier, S., & de Vreese, C. H. (2020). In AI we trust? Perceptions about automated decision-making by artificial intelligence. AI & Society. Je vindt het artikel hier (gratis).

Over de auteur

Dr. Theo Araujo werkt als universitair hoofddocent aan de Amsterdam School of Communications Research (ASCoR) van de Universiteit van Amsterdam, met een focus op Communicatie in de Digitale Samenleving.

Mail mij 1x per maand een update over merken, marketing en communicatie