De inzet van artificiële intelligentie (AI) in de verzekeringssector moet op een verantwoorde manier gebeuren en in lijn met de eisen rondom integere en beheerste bedrijfsvoering, productontwikkeling en zorgplicht. AFM en DNB beschrijven tien aandachtspunten waarop verdere verdieping noodzakelijk is.
Het doel van de verkenning en de daarin beschreven aandachtspunten is om gecontroleerd gebruik van kunstmatige intelligentie en transparantie te borgen. Beide toezichthouders verwachten van de verzekeringssector dat deze aandachtspunten als startpunt dienen voor verdere verdieping.
Snelle uitbreiding
Nederlandse verzekeraars experimenteren op dit moment met zowel zelfontwikkelde als extern-ingekochte AI-toepassingen. Voorbeelden hiervan zijn toepassingen voor het verbeteren van fraudedetectie bij schadeclaims en het voorspellen van klantvragen. Voor de komende jaren wordt volgens deze studie een sterkere focus verwacht op het toepassen van kunstmatige intelligentie in gebieden zoals premievaststelling en acceptatie.
Kansen en bedreigingen
De inzet van kunstmatige intelligentie biedt veel kansen voor verzekeraars, maar brengt ook onzekerheden en risico’s met zich mee, blijkt uit de verkenning van DNB en AFM. In een deel van de tien aandachtspunten richten de toezichthouders zich op de technische kenmerken en organisatorische voorwaarden van AI. Dit betreft bijvoorbeeld de vraag hoe AI-toepassingen voor online beslisomgevingen de consument kunnen stimuleren om beslissingen te nemen die in zijn belang zijn. Ook heeft de verkennende studie het effect van kunstmatige intelligentie op solidariteit verkend. Afhankelijk van de toepassing blijkt het zowel een positieve als negatieve impact te hebben op verzekerbaarheid en solidariteit.
Aandachtspunten
AFM en DNB beschrijven in de verkenning ‘Artificiële Intelligentie in de verzekeringssector’ de volgende tien aandachtspunten:
Inbedden van AI in de organisatie
1. Hoe kunnen verzekeraars beleid ontwikkelen omtrent het gebruik van AI?
2. Op welke wijze is dit beleid verankerd in de organisatie?
Technische aspecten van AI
3. Hoe kan de kwaliteit en volledigheid van gebruikte inputdata voor AI-toepassingen geborgd worden?
4. Hoe kunnen keuzes worden gemaakt omtrent het gebruik van specifieke AI-technieken en -modellen?
5. Welke mate van uitlegbaarheid van AI-toepassingen is gepast?
6. Hoe kan het gebruik van verbanden die leiden tot onwettig onderscheid (discriminatie) vermeden worden?
7. Welke governance en criteria zijn passend bij uitbesteding in het kader van AI-toepassingen?
8. Wat is een passende wijze van validatie voor AI modellen?
AI en de consument
9. Hoe kan worden voorkomen dat AI-toepassingen op onredelijke wijze inspelen op verwachte patronen of biases in consumentengedrag?
10. Hoe kunnen de uitkomsten van AI-toepassingen worden getoetst op maatschappelijke acceptatie?
Elke werkdag het belangrijkste financiële nieuws in uw mailbox? Meld u gratis aan voor InFinance Daily.
