De SIVI Checklist Onbemenste Toepassingen is uitgebreid met een nieuw onderdeel over uitlegbaarheid. Hierin zijn onder andere de resultaten verwerkt van een onderzoek dat SIVI samen met de universiteit van Leiden heeft gedaan naar ‘Explainable AI’ binnen de financiële dienstverlening.
Artificial intelligence (AI) is een krachtige techniek in de IT die men op steeds meer terreinen inzet. Ook binnen de financiële dienstverlening. Met de toenemende populariteit komen ook de vragen, merkt SIVI op. Verstaan we allemaal hetzelfde onder AI? Kunnen mensen nog uitleggen of herleiden wat een AI-toepassing heeft gedaan? Hoe zit het met de vooringenomenheid van een AI-toepassing?
Peter Mols, directeur SIVI: “Met de toenemende inzet van volledig geautomatiseerde toepassingen binnen onze sector, groeit ook het belang om uit te kunnen leggen hoe resultaten tot stand zijn gekomen. Dit krijgt de komende periode nog eens extra nadruk door nieuwe Europese regelgeving, zoals de AI Act met veel aandacht voor transparantie en uitlegbaarheid. Met de nieuwe release van de Checklist Onbemenste Toepassingen (OT) sluiten wij hier bij aan en maken we als sector een eerste stap.”
Uitlegbaarheid en accuraatheid
In de door SIVI en de universiteit van Leiden gepubliceerde paper ‘A checklist for Explainable AI in the Insurance Domain’ wordt dieper op eerdergenoemde vragen ingegaan. Ook leggen de onderzoekers hierin het dilemma bloot tussen uitlegbaarheid en accuraatheid. “Hoe innovatiever de AI-toepassing, hoe groter de accuraatheid wordt. Tegelijkertijd neemt de uitlegbaarheid af.”
De Checklist-OT biedt een gestandaardiseerde werkwijze om inzichtelijk te maken hoe een organisatie tijdens ontwikkeling, gebruik en beheer omgaat met de kwaliteit van een onbemenste toepassing binnen de financiële dienstverlening. De Checklist-OT houdt hierbij rekening met actuele wetgeving, regelgeving en technologische thema’s. Naast het nieuwe onderdeel ‘Uitlegbaarheid’ zijn er op basis van feedback van gebruikers vele inhoudelijke aanvullingen en verbeteringen in de Checklist-OT doorgevoerd.
De Checklist-OT is (gratis) beschikbaar voor alle organisaties die onbemenste toepassingen ontwikkelen voor klant en/of adviseur. Voorbeelden zijn (deel)toepassingen voor: risico-inventarisatie, premieberekening/vergelijking, acceptatie/aanvragen/mutaties, advies, schadeafhandeling, fraudedetectie/signalering, chatbot en virtual assistant. Inmiddels gebruiken ruim 35 organisaties met meer dan 50 accounts de Checklist-OT voor kwaliteitsborging rond onbemenste toepassingen binnen de financiële dienstverlening.
Elke werkdag het belangrijkste financiële nieuws in uw mailbox? Meld u gratis aan voor InFinance Daily.
