DNB en AFM voorzien een doorgroei van het gebruik van artificiële intelligentie in de financiële sector. Verdieping van kennis is noodzakelijk, waarschuwen de toezichthouders.
Dat doen ze in een gezamenlijke verkenning die gericht is op de financiële sector; de Nederlandse verzekeringssector in het bijzonder.
‘Organisaties binnen en buiten de financiële sector hebben de beschikking over almaar meer data, die bovendien ook steeds gevarieerder wordt. De grotere beschikbaarheid van data, gecombineerd met een sterke toename in computerkracht, heeft ertoe geleid dat de ontwikkeling en toepassing van kunstmatige intelligentie (AI) de laatste jaren in een stroomversnelling zijn gekomen’, aldus de toezichthouders.
De verwachting van de AFM en DNB is dat de inzet van AI ook de komende jaren sterk zal blijven groeien, zeker in de financiële sector. Ze vinden het daarbij belangrijk dat de wetenschap wordt ingezet op een manier die verantwoord en in lijn is met de eisen rondom integere en beheerste bedrijfsvoering, productontwikkeling en zorgplicht, aldus de toezichthouders in hun verkenning.
Aandachtspunten voor de financiële sector liggen volgens hen bij het inbedden van AI in de organisatie, de technische aspecten van AI en de maatschappelijke context ervan.
Dat gaat bijvoorbeeld om de ontwikkeling van beleid rondom de toepassing van kunstmatige intelligentie, maar ook om de uitlegbaarheid van die toepassingen, de borging van kwaliteit en de manier waarop de toepassingen worden getoetst op maatschappelijke acceptatie.
Advocaat
Advocaat Emanuel van Praag van HVG Law merkt aanvullend op dat het bestuur van een organisatie verantwoordelijk is voor AI en het ook inhoudelijk moet begrijpen, net zoals ander personeel - bijvoorbeeld compliance.
Daarnaast moet AI veilig zijn, aldus de advocaat in een post over het rapport op LinkedIN. ’Het black box risico moet beheerst worden. Om dat te bereiken, moeten resultaten regelmatig getest worden. Maar denk ook aan de kwaliteitscontrole van gegevens en systemen en het uitbesteden van procedures.’
Een andere uitdaging ligt volgens Van Praag bij ethisch en eerlijk gebruik van AI. ‘Zorg dat je het risico van (onbedoelde) discriminatie kunt beheersen en voorkom dat misbruik wordt gemaakt van kwetsbare klanten.’
Verder moet de wetenschap verklaarbaar zijn en aangevochten kunnen worden door interne experts en door klanten, aldus de advocaat. ‘Klanten kunnen beslissingen aanvechten en aanvullende gegevens verstrekken die meegenomen moeten worden.’
Experimenten
De verkenning komt op een moment dat er al volop geëxperimenteerd wordt met AI, en links en rechts ook een volgende fase is bereikt. Bij verzekeraars noemen de toezichthouders experimenten met zelf-ontwikkelde en extern ingekochte AI-toepassingen als praktijkvoorbeeld. Het gaat daarbij bijvoorbeeld om toepassingen waarmee fraudedetectie bij schadeclaims verbeterd wordt, maar ook om manieren om klantvragen te voorspellen.
Ook binnen de beleggingssector wordt geëxperimenteerd met AI. Candriam kondigde begin dit jaar aan software-robots te gaan inzetten, BlackRock richtte eerder een artificial intelligence lab op, een researchcentrum dat de kennis van het fondshuis op het gebied van kunstmatige intelligentie moet vergroten zodat BlackRock het kan inzetten voor eigen gebruik en voor diensten richting klanten.