Financiële ondernemingen maken steeds meer gebruik van AI

SAFEST

DNB heeft een aantal algemene principes geformuleerd voor een verantwoord gebruik van AI in de financiële sector: samen vormen soliditeit, verantwoordelijkheid, rechtvaardigheid, ethiek, deskundigheid en openheid (in het Engels: soundness, accountability, fairness, ethics, skills en transparency – SAFEST) een kader waarbinnen bedrijven de inzet van AI op een verantwoorde manier kunnen vormgeven.

S) AI-toepassingen moeten eerst en vooral solide zijn, dat wil zeggen dat ze betrouwbaar en accuraat moeten zijn, en op voorspelbare wijze moeten functioneren binnen de grenzen van de geldende wet- en regelgeving.

A) Ondernemingen moeten bereid zijn om hun verantwoordelijkheid te nemen: als AI-toepassingen onverwachts niet naar behoren functioneren, kan dit het bedrijf, zijn klanten en andere belangrijke stakeholders schaden.

F) Voor het maatschappelijk vertrouwen in de financiële sector is eerlijkheid belangrijk: AI-toepassingen mogen bepaalde groepen klanten niet onbedoeld benadelen.

E) En omdat AI-toepassingen taken overnemen waar voorheen menselijke intelligentie voor nodig was, speelt ook ethiek een rol: financiële ondernemingen moeten ervoor zorgen dat hun klanten en andere stakeholders op de juiste manier behandeld worden en geen schade lijden door het gebruik van AI.

S) Binnen een financiële onderneming moet iedereen – van de werkvloer tot de bestuurskamer – over de juiste mate van deskundigheid beschikken en de voordelen en beperkingen kennen van de AI-systemen waarmee ze werken.

T) Transparantie ten slotte houdt in dat financiële ondernemingen moeten kunnen uitleggen hoe en waarom ze AI in hun bedrijfsprocessen toepassen, en hoe deze toepassingen precies functioneren.

Bron: DNB