Steeds meer organisaties zetten Artificial Intelligence (AI) in. Deze techniek is zeer nieuw en haar inzet roept dan ook vele vragen op over de juridische en ethische randvoorwaarden. Mag dat wel, een computer laten beslissen? Wordt het tijd voor een AI Compliance Officer?
Opkomst van Artificial Intelligence
De inzet van AI biedt nieuwe mogelijkheden. Bestaande processen kunnen fors worden versneld door menselijke tussenkomst te vervangen door een AI. Zo zou een AI-bewaker bagage van bezoekers kunnen screenen op ongewenste voorwerpen, en deze doet dat dan veel sneller dan een mens (en is bovendien om vijf uur niet moe en afgeleid). Een verzekeraar zou een AI in kunnen zetten om claims te kunnen analyseren.
Dergelijke analyses hebben echter ook diverse risico’s. Zo staan AI’s er om bekend dat zij bestaande vooringenomenheid (bias) sterk uitvergroten, wat kan leiden tot ongewenst gedrag zoals discriminatie. Ook is het vaak lastig duidelijke uitleg te krijgen over hoe een AI tot zijn conclusie komt. Deze risico’s maken organisaties nog steeds huiverig over de inzet van AI, waarbij het verbod op automatische besluitvorming uit de GDPR zeker niet helpt.
Ethische richtsnoeren
In 2019 publiceerde de Europese Commissie de Ethics Guidelines for trustworthy AI. Deze richtsnoeren werden opgesteld om te kunnen bepalen of een AI betrouwbaar genoemd kan worden. Hieronder wordt verstaan zowel het voldoen aan wettelijke regels, maar ook aan meer algemene ethische principes. Het streven is dat organisaties deze richtsnoeren inzetten gedurende de volledige levenscyclus (van ontwerp tot buitendienststelling) van een AI-gedreven systeem.
Betrouwbare AI bestaat uit drie componenten: wettig, ethisch en robuust. Dit geeft zeven vereisten:
- Menselijke controle en toezicht
- Diversiteit, non-discriminatie en rechtvaardigheid
- Technische robuustheid en veiligheid
- Transparantie en verklaarbaarheid
- Privacy en datagovernance
- Maatschappelijk en milieuwelzijn
- Verantwoording en controleerbaarheid
Omdat het hier ook nog eens gaat om geavanceerde technologie en vaak vele partijen betrokken zijn, is AI compliance een uitdagende kwestie. Een AI compliance officer moet dan ook behoorlijk thuis zijn in wetgeving, techniek en de toepassingspraktijk.
Kennis opdoen voor AI compliance
De online leergang AI in de praktijk: compliance & governance van adviesbureau ICTRecht uit Amsterdam is speciaal ontwikkeld voor informatieprofessionals, juristen en compliance officers die aan de slag moeten of willen met AI en de toetsing daarvan. Geen blokkades opwerpen, maar zorgen dat bedrijven en instanties aan de slag kunnen. Weten wat er wel kan en hoe dat wordt bereikt.
De stof wordt volledig online aangeboden. Met geavanceerde vormen van elearning kan de cursist eenvoudig werken en effectief de stof tot zich nemen. De docent is online beschikbaar voor 1-op-1 overleg, en via een discussieforum kunnen cursisten met elkaar overleggen en brainstormen.
De leergang kent een serious game element, waarbij deelnemers met hun studie ervoor zorgen dat een fictief dorp steeds hoger scoort in een wereldwijde VN-competitie.
Durft u de uitdaging aan? Op 1 februari 2021 gaat de eerste ronde van start. Meer informatie en de inschrijfmogelijkheid vindt u hier.