Terugblik: CoP Digitale Innovaties - Hoe koop je verantwoord algoritmes en AI in?

Deelname CoP Digitale Innovaties

Digitale innovatie biedt in potentie waarde voor publieke organisaties. Het zijn innovaties waarbij digitale technologie een aanzienlijk aandeel heeft, een drijvende kracht is. Dat levert ook veel nieuwe inkoopvraagstukken op. De Community of Practice (CoP) is bedoeld voor innovatiemanagers, programmamanagers, met als centrale vraag: hoe regel je die inkoop? PIANOo organiseert de CoP in opdracht van het ministerie van BZK. De CoP komt bijeen in online sessies. Wil je op dit terrein een onderwerp aansnijden, zit je boordevol inspiratie of heb je een diepgaande kennisvraag over een specifieke aspect? Je kunt je nog aanmelden voor de CoP. Maak dan gebruik van het aanmeldformulier.

Het ministerie van IenW werkt samen met onder meer Rijkswaterstaat aan een nieuwe versie van het AI Impact Assessment (AIIA). “Dit is een handreiking om AI verder te brengen in je organisatie”, zegt Loulou Hanna, beleidsmedewerker AI en quantum bij het ministerie van IenW. “Verdeeld over 6 hoofdstukken sta je uitvoerig stil bij de inzet van een bepaald AI-systeem. Wat is het doel? Hoe zit het met fundamentele rechten en eerlijkheid? Kun je technische fouten inzien en aanpassen? Hoe regel je de data-governance en het risicobeheer, en hoe voldoe je aan je verantwoordingsplicht?”

Vanuit verschillende perspectieven

Als lead engineer bij het Datalab van Rijkswaterstaat heeft Ronald van Haren ervaring met de toepassing van het AIIA. “In een team met verschillende rollen, zoals ICT, juridische zaken en inkoop, voer je aan de hand van de vragen in het AIIA discussie over alle aspecten van het AI-systeem dat je wilt inzetten. Je hebt het met elkaar over de accuraatheid van het systeem, de menselijke tussenkomst, uitlegbaarheid, transparantie en eerlijkheid. Door de verschillende perspectieven aan tafel mee te nemen, profiteer je van elkaars kritische blik en leer je van en met elkaar.”

Levenscyclus van algoritmes

Van Haren wijst op de bijzondere levenscyclus van algoritmes. Ze zijn geen statische producten waarnaar je geen omkijken meer hebt zodra je ze hebt ingezet. “Ook als je de initiatie- en ontwikkelingsfase zorgvuldig hebt doorlopen, kun je er in de beheerfase achter komen dat het algoritme op een gegeven moment onjuiste resultaten oplevert. Om daar grip op te houden en je altijd te kunnen verantwoorden is het belangrijk dat je de monitoring goed regelt. Hoe zie je op tijd dat het AI-model minder presteert? Met het AIIA sta je ook bij dit soort beheervragen stil.”

AIIA doorontwikkelen

Het AIIA wordt verder doorontwikkeld. “We evalueren de ervaringen met deze handreiking en nemen ontwikkelingen mee, zoals de opzet van het Algoritmeregister”, zegt Hanna. “Maar we zijn ook benieuwd naar de ervaringen van inkopers en opdrachtgevers in de hele publieke sector. Waar lopen zij aan bij de inkoop van AI-producten?”

Overheidsaandacht voor AI

In de Werkagenda Waardengedreven Digitaliseren staan de uitgangspunten van het digitaliseringsbeleid van de rijksoverheid. “Hierin wordt gerefereerd aan algoritmes en het belang van wetgeving, kaderstelling en toezicht om toepassing van algoritmes eerlijk en transparant te maken zodat je als burger op een goede behandeling kunt vertrouwen”, zegt beleidscoördinator Elja Daae van de Directie Digitale Samenleving van het ministerie van BZK. Samen met haar collega Bart de Visser gaat ze in op activiteiten van overheden voor een verantwoorde inzet van AI en algoritmes. Denk aan het op termijn verplichte algoritmeregister, de AI-verordening waar de EU aan werkt en de ontwikkeling van een kabinetsbrede visie op generatieve AI.

Algoritmekader in ontwikkeling

Zelf is Daae betrokken bij het Algoritmekader dat duidelijkheid moet geven aan welke wet- en regelgeving algoritmes moeten voldoen. Het kader moet vooral ook een praktische handreiking zijn om verantwoord in te kopen. Daae: “We willen ingaan op het inkopen, ontwikkelen en herijken van algoritmes en de algoritmelevenscyclus. De onderwerpen hebben we verdeeld in bouwblokken die we gaan uitwerken en daarna aan de hand van casussen evalueren.”

Meepraten over inkoopstrategie

Een van die bouwblokken gaat over inkoopstrategie met subcategorieën als inkoopbeleid, inkoopproces, inkoopvoorwaarden en leveranciersbeoordeling. “We zijn zeer benieuwd wat de ervaringen van inkoopprofessionals zijn”, zegt Daae. “We horen al vragen over hoe je moet omgaan met ingekochte producten waaraan AI wordt toegevoegd. Of wat je moet doen als je leverancier data verzamelt en daarop voortbouwt. Inkopers en opdrachtgevers zijn welkom om bij te dragen aan de werkgroep rond het bouwblok Inkoopstrategie.”

Heb je vragen over of wil je meewerken aan het Algoritmekader? Stuur een bericht naar @email.