Terugblik deelsessie 'Artificial Intelligence' (PIANOo-congres 2024)

Aanbestedende diensten zullen steeds vaker producten en diensten gaan inkopen die gebruik maken van algoritmes en AI. De vraag hierbij is: welke eisen moet je als publieke inkoper stellen, zodat je de voordelen van AI optimaal kunt benutten en tegelijkertijd zorgt voor minder risico’s? In de deelsessie 'Laat je AI kiezen of kies je zelf?' werd de ontwikkeling van het zogeheten Algoritmekader toegelicht, als hulpmiddel voor aanbestedende diensten.

Geen dag te vroeg

Dat kaders stellen aan de inkoop en inzet van AI hard nodig is, ondervinden we al in de praktijk. In de week van het PIANOo-congres werd de urgentie hiervan pijnlijk geïllustreerd in de gemeente Amsterdam. Daar was besloten om ruim 1200 camera’s van Chinese makelij in de openbare ruimte op de korte termijn te vervangen. Deze keuze werd onder meer gemaakt vanwege zorgen over spionage via AI. Het Algoritmekader komt dus geen dag te vroeg voor aanbestedende diensten. De belangstelling voor de deelsessie over AI was dan ook groot. Bart de Visser, Haitske van de Linde (BZK) en Ruart Jagt (tot voor kort BZK) namen de congresgangers mee in de ontwikkeling rondom het Algoritmekader dat eind dit jaar gereed moet zijn.

Belangrijke rol voor publieke inkoop

Het uitwerken van het Algoritmekader was een complex proces, waarin compleet nieuwe technologische mogelijkheden verweven moesten worden met bestaande regels en processen. “Het komt erop neer dat AI niets mag wat mensen ook niet mogen”, schetst De Visser. AI moet ‘gewoon’ voldoen aan de Archiefwet, het mag geen auteursrechten schenden en het mag niet resulteren in discriminatie. De Visser: “Het verschil is dat je een mens kunt aanspreken, maar naar wie moet je toe als je AI wilt aanspreken?” Publieke inkoop speelt een belangrijke rol tijdens het uitwerken van zulke vraagstukken en dus in de ontwikkeling van het Algoritmekader. De Visser: “Het merendeel van de technologie komt binnen via inkoopprocessen. Deze processen bevatten een poortwachtersfunctie die we kunnen gebruiken om het op de goede manier te doen.”

De Visser riep de deelnemers op om het wedstrijdelement te benutten dat in aanbestedingen zit. Aanbesteden draait tenslotte voor een deel om het zoeken naar verschillen. Zoals gezegd is één van de eisen die aan AI-toepassingen gesteld moet worden, dat het auteursrecht niet geschonden wordt bij het trainen van algoritmes. Leveranciers kan gevraagd worden om naast de belofte om de auteursrechten niet te schenden ook uit te leggen hoe ze dit gaan waarborgen. Zo draagt het publieke inkoopproces eraan bij dat leveranciers tot de beste prestaties komen.

“Het verschil is dat je een mens kunt aanspreken, maar naar wie moet je toe als je AI wilt aanspreken?” - Bart de Visser (BZK)

Open source-aanpak

Het Algoritmekader wordt ontwikkeld door een multidisciplinaire werkgroep, bestaande uit experts op het gebied van inkoop, business analyses, juridische zaken en wetenschap. Een belangrijk uitgangspunt is dat bestaande kennis zoveel mogelijk wordt gebundeld en dat het kader aansluit bij relevante ontwikkelingen, zoals standaardisering op nationaal én Europees niveau. Praktisch gezien wordt het Algoritmekader een interactieve kennisbank waarin je kunt zoeken naar informatie op basis van een onderwerp, een fase uit de levenscyclus en/of jouw rol. Het toepassen van het kader wordt niet verplicht.

Van de Linde deelde tijdens de sessie dat het ontwikkelen van het kader als open source-project wordt aangepakt. Dat wil zeggen dat iedereen die zich betrokken voelt een bijdrage kan leveren. Hiervoor wordt, net als bij het ontwikkelen van open source software, het samenwerkingsplatform Github gebruikt. Via dit platform kan iedereen meekijken én input geven. Van de Linde riep de deelnemers dan ook op om actief mee te helpen: “Wat werkt voor jou? Wat heb je nodig? Laat het ons weten! Het Algoritmekader wordt er beter van als we jullie actief om feedback vragen.”

Aankomende herfst (Q3 2024) worden er nog verbeteringen doorgevoerd rondom het uiterlijk en het gebruikersgemak van het Algoritmekader.

Verslag PIANOo-congres 2024

Bekijk het verslag van het PIANOo-congres 2024.