Terugblik: Leernetwerk AI Beeldherkenning - Ethiek en publieke acceptatie

Het Leernetwerk AI Beeldherkenning organiseerde in 2024 themasessies over 4 thema’s uit de marktvisie. Deze sessie op 26 november 2024 was de derde van 4 sessies.

Het belang van ethiek en publieke acceptatie

Om transparante en betrouwbare AI te kunnen borgen, is het belangrijk om een ethisch perspectief als basishouding te hanteren bij de opzet en uitvoering van AI beeldherkenningsprojecten. Dit kun je bereiken door het publiek te betrekken bij (de ontwikkeling van) projecten. In het verlengde hiervan is het opstellen en uitvoeren van een communicatiestrategie van belang. Zo kun je het publiek informeren over de inzet en werking van AI beeldherkenningsprojecten.

Ethische vraagstukken vragen om participatie

Marieke definieert ethiek als ‘de systematische studie van moraal gericht op kritisch denken over wat moreel juist is’. Zij benadrukte dat ethiek een proces is dat continu plaatsvindt. Ook bij AI beeldherkenningsprojecten. Het gaat om het vormgeven van een besluitvormingsproces waarin morele afwegingen worden gemaakt. Zeker bij technologische ontwerpen is dit van belang, omdat deze vaak impliciet of expliciet normen en waarden van de ontwerpers bevatten. Ook kan datarepresentatie leiden tot blinde vlekken.

Volgens Marieke wordt publieke acceptatie vaak passief opgevat: ‘alsof burgers moeten leren omgaan met wat hen wordt aangeboden’. Ze pleit voor herdefiniëring van publieke acceptatie als een actieve, wederzijdse relatie tussen overheid en burger. Deze moet gebaseerd zijn op respect, vertrouwen, begrip en waardering. Ethische vraagstukken vragen om participatie en daarmee een transparante dialoog waarin burgers daadwerkelijk invloed hebben.

Indicatoren van succes

Wanneer ethiek en publieke acceptatie onderdeel zijn van het ontwikkelproces van AI beeldherkenningstechnologie resulteert dit volgens Marieke in:

• Vertrouwen: het publiek voelt zich serieus genomen en blijft langer betrokken.
• Transparantie: het laat zien hoe beslissingen worden genomen en welke input hiervoor is gebruikt.
• Een lerende organisatie: feedback en data zijn waardevol gedurende het traject maar ook in toekomstige trajecten van gelijke strekking.

Borgen van ethiek en publieke acceptatie in de praktijk

Het Computer Vision Team ontwikkelt toepassingen met respect voor de ethische waarden van de gemeente Amsterdam: eerlijkheid, privacy en innovatie. Zo zorgt de Blurring as a Service (BaaS) oplossing voor anonimiteit bij het verzamelen van beelden in de openbare ruimte met een scanauto. Een persoon is op beelden niet te herkennen, omdat de hele persoon digitaal wordt vervaagd (blurren).

Het project Containerherkenning heeft als doel illegale bouwcontainers te identificeren met een innovatieve scanfiets, ontworpen om flexibel in de Amsterdamse infrastructuur te passen. Voor het ontwikkelen van het algoritme waarmee de fiets is uitgerust, is gewerkt met een burgerpanel. Het panel bestaat uit 11 leden met diverse achtergronden en verschillende meningen. Het is een voorbeeld van hoe Amsterdam publieke acceptatie borgt bij de ontwikkeling van algoritmes voor beeldherkenning in de openbare ruimte. Evelien benadrukt dat het belangrijk is om niet alleen te bouwen wat technisch mogelijk is, maar ook wat maatschappelijk aanvaardbaar is. Evelien: “Het gaat erom hoe je het eerlijk doet, transparant blijft en inwoners betrekt.” Peter voegt toe: “Technologie is pas waardevol als het aansluit bij de wensen en grenzen van de mensen voor wie het bedoeld is”.

Bij de ontwikkeling van containerherkenning heeft het Computer Vision Team ervoor gezorgd dat de burger niet alleen binnen de organisatie werd gehoord, maar ook daadwerkelijk invloed had op het beleidsproces. Evelien legt uit: "We voegden een adviesaanvraag toe aan bestuurlijke stukken, zodat de wethouder en gemeenteraad de feedback van burgers meenamen." Dit versterkte de transparantie en zorgde ervoor dat het beleid verder ging dan de technische en beleidsmatige muren van de gemeentelijke afdelingen.

Vast stappenplan en werkwijze voor borging

Om ethiek en publieke acceptatie te borgen in het ontwikkelproces van AI beeldherkenningstechnologie en -projecten doorloop je 4 belangrijke stappen:

1. Stakeholder gesprekken en risicoanalyse: voer gesprekken met stakeholders vóórdat besluitvorming plaatsvindt. En analyseer tegenstrijdige wensen en mogelijke risico’s van de voorgenomen AI beeldherkenningstoepassing.
2. Pilots en experimenten: test aannames in experimenten om meerwaarde en risico’s te evalueren. Gebruik de resultaten om feitelijke, onderbouwde beslissingen te nemen.
3. Transparantie en feedbackloops: laat zien hoe de input van burgers is verwerkt. Zorg ook dat besluitvorming helder en toegankelijk met hen wordt gecommuniceerd.
4. Regelgeving en handhaving: zorg voor naleving van juridische kaders.

Het Computer Vision Team werkt volgens een Agile Scrum en design thinking wijze. Hierbij houdt het team regelmatig demo’s en feedbacksessies met burgers. “De vele feedbackmomenten en tussentijdse aanpassingen zijn grote voordelen van deze werkwijze”, aldus Peter. Dit stelt het team in staat om zorgpunten van burgers op te nemen in de ontwikkeling van de technologie.

Leerpunten

Eén van de leerpunten van het participatietraject van Amsterdam was dat participatie eerder in het proces had moeten beginnen. Peter geeft aan dat de eerste feedback van de inwoners direct kritisch was: "Inwoners vroegen zich af waarom ze deelnamen als het besluit om containerherkenning in te zetten al was genomen". Dit benadrukt de noodzaak van vroegtijdige betrokkenheid bij besluitvorming en sluit ook aan bij de suggestie van Marieke om stakeholders te spreken vóórdat besluitvorming plaatsvindt. Daarnaast is ook het behouden van betrokkenen in het burgerpanel lastig gebleken.

Tips

• Een lerende organisatie: om de dialoog te voeren, ervaringen te delen, fouten te maken en hiervan te leren teneinde de technologie echt af te stemmen op de behoeften van het publiek.
• Begin vroeg en pas continu toe: ethiek en publieke acceptatie zijn een continue proces. Het is nooit klaar. Betrek het publiek vroegtijdig. Participatie moet al plaatsvinden voordat belangrijke besluiten worden genomen.
• Zorg voor diversiteit: het betrekken van een divers publiek voor een zo realistisch mogelijke afspiegeling van de maatschappij zorgt voor rijkere inzichten.
• Wees transparant: communiceer duidelijk over het proces, de te nemen en gemaakte keuzes als ook de invloed van burgers.
• Werk iteratief: regelmatige feedback en aanpassingen helpen om in te spelen op de wensen en zorgen van het publiek om zo tot een gedragen eindresultaat te komen.