Terugblik: Leernetwerk AI Beeldherkenning – Cybersecurity

Het Leernetwerk AI Beeldherkenning organiseerde in 2024 themasessies over 4 thema’s uit de marktvisie. Deze sessie op 3 december 2024 was de laatste van 4 sessies.

Belang van cybersecurity

Bij (het ontwikkelen van) oplossingen met AI beeldherkenning is het vergroten van bewustzijn rondom cybersecurity heel belangrijk. Dit kan door educatie en voorlichting. Opdrachtgevers en opdrachtnemers spelen een belangrijke rol bij het stimuleren en het borgen van cybersecurity. Concrete manieren hiervoor zijn het gebruik van gestandaardiseerde beveiligingsvoorwaarden in relatie tot de gebruikssituatie. En het regelmatig updaten en evalueren van de genomen maatregelen helpt ook bij het borgen. Zo zorg je voor een blijvend hoog niveau van bescherming tegen cyberdreigingen.

Multidisciplinaire aanpak

Jessica benadrukt dat cybersecurity niet alleen de verantwoordelijkheid van bijvoorbeeld de IT-afdeling is. Het is een gedeelde verantwoordelijkheid van de hele organisatie. Dus ook bestuurders, projectmanagers, inkopers en leveranciers moeten betrokken zijn bij het risicomanagement van cyberdreigingen rondom oplossingen met AI beeldherkenning en/of het ontwikkelproces ervan.

Continu proces

Cybersecurity is als onderdeel van risicomanagement een continu proces. Om hieraan invulling te geven bij oplossingen met AI beeldherkenning adviseert Jessica om scenario’s uit te werken waarin niet alleen de voordelen maar ook de potentiële misbruikmogelijkheden van het AI-systeem worden onderzocht. Zowel bij ontwikkeling als tijdens gebruik. Jessica benadrukt dat cybersecurity immers geen doel op zich is, maar een middel om innovatie mogelijk te maken.

Jessica presenteert een praktisch hulpmiddel voor het identificeren van cybersecurity-aspecten. Dit model vorm het fundament van dreigingen, belangen en weerbaarheid om risico’s in kaart te brengen (figuur 1). De digitale dreigingen zijn groot en divers en vragen om een brede manier van beheersing. Zo borg je  onze nationale veiligheid. NCSC heeft diverse handvatten ontwikkeld om de dreigingen, belangen en weerbaarheid inzichtelijk te maken.

Casus: veiligheid bij evenementen

Rob verzorgde een vertaling van het advies vanuit NCSC naar een toepassing in de praktijk. “De provincie Overijssel overwoog om AI in te zetten bij ‘crowd management’ bij evenementen zoals het jaarlijkse Bevrijdingsfestival in Zwolle,” zegt Rob. Het idee was om camera’s en sensoren te gebruiken om drukte te monitoren en verkeersstromen te sturen. Dit waren de uitdagingen:

• Privacy: hoe zorg je dat individuen niet worden geïdentificeerd in datasets?
• Manipulatie: wat gebeurt er als camera’s worden omgebogen of beelden worden vervalst?
• Kosten-batenanalyse: zijn er eenvoudigere en effectievere alternatieven beschikbaar?

Uiteindelijk leidde dit tot een pragmatische oplossing, vertelt Rob. Er werden camera’s gebruikt voor menselijke observatie zonder dat data werd opgeslagen of geanalyseerd door AI.

Transparantie en kennisdeling

Jessica en Rob benadrukken beiden dat het gebrek aan transparantie in de cybersecuritywereld een uitdaging is. Zo worden incidenten niet altijd gedeeld uit angst voor reputatieschade. Daarom roepen ze op tot een cultuurverandering: wees transparant en deel actief kennis om zo het leerproces en de weerbaarheid van organisaties te verbeteren. Als voorbeeld noemt Rob de luchtvaartindustrie. Hier wordt ieder incident gerapporteerd om ervan te kunnen leren en zo processen te kunnen verbeteren.

Tips

• Ga risicogericht te werk: Gebruik AI-systemen, waaronder oplossingen met AI beeldherkenning, binnen de grenzen van het risicomanagement van de eigen organisatie.
• Werk multidisciplinair: cybersecurity is niet alleen een intern proces. Het is een continu proces dat vraagt om een multidisciplinaire aanpak. Betrek daarom onder andere ook inkoop en leveranciersmanagement.
• Breng voor- en nadelen in kaart: Werk scenario’s uit met voordelen en potentiële misbruikmogelijkheden van AI-systemen, waaronder oplossingen met AI beeldherkenning. Stel vragen als: wie heeft toegang tot de data? Wie heeft welke rechten op de data? Waar gaat de data heen?  
• Maak een Software Bill of Materials (SBOM): Zo weet je uit welke componenten je AI-systeem bestaat en waar ze vandaan komen.
• Blijf realistisch: Richt je niet alleen op hightech aanvallen maar ook op eenvoudige dreigingen. Besef dat het cyberdreigingslandschap snel kan veranderen. Daarmee veranderen mogelijk ook de inzet en mogelijkheden van AI-systemen.
• Werk samen en deel kennis: Dit vormt de sleutel tot succes. Door het bundelen van expertise en het delen van ervaringen kunnen organisaties veiliger opereren in een wereld waar technologie en dreigingen zich razendsnel ontwikkelen.