Gerd Altmann, Pixabay
KI-technologieën bieden een aanzienlijk potentieel om de doeltreffendheid en efficiëntie van overheidsdiensten te verbeteren en zijn van cruciaal belang om onze ambities voor het digitale decennium te verwezenlijken. Gaande van chatbots tot door AI aangedreven lokale digitale tweelingen die complexe modelleringscapaciteiten bieden voor stedenbouwkundigen, ontwikkelen AI en de mogelijke toepassingen ervan zich steeds.
Gegevensbeheer, toegang tot hoogwaardige gegevens en technische interoperabiliteit tussen platforms en systemen zijn belangrijke gebieden van belang die worden aangepakt via initiatieven van Living-in.EU en andere slimme gemeenschappen. Juridische, aanbestedings- en transparantie-instrumenten zijn echter even belangrijk als manieren om de actualisering van AI door overheidsinstanties te bevorderen op een manier die een hoge mate van vertrouwen onder de burgers waarborgt. Steden en gemeenschappen in de EU nemen het voortouw en bieden gebruiksgevallen aan die door middel van samenwerking kunnen worden opgeschaald.
Tijdens deze workshop zullen drie werkterreinen worden geschetst (zie hieronder) die aan de gang zijn via Living-in.EU en haar partnerorganisaties Eurocities en OASC, alsook bredere ontwikkelingen die door de Europese Commissie worden ondersteund in het kader van AI in de publieke sector, waaronder nieuwe projecten die via het DIGITAL-programma worden gefinancierd. Deze workshops zijn bedoeld om deze te presenteren met het oog op een maximale impact en complementariteit. Het is ook een open oproep aan geïnteresseerde regio’s, steden en gemeenschappen om hieraan bij te dragen. Deel mee om uw ervaringen en ideeën voor samenwerking te delen!
U kunt zich hier inschrijven. De link naar de vergadering zal worden verstrekt aan geregistreerde deelnemers.
Programma
14.00 welkom door moderator Martin Brynskov, OASC (Open and Agile Smart Cities)
EU-beleidscontext 14.05, met inbegrip van de AI-wet en het gecoördineerde plan inzake AI, Yordanka Ivanova, DG CONNECT UNIT A2, kunstmatige intelligentie
14.20 initiatieven Carousel — reeks korte presentaties over lopende initiatieven, gevolgd door een discussie over afstemming en volgende stappen
- Contractbepalingen voor overheidsopdrachten op het gebied van AI (Amsterdam, DG GROW, Living-in.EU-subgroep Rechtvaardiging Ethiek), Lydia-José Prinsen, Bureau van de CTO, stad Amsterdam en Ivo Locatelli, senior deskundige, DG GROW, eenheid C2 Procurement
- Algoritmeregisters voor transparante KI (Eurocities Digital Forum Lab), Lodewijk Noordzij, beleidsadviseur, Living-in.EU-subgroep Rechtvaardiging Ethiek
- MiM5 voor Fair AI, Michael Mulquin, OASC, Living-in.eu Technische subgroep
- AI-test- en experimentatiefaciliteiten voor slimme steden en gemeenschappen, Evangelia Markidou, DG CONNECT, eenheid A1, robotica en AI-innovatie en -excellentie
- Living Labs for AI Regulatory Learning (JRC en ENoLL), Sven Schade, JRC, eenheid Digitale Economie B6 en Fernando Vilariño Freire, geassocieerd directeur bij het Computer Vision Center, Barcelona
- Open data voor AI, Martino Maggio, Engineering
- CommuniCit- AI inspelen op de behoeften van steden en gemeenschappen, Katarina Makrogamvraki, Universiteit van Amsterdam
15.05 discussie, met inbegrip van onderlinge afhankelijkheid tussen werk, open vloerformaat, geleid door moderator
15.50 conclusies en volgende stappen
Verdere informatie
Modelcontractbepalingen voor de aanbesteding van AI
Amsterdam heeft een reeks contractuele clausules voor de aankoop van kunstmatige intelligentie ontwikkeld om een kader te creëren voor de informatie die leveranciers moeten verstrekken over gebruikte algoritmen. De clausules bouwen voort op de ethische richtsnoeren die zijn ontwikkeld door de deskundigengroep op hoog niveau inzake kunstmatige intelligentie (AI) van de Europese Commissie (EC), en op het eigen sterke digitale ethisch beleid van de stad en werken via de coalitie voor digitale rechten van steden. De contractbepalingen worden nu aangepast als model voor hergebruik door andere overheidsdiensten. DG GROW heeft tot op heden twee webinars over de clausules gehouden. In de eerste (juni 2021) werd de aanpak van Amsterdam ten aanzien van KI-aankopen onder de aandacht gebracht en in de tweede (mei 2022) werden de aangepaste clausules gepresenteerd, die gedeeltelijk in overeenstemming zijn met de KI-wet waarover momenteel wordt onderhandeld. De ontwerpclausules zijn nu beschikbaar op Living-in.EU voor feedback. Zie hier voor meer informatie.
Vanaf begin 2023 zullen het Digital Public Buyers Initiative en Living-in.EU van DG GROW samenwerken met belanghebbenden om de aangepaste aanbestedingsclausules van Amsterdam te testen en richtsnoeren te ontwikkelen. Zodra deze clausules zijn afgerond, zullen zij voor openbare aanbesteders op lokaal, regionaal en nationaal niveau een nuttig instrument zijn om ethische, mensgerichte KI aan te kopen, het gebruik van AI te stimuleren en het vertrouwen van de burgers in het gebruik ervan te vergroten.
AI-registers
Een AI-register is een online instrument of website die burgers op transparante en begrijpelijke wijze informatie verstrekt over AI-systemen die door overheidsdiensten worden gebruikt om besluiten te nemen die op hen van invloed zijn. De steden Amsterdam en Helsinki zijn voorbeelden van de bestaande Algitem-registers.
Eurocities’Digital Forum Lab werkt samen met een groep steden om een gemeenschappelijk gegevensschema te ontwikkelen en te testen voor steden die hun eigen interoperabele lokale KI-registers willen opzetten, waarbij wordt voortgebouwd op de modelcontractbepalingen van Amsterdam, het Nederlandse gegevensmodel voor algoritmeregisters, de Britse norm voor transparantie van algitmische transparantie en andere. Het gegevensschema zal niet alleen ten goede komen aan steden die een beroep doen op een externe leverancier om een oplossing voor hen te ontwikkelen, maar kan ook nuttig zijn voor steden die dit intern of via opensourcesoftware willen doen. Zie hier voor meer informatie.
Eerlijk AI-minimuminteroperabiliteitsmechanisme (MIM 5)
OASC, dat leiding geeft aan de technische subgroep Living-in.EU, begint samen met steden te werken aan de ontwikkeling van een Fair AI MIM, ook bekend als MIM 5 (Minimal Interoperability Mechanism), onderdeel van de reeks technische specificaties van MIMs Plus. Dit technische instrument zal steden helpen om i) automatisch te controleren of aanbieders van AI-diensten passende informatie en waarborgen hebben verstrekt in overeenstemming met de transparantievereisten, zoals die welke zijn vastgesteld in de modelcontractbepalingen, en ii) deze gegevens te koppelen aan een AI-register over hoe AI is gebruikt bij beslissingen die gevolgen hebben voor burgers.