Vanaf deze maand begint de DEMO met een nieuwe rubriek: Stelling van de Stichting. Het concept is simpel: maandelijks krijgt de DEMO een stelling doorgestuurd van de Hans van Mierlo Stichting. Het wetenschappelijk instituut van D66. Drie JD’ers reageren hierop in maximaal 250 woorden. De rubriek biedt zo stof tot nadenken, input voor discussies en wie weet wat een schrijver ermee in gang zet.
De stelling voor deze themamaand ‘Living la Vida Lokaal’ luidt:
Gemeenten moeten vrij spel krijgen om te experimenteren met (nieuwe) technologieën.
Alleen wanneer er ook geëvalueerd wordt
De overheid efficiënter, beter en toegankelijker maken zou centraal moeten staan bij de introductie van nieuwe technologieën. Maar experimenteren is alleen een goed idee als overheidsorganisaties in staat zijn om de technologie te begrijpen en het beslisproces duidelijk en transparant uit te leggen.
Neem het voorbeeld van een zelflerend algoritme. Een algoritme is een wiskundig complex model dat op basis van variabelen en een dataset een voorspelling doet. Het voorspelmodel is niet per se compleet, valide of nauwkeurig. Wetenschappelijk gezien zou elke variabele goed omschreven en theoretisch onderbouwd moeten zijn. Als dat niet gebeurd bestaat het risico dat de ambtenaar de uiteindelijke uitkomst niet kan motiveren.
Experimenten kunnen misgaan. Daarbij moet ruimte zijn voor fouten, maar niet voor incompetentie. Dat betekent dat de gemeenten intern de kennis moeten hebben om de technologieën te begrijpen en uit te leggen voordat ze gaan experimenteren. Daarmee zorg je ervoor dat de competenties aanwezig zijn, en je kunt gaan innoveren.
Wel moet je een goed evaluatietraject opzetten, waarin meerdere keren kan worden beslist of men doorgaat met het experiment of de stekker eruit trekt. Een goede evaluatie waarbij centraal staat of de technologie de gewenste uitkomsten voor de burger heeft moet daarbij centraal staan. Alleen dan zijn nieuwe technologieën van toegevoegde waarde.
Door: Thomas Alberts. Hij is portefeuillehouder Democratie & Openbaar bestuur, hij studeert innovatiemanagement en public affairs.
Schoenmaker, blijf bij je leest
Op het gevaar af als politicus te klinken: ja en nee. Het gebruik van algoritmen, zelflerend of niet, heeft talloze applicaties en ook voor gemeenten liggen hier kansen. Slimme afvalophaalsystemen, verkeersdruktetrackers, het opsporen van mogelijke fraude… bij die laatste gaan er wellicht wat belletjes rinkelen. De toepassing, werking en uiteindelijke stopzetting van het anti-fraudesysteem SyRI heeft ook duidelijk gemaakt dat kansen gepaard gaan met risico’s.
Bij de vraag of gemeenten hier de vrije hand moeten krijgen, komt bij mij het spreekwoord “schoenmaker, blijf bij je leest” boven drijven. Gemeenten hebben geen R&D departementen (onderzoeksafdeling, red.) en hebben als kerntaak niet het vooruit duwen van technologische innovatie. Wat we zouden willen is dat nieuwe technologieën toegepast worden op het kerntakenpakket van gemeenten om daarmee die taken beter en efficiënter uit te kunnen voeren. Dat is niet hetzelfde als verwachten dat gemeenten die applicatiemogelijkheden zelf zoeken en vinden.
Is de afvalspeurende artificial intelligens (AI) van Amsterdam, een stedelijke gemeente met 873,000 inwoners, ook relevant voor gemeente Noord-Beveland met haar 7,392 inwoners en 75% van haar landoppervlak in gebruik voor landbouw? Ik denk dat we kansen laten liggen, en bepaalde gemeenten mogelijk achterlaten, als we verwachten dat ze ieder voor zich uit vinden hoe ze nieuwe technologieën toe kunnen passen.
Wil een TU, het bedrijfsleven of hogere overheid met gemeentelijke partners praktische applicaties voor zelflerende AI’s of andere technologieën ontwikkelen? Tof, sign me up. Hoop ik dat gemeenten hier individueel het wiel uit gaan vinden? Nee. Een vrije teugel is wat dat betreft een tweesnijdend zwaard.
Bas van der Reest. Hij is namens D66 raadslid in Middelburg en lid van het Zeeuwse JD-netwerk de Babbelaer.
Niet met nieuwe technologie
Ik ben het eens met de strekking van de stelling; we moeten lokaal/gemeentelijk experimenteren stimuleren. Dit kan leiden tot creatieve innovaties en leuke nieuwe ideeën.
Alleen moeten we dat niet doen met nieuwe, complexe technologieën. De risico’s rondom zulke technologieën zijn te groot, dit hebben fouten met deze technologieën in het verleden al meermaals laten zien. En we zijn alleen nog maar meer afhankelijk geworden van goed functionerende technologie voor de continuïteit van bijna al onze systemen. Voorzichtigheid is dus geboden met dit onderwerp.
Om het genoemde voorbeeld van zelflerende algoritmes te gebruiken, zo’n algoritme was één van de oorzaken van de toeslagenaffaire. De belastingdienst maakte gebruik van een complex en zelflerend risico-classificatie algoritme dat bevooroordeelde en verkeerde keuzes bleek te maken. En zoals te lezen valt in de rapporten, konden medewerkers zelf ook niet aangeven op basis waarvan het algoritme precies zijn beslissingen maakte.
Wil je zulke complexe technologie veilig gebruiken, dan heb je heel veel expertise, tijd en middelen nodig, waarvan ik denk dat lokale overheden die op dit moment niet hebben. Ook het experimenteren met technologieën van externe partijen is niet zonder risico’s, door bovengenoemde problemen en zaken als aansprakelijkheid en privacy.
De kosten en risico’s van het experimenteren met complexe technologieën wegen dus niet op tegen de baten, maar dit kan wel het geval zijn met minder complexe of andere soorten experimenten. Dus stimuleer lokale innovaties en initiatieven, maar doe dit (nog) niet met complexe technologieën!
Bram Rijsbosch. Hij is lid van de werkgroep Digitalisering & Automatisering en studeert Artificial Intelligence in Groningen.
Lijkt het jou ook wat om te reageren op stellingen in deze rubriek? Mail dan snel dat je mee wil doen naar hoofdredactiedemo@jongedemocraten.nl , o.v.v. Stelling van de Stichting. Wie weet sta jij de volgende keer op de site!
Omslagfoto: Robot die gasten ontvangt op gemeentehuis Leidschendam-Voorburg. Bron: Michel Groen