RAAK-PRO: het inzetten van ethische technologie

Met dit project helpen we professionals uit verschillende sectoren een geïntegreerde, waardegedreven ontwerpbenadering te ontwikkelen voor het implementeren van ethische smart city-technologie. Dit doen we aan de hand van een casus waarbij computervisie wordt ingezet in de openbare ruimte.

Het gebruik van scanauto's door gemeenten neemt toe, bijvoorbeeld voor het lokaliseren van afval, groenonderhoud, uitvoering van het parkeerbeleid of voor reclameheffing. Samen met een groot aantal partners onderzoeken we hoe scanauto's op een ethische manier ingezet kunnen worden. Aan de hand van dit onderzoek ontwikkelen we een algemene ontwerpbenadering voor het op een ethische manier inzetten van technologie voor de smart city.

Verschillende steden hebben manifesten en verklaringen gelanceerd, zoals het Tada-manifest en The Cities Coalition for Digital Rights. Hiermee benadrukt men het belang van het ontwikkelen van technologie voor de slimme stad vanuit maatschappelijk en menselijk perspectief. Deze pamfletten roepen om technologie die is gebaseerd op maatschappelijke waarden zoals transparantie, aansprakelijkheid en inclusiviteit. Ze dringen er bij ambtenaren op aan om burgers in staat te stellen om de werking van deze technologieën te begrijpen en bekritiseren.

In de praktijk vinden professionals het echter een uitdaging om deze principes te operationaliseren wanneer zij publieke waarden implementeren in technologie voor de slimme stad. Voorbeelden van technologieën waarvoor dit geldt zijn kunstmatige intelligentie en computervisie.

Manifesten zoals Tada geven richtlijnen voor het ethisch implementeren van nieuwe technologie in de stad. Maar hoe geef je invulling aan abstracte waarden als 'open en transparant' of 'menselijke dimensie' wanneer je scanauto's inzet voor het afvalprobleem?”
— Martijn de Waal, Lector (professor) Civic Interaction Design, Hogeschool van Amsterdam

Ambtenaren vinden het moeilijk om abstrace principes uit manifesten te vertalen naar concrete richtlijnen voor het ontwerpen van nieuwe diensten. Het 'ontwerp-vocabularie' van tech-ondernemers en ontwerpers die slimme diensten ontwikkelen is ontoereikend en er zijn te weinig voorbeeldprojecten die hen kunnen inspireren wat betreft eisen op het gebied van transparantie en aansprakelijkheid. Tot slot zien overheidsmedewerkers en tech-ontwikkelaars wel de behoefte om het publiek te betrekken in het ontwikkelen van technologie voor de slimme stad, maar ontbreekt het hen aan de juiste methodes om dit te doen.

Samen met onderzoekspartners, gemeenten en andere partners werken we aan een onderzoek-middels-ontwerp-traject met als doel een prototype van een ethische scanauto te ontwikkelen. Dit prototype dient als concreet en urgent voorbeeld van het inzetten van computervisie en algoritmisch bestuur in de openbare ruimte. Dit project borduurt voort op onze eerdere projecten Scanauto's en de Transparante laadpaal.

Scanauto's laten zich goed lenen als onderzoekscasus omdat de beloftes van smart city-technologie (efficiënter en een veiliger stad) in scanauto's samenvallen met uitdagingen op het gebied van menselijke en publieke waarden als privacy, transparantie en aansprakelijkheid. Er worden in verschillende gemeenten al scanauto's ingezet en men zoekt naar manieren om dit op een ethische manier te doen.

Met een focus op publieke scanauto's, is het uiteindelijke doel van dit project om een geïntegreerde, waardegedreven ontwerpbenadering te ontwikkelen voor het ethisch inzetten van smart city-technologie waarbij meerdere stakeholders betrokken zijn en hiervan de voordelen te laten inzien voor gemeenten, de industrie én inwoners.

Ik ben erg enthousiast over de manier waarop we in dit project met veel stakeholders optrekken in een gezamenlijk leerproces. Mijn focus ligt op het op een waardevolle en duurzame manier betrekken van burgers. Het is mijn droom om een gevoel van gezamenlijk eigenaarschap te bereiken.”
— Mike de Kreek, Docent Civic Interaction Design, Hogeschool van Amsterdam

De komende jaren zal het RAAK-PRO-consortium, zoals de groep partners binnen dit project wordt genoemd, een op-ontwerp-gebaseerde methode ontwikkelen om waarden uit manifesten voor ethische technologie te vertalen in concrete eisen in de context van aanbestedingsprocedures voor de slimme stad.

Het doel voor de volgende fase van het project (voorjaar 2023) is om een prototype te ontwikkelen van een scanauto die zijn functie in de openbare ruimte uitlegt. Als onderdeel van dat proces zal een platform voor participatieve machine learning worden ontwikkeld waarmee inwoners worden betrokken bij gesprekken over het ontwerp en de functie van de scanauto.

In de daaropvolgende fase zal middels cocreatie een pakket met voorwaarden worden samengesteld waarmee de ethische implementatie van smart city technologies kan worden beoordeeld. Het prototype van een scanauto zal in living labs worden ingezet zodat het geëvalueerd kan worden op basis van deze voorwaarden.

Tot slot zal de documentatie van het traject (van in totaal 3,5 jaar) in algemene zin worden vertaald naar een breder toepasbaar ontwerpproces voor publieke instellingen waarmee menselijke waarden en burgerlijke betrokkenheid worden meegewogen in het evalueren van nieuwe technologie.

Het Responsible Sensing Lab heeft in de verschillende fasen de rol van expert, neemt deel in sessies en werkt samen met het team Computervisie van de gemeente en wetenschappers om wetenschappelijke inzichten te verbinden aan use cases uit de praktijk.