the key elements of this innovative process that make it a model for others elsewhere:“Implementation should be considered from the start, not as an afterthought. The format of the final recommendations, the process for final approval, and the time needed to ensure this part of the process does not get neglected need to be considered in the early design stages of the assembly.Dedicated time and resources for transforming recommendations into legislation are also crucial for successful implementation. Bringing citizens, politicians, and civil servants together in the final stages can help bridge the gap between recommendations and action. While it has been more typical for citizens’ assemblies to draft recommendations that they then hand onward to elected officials and civil servants, who review them and then respond to the citizens’ assembly, the Parisian model demonstrates another way.Collaborative workshops where consensus amongst the triad of actors is needed adds more time to the process, but ensures that there is a high level of consensus for the final output, and reduces the time that would have been needed for officials to review and respond to the citizens’ assembly’s recommendations.Formal institutional integration of citizens’ assemblies through legal measures can help ensure their recommendations are taken seriously and ensures the assembly’s continuity regardless of shifts in government. The citizens’ assembly has become a part of Paris’s democratic architecture, as have other permanent citizens’ assemblies elsewhere. While one-off assemblies typically depend on political will at a moment in time and risk becoming politicized — i.e. in being associated with the party that initially launched the first one — an institutionalized citizens’ assembly anchored in policy and political decision-making helps to set the foundation for a new institution that can endure.It is also important that there is regular engagement with all political parties and stakeholders throughout the process. This helps build cross-partisan support for final recommendations, as well as more sustainable support for the enduring nature of the permanent citizens assembly.”

Recently, the Paris Citizens’ Assembly — a permanent body institutionalized in 2021 as part of the city’s governing apparatus — pioneered a new way to work closely with the government so that citizens’ voices are not only heard but heeded. On a rotating basis, it brings together 100 residents of Paris, drawn by lot, to meet for one year in working groups facilitated by expert advice, deliberate policy choices on pressing issues and make recommendations to the elected council.

Dat het jaren duurde om een wankel risicomodel af te schaffen, is te wijten aan gebrek aan urgentie, laat de IND desgevraagd weten aan NRC. Maar uit interne mailwisselingen blijkt dat de overheidsdienst ook geen zin heeft in publiciteit. Een medewerker schrijft: „Hoe kunnen we het aanpassen zodat er geen risico op imagoschade voor de IND is?” Er is „geen goed verhaal” om de buitenwereld uit te leggen waarom het systeem is uitgezet, zegt IND’s privacyfunctionaris. „We willen juist meer datagestuurd werken (…). Dat moet gebaseerd zijn op vertrouwen en zorgvuldigheid. Dat kan weggeslagen worden door het bekend worden van een verouderd datamodel dat niet meer gebruikt wordt.”

het model is gebouwd voor toezicht maar wordt ook gebruikt in het beslisproces.

In 2017 vergelijkt de afdeling juridische zaken van de IND de ervaring van Typhoon met het risicomodel van de IND. „Deze methode behelst feitelijk etnisch profileren, leidt tot discriminatoire bejegening van mensen, louter vanwege afkomst, terwijl een deugdelijke onderbouwing ontbreekt.” De juristen adviseren het „model te staken en gestaakt te houden” en de risicoprofielen te verwijderen. Met dit advies gebeurt niets. Gebrek aan prioriteit, zegt de IND achteraf.

De vraag is hoe het kan dat, ondanks de maatschappelijke schijnwerpers, dergelijke signalen zich blijven aandienen. Uit eerder onderzoek door Hooghiemstra & Partners van vorig jaar in opdracht van het College voor de Rechten van de Mens, bleek dat gemeenten die algoritmes inzetten welwillend zijn om het gebruik van digitale systemen in lijn te krijgen met mensenrechten, maar nog niet goed weten hoe zij dit moeten doen. Zo zitten organisatorische knelpunten tussen afdelingen en partijen een goede samenwerking soms in de weg.

De motie leidt er uiteindelijk toe dat overheidsorganen het IAMA moeten gaan uitvoeren en – waar mogelijk – de uitgevoerde assessments moeten openbaar maken. Verplichte toepassing van het IAMA betekent niet dat zij daarmee extra verantwoordelijkheden krijgen ter waarborging van mensenrechten of het maken van zorgvuldige beslissingen. Deze verplichtingen hebben overheidsorganen reeds op grond van het staats- en bestuursrecht waarvan de mensenrechten deel uitmaken.

Ten eerste stelt de motie voor het IAMA alleen te verplichten voorafgaand aan het gebruik van algoritmes. Het IAMA kan echter ook dienen als instrument voor reflectie wanneer een algoritme al wordt ingezet.