Terugblik Smart City: Data-ownership en Ethiek

wissels
10 november 2016

Op 1 november organiseerde het Platform Making Sense for Society samen met het Dutch Institute for Technology, Safety and Security (DITSS) een bijeenkomst over data-ownership en ethiek in Eindhoven. Om onze steden zuiniger om te laten springen met energie, om verkeersopstoppingen te voorkomen of om criminaliteit te bestrijden, maken overheidsdiensten en bedrijven gebruik van moderne technologie. Big data, sensoren, rekenmodellen en algoritmes zijn de olie van de moderne bedrijfsvoering. De mogelijkheden met die olie zijn groot. Zo groot dat medewerkers bij overheid en bedrijven zich met enige regelmaat afvragen of iets wat kan eigenlijk wel mag.

De huidige wet- en regelgeving biedt een handreiking om te bepalen wat er wel en wat er niet mag. Maar is alles wat níet door wet- en regelgeving wordt afgedekt dan toegestaan? Dit is typisch een dilemma waar mensen in de voorhoede van technologische ontwikkelingen tegenaan lopen. In de praktijk varen zij op hun eigen morele kompas om te bepalen waar een grens ligt. Maar zoveel mensen, zoveel smaken…  Uiteindelijk wil je toch een lijn zien in wat er wel en niet kan. De werkgroep data-ownership en ethiek in het Platform Making Sense for Society brengt personen en organisaties die tegen deze vraagstukken aanlopen, bij elkaar. Zodat onderling kennis en ervaring kan worden gedeeld en een meer uniforme aanpak ontstaat om data-ownership goed te beleggen en het recht op privacy te borgen. Dit alles begint met bewustwording. En daar ging het 1 november over. Een terugblik.

Data en dingen zijn niet waardevrij

‘Privacy wordt een luxegoed’, betoogde Tijmen Schep in de aftrap. ‘De vraag is of we dat erg vinden’. Tijmen Schep is auteur van het boekje Design my privacy en mede-oprichter van Setup: een organisatie die technologische vraagstukken met behulp van een vleugje absurditeit op de kaart zet.

Overal kan een chip in, data opslag wordt steeds goedkoper en het delen van data is een voorwaarde om diensten te gebruiken: je kan Google niet gebruiken zonder data met Google te delen. Aan objectieve data als postcodes worden subjectieve data verbonden. Denk aan verzekeraars die hun premie mede op basis van postcodes bepalen. In apparaten die opereren in het internet of things worden waarden en normen geprogrammeerd. Wiens waarden en normen zijn dat? De postcodevraag inspireerde Setup tot het project Dubious devices dat op de Eindhovense Design Week aanwezig was. Hierin bepaalt een koffiemachine op basis van je postcode hoeveel water er bij je koffie wordt gemengd. Het leidde tot geanimeerde gesprekken met bezoekers over dit soort -al dan niet gewenste- ‘profiling’.

Een ander voorbeeld uit de stal van Setup is de Home Controle Kit. Met die kit kan je de opvoeding van je kinderen als het ware uitbesteden. Positief gedrag – bijvoorbeeld klusjes in huis doen – worden automatisch beloond, terwijl ongewenst gedrag – bijvoorbeeld langdurig computeren – worden ontmoedigd. Klinkt leuk, maar wie er wat langer naar kijkt, ziet dat de keuze van positief gedrag versus ongewenst gedrag arbitrair is. Het kijken van een documentaire op je laptop kan ook huiswerk zijn. En je kunt je afvragen of een kind dat meer speelt dan klusjes doet, ‘straf’ verdient. Wat Schep betreft, is ethiek dan ook een wezenlijk onderdeel in het design van technologie. De normen in je apparaten moet je toetsen.

Om verder na te denken over deze materie geeft Tijmen Schep de volgende kijk- en leestips:

Onthullingsgevaar voorkomen bij open data

Het open data beleid stelt veel organisaties voor hoofdbrekens. Wie zijn data voor iedereen toegankelijk maakt, geeft zichzelf bloot. In het geval van de politie – als overheidsdienst vallen ook zij onder het regime van open data beleid – ligt het open maken van informatie nog wat complexer, liet Walter Schirm zien. Zoals met elke open dataset, wil je voorkomen dat gegevens herleidbaar zijn tot een individu. Zeker als het gaat om criminaliteits-of slachtoffergegevens. Het kost de politie de nodige hoofdbrekens.

illustratie van punten op kaart die huis kunnen bepalenInteressant hier is het locatie-aspect. De politie heeft informatie over waar inbraken zijn gepleegd. Die data wil zij openbaar maken, maar hoe doe je dat zonder dat deze informatie direct herleidbaar is tot een individu? Je zou deze informatie kunnen beveiligen, bijvoorbeeld door te aggregeren. De politie onderzoekt welke methode het beste past bij haar data, waardoor deze zoveel mogelijk hergebruikswaarde heeft, zonder de privacy op het spel te zetten. Juist door samenhangende informatie is dit niet eenvoudig. Midden in gebied van 8 huizen waar een inbraak heeft plaatsgevonden komt dan bijvoorbeeld een stip te staan. Maar dan blijkt een ketenpartner ook informatie te registreren en publiek te maken over inbraken, maar daarbij een andere gebiedsindeling te hanteren. Combineer je die twee databronnen, dan wordt het ineens veel eenvoudiger om te duiden bij wie de inbraak nu precies heeft plaatsgevonden. Plak je vervolgens ook nog de CBS-data erbij, dan wordt de onthullingskans nog groter. Hier ligt duidelijk een uitdaging.

Ondertussen weerhoudt dit alles de politie niet om haar rol richting het open data beleid te vervullen. Er staat een grote hoeveelheid data klaar om binnenkort te ontsluiten met informatie over inbraken, camera’s, wagenpark en veel en veel meer…

Power to the people

Ingrid Mulder, associate professor TU Delft en oprichter Creating010 pleit ervoor om de macht over digitale ontwikkelingen naar de samenleving te brengen. Pré voor een wezenlijke rol van de overheid in de digitale infrastructuur is wat haar betreft dat je de overheid kiest. Op het beleid van de overheid heb je daarmee nog enige invloed. Op het beleid van bedrijven lang niet altijd. Daarom heeft het zin om de overheid te helpen de goede dingen te doen.

schematische weergave van model om te bepalen of iets open data kan zijnEen slimme stad omarmt haar collectieve intelligentie. Niet iedereen heeft alle wijsheid in pacht, daarom loont samenwerking. De overheid kan participatie door burgers onder meer faciliteren met open data. Maar het werken met data is niet heel eenvoudig. Om hier het volle potentieel uit te halen, is ondersteuning nodig van mensen die data snappen. Dat met wat hulp wel degelijk praktische resultaten te behalen zijn, blijkt uit het voorbeeld dat inwoners van Rotterdam een ambtenaar hebben geholpen bij het opstellen van een basismodel om te bepalen of iets open data kan zijn of niet.

Bekijk de presentatie van Ingrid Mulder

Privacy: wat zijn de regels?

Juridisch expert privacy, Tijmen Wisman, gaf een wervelende presentatie over wet- en regelgeving. Het belang van privacy illustreert hij met een voorbeeld van hoeveel ratten je op een aantal m2 kunt houden. Het maakt nogal uit of ratten wel of geen beschikking hebben over een ‘eigen plek’. Beschikking over een plek waar je even op jezelf kan zijn, maakt dat er veel meer ratten in een kleine ruimte bij elkaar kunnen leven.

Wij mensen reguleren privacy met de Wet bescherming persoonsgegevens. Een persoonsgegeven is informatie betreffende geïdentificeerde of identificeerbare persoon. Maar wanneer ben je identificeerbaar? Een leeftijdscategorie, gecombineerd met een specifiek beroep in een klein dorp, kan leiden tot identificatie van een individu. In een grote stad kan dit heel anders liggen. Wat zijn dan persoonsgegevens?

Vaak komen de vragen op als je persoonsgegevens wilt verwerken. Kort door de bocht komt het voor eenvoudige verwerking van persoonsgegevens aan op toestemming. Is er sprake van toestemming van de eigenaar, dan is verwerken van de gegevens okay. Is dat niet het geval dan moet er sprake zijn van een noodzakelijkheid. Van belang zijn verder wat het doel is met de verwerking van de gegevens, welke verwerkingsgrond er is en of je niet meer gegevens verwerkt dan nodig. De Autoriteit Persoonsgegevens heeft een handreiking online staan waarmee je kunt nagaan of je een verwerking moet melden.

Op zich bieden deze regels al wat houvast. Toch gaat het in het enthousiasme van alledag wel eens mis. Er zijn steden die zaken als jeugdcriminaliteit en huiselijk geweld willen voorspellen. Deze steden gebruiken daarvoor gegevens waar een beroepsgeheim op rust. Dat is riskant. Stel je komt als kind in aanraking met hupverlening. Je denkt wel drie keer na voor je met de hulpverleners gaat praten, want je hebt van je vrienden al gehoord en gezien dat wat je in vertrouwen deelt, onverwacht terugkomt op je pad. Maar ook bij het controleren van het rijden van privé kilometers met lease auto’s door de Belastingdienst via data van SMS parking kan je je afvragen of de inbreuk op de privacy in verhouding staat tot het vergrijp. Dus ook bij het toepassen van regels geldt: dat wat kan, is niet altijd gewenst.

  • Zie de presentatie van Tijmen Wisman
  • Zie ook de privacytool die met input vanuit Platform Making Sense for Society is gemaakt als hulpmiddel bij een voorgenomen nieuw gebruik van reeds verzamelde persoonsgegevens.

Ethiek

Marjolein Lanzing, techniekfilosoof en promovendus aan de Technische Universiteit Eindhoven besloot de bijeenkomst met een verhandeling over juridische en ethische dilemma’s in de slimme stad. Moet je alles wat kan, ook doen, vraagt Lanzing zich af. Veel van onze normen zijn vastgelegd in wetten en regels. Maar nieuwe technologie gaat snel. Regels zijn daar niet op gemaakt. Je loopt dus altijd achter. In tussentijd doe je dingen die misschien niet verkeerd zijn volgens de regels van de wet, maar die wel een ongemakkelijk gevoel geven.

Niet alles wat legaal is, is goed. Denk aan wietshops. De wet is per definitie imperfect. In haar lacunes geldt het moreel kompas: de ethiek. De smart city wil de samenleving duurzamer en efficiënter maken door slim in te spelen op behoeften van haar inwoners. Maar wanneer wordt slim bemoeizuchtig?

Er is op dit moment geen sprake van geïnformeerde toestemming. Moet je dan iedereen informeren wat je allemaal aan gegevens verzamelt? Uiteindelijk draait het om de autonomie van burgers. Wie toegang heeft tot welke informatie moeten zij eigenlijk zelf kunnen bepalen. Door burgers niet te informeren neem je ze niet serieus als actoren. Dat is in tegenspraak met de wens dat burgers actief participeren in de samenleving.

De keerzijde van weten wat er over je wordt vastgelegd, is mogelijk het chilling effect. Je past je gedrag aan om te voorkomen dat data die over jouw gedrag zijn verzameld tegen je worden gebruikt. Denk aan korter douchen om het waterverbruik in lijn met de buren te krijgen. Alternatieve fietsroutes zoeken om buiten beeld van toezichtcamera’s te blijven. Het Europees hof voor de rechten van de mens heeft een uitspraak gedaan over preventief fouilleren in een afgebakend gebied in Amsterdam. Dat werd aangeduid als een privacyschending. Burgers worden hier weliswaar niet individueel gevolgd maar als massa, toch kan chilling effect optreden en daarom moet je daar rekening mee houden.

Een derde punt is het principe van de interne vrijheid of autonomie: de mogelijkheid om je eigen versie van het goede leven te kiezen. Beïnvloeding van gedrag zou aan te merken zijn als privacy beperking. Artikel 8 van het Europees Verdrag voor de Rechten van de Mens stelt dat privacy een persoonlijkheidsrecht is. Privacy stelt ons in staat eigen versie van goed leven te maken, geeft ons het recht om fouten te maken, om een flexibele identiteit te zijn die zich ontwikkeld. Als data worden gebruikt om jou de goede eetkeuzes of milieukeurmerken te laten maken, ga je in tegen het principe van interne vrijheid.

Tot slot: Van belang is dat je mensen informeert dat beleid wordt gemaakt op basis van data. Maar respecteer het als iemand die op basis van data in een doelgroep belandt niet mee wil doen.

Dilemma’s

In een kort intermezzo werden de deelnemers in de bijeenkomst uitgenodigd zich te buigen over 18 stellingen. Vraag was welke stellingen de meeste discussie opleverden. Na een primaire keuze volgde een geanimeerde discussie in de subgroepen waarin de opvattingen over en weer nader werden geduid. Hierna was er gelegenheid om de meningen bij te stellen. Op basis van de discussies kwamen de volgende vier stellingen als meest controversieel uit de bus in deze ronde

  1. Op het gebied van dataverzamelen geldt: wat juridisch niet verboden is, is toegestaan.
  2. Anonieme gegevens over personen kunnen altijd gedeanonimiseerd worden.
  3. Het medische beroepsgeheim wordt uitgehold door het Internet of Things
  4. De overheid mag Big Data gebruiken om haar burgers in de richting van gewenst gedrag te laten bewegen

De discussies over deze stellingen zijn nog niet uitgewoed. Nieuwsgierig naar alle stellingen? Download het overzicht van de stellingen met de uitkomsten van 1 november.