Hoe zit het met het wetsvoorstel over kunstmatige intelligentie?

De afgelopen weken zijn we iets meer te weten gekomen over de 'AI Act'. Zo waren we eind mei aanwezig bij de CPDP in Brussel en vlak daarna bij een bijeenkomst bij VNO NCW in Den Haag. 

De AI Act is een Europese wet over de toepassing van kunstmatige intelligentie die nu in de maak is. Deze wet moet gaan bepalen wie wanneer en waarvoor verantwoordelijk is en behandelt de risico's die komen kijken bij de inzet van kunstmatige intelligentie. Een van de onderwerpen die in de AI Act aan bod komt is biometrische surveillance. Ben je benieuwd wat dat betekent en welke campagne wij ondersteunen? Lees dan verder.

Biometrische surveillance

Biometrische surveillance betekent dat je in de gaten wordt gehouden op grond van je uiterlijke kenmerken. Dat kan bijvoorbeeld via camera's op straat die je gezicht herkennen. Onder het mom van veiligheid willen overheden en bedrijven hiermee bepaald gedrag van mensen voorspellen, bijvoorbeeld om criminaliteit te voorkomen. Hoe ze dat doen, dat is onduidelijk en niet goed onderzocht. Ook worden camerabeelden opgeslagen om ze later terug te kijken en achteraf mensen te herkennen.

Dit betekent dus dat je bij voorbaat verdacht bent en ook altijd nog achteraf ergens van kan worden beschuldigd. Dit druist in tegen belangrijke principes in het recht. Omdat deze praktijk onze fundamentele rechten schendt is, is het belangrijk dat er duidelijke afsrpaken komen over het gebruik van kunstmatige intelligentie in de publieke ruimte. Vandaar dus die AI Act. 

Vorige week schreven we al over hoe de gemeente burgers volgt via het wifi-signaal van de mobiele telefoon. Biometrische surveillance gaat nog een stapje verder.

Gezichtsherkenning en andere biometrische surveillance

Je kunt iemand herkennen aan het gezicht, maar ook aan hoe iemand loopt of aan andere kenmerken. Deze gegevens worden natuurlijk pas herkend als ze al ergens bekend zijn. Dat houdt in dat de gegevens in een database staan. Dit is een groot register waar de computer doorheen bladert. Er kunnen veel verschillende gegevens in dat register staan. Niet alleen je adres en je BSN, maar ook een foto, een scan van je ogen, je tred, je stem en je DNA. 

Onzeker

Het is voor de meeste mensen niet duidelijk of ze in zo'n database staan en met welke kenmerken. Ook is niet per se bekend bij de overheden of bedrijven die dit middel inzetten waarom iemand erin staat. En hoeveel van deze registers bestaan er eigenlijk op dit moment?

Hieruit blijkt natuurlijk al de eventuele ongelijkheid en de rechtsonzekerheid. Niet iedereen staat in alle registers en het is niet helemaal duidelijk waarom je er wel of niet in zou staan. Ook kan het zijn dat je niet uit het register bent gehaald, terwijl dat eigenlijk zou moeten. En als je er niet vanaf weet, hoe kun je er dan bezwaar tegen maken? Want misschien is het wel onterecht dat je in zo'n database staat. 

Niet overtuigd

Een voorbeeld: als de overheid op basis van bepaalde kenmerken door een algoritme een besluit laat maken, dan moet de overheid je kunnen vertellen waarom dit besluit zo is genomen. Tegen besluiten van de overheid moet je je immers kunnen verzetten. De overheid heeft ons nog niet overtuigd dat ze hiertoe in staat is. Want helaas is het niet moeilijk om een situatie te bedenken waar het verschrikkelijk mis ging. 

Er vinden daarnaast op grote schaal datalekken plaats waaruit blijkt dat de gegevens in ieder geval niet goed genoeg beveiligd worden. Ook wordt gesproken van een black box: dat betekent dat niet duidelijk is hoe een computer tot een bepaald besluit is gekomen. Dat komt omdat het systeem niet transparant is en de gebruiker ervan onvoldoende kennis heeft. Bovendien is niet voldoende bewezen dat deze algortime systemen goed werken; ze worden dus eigenlijk al ingezet voordat er goed is getest en over de gevolgen is nagedacht.

Reclaim your face

Om deze en nog veel meer redenen ondersteunt Freedom de campagne 'Reclaim your face'. Deze campagne is in november 2020 gestart. Verschillende burgerrechtenorganisaties in Europa zijn hierbij betrokken. Vanuit Nederland is dat Bits of Freedom (BOF).

BOF schreef kort geleden dat inmiddels ook een aantal Euro-parlementariërs zich nu drukmaken over biometrische surveillance. Dit komt onder andere dankzij deze campagne.

Wil je de campagne ondersteunen? Ga dan naar de website en vul je gegevens in. Let op: je moet je naam, je adres en je nationaliteit invullen. Dat komt omdat dit een officieel Europees burgerinitiatief is.

Je kunt hier het privacybeleid voor deze campagne lezen. Deze tekst is in het Engels, daarom hebben we de tekst in het Nederlands voor je samengevat. 

Deze persoonsgegevens worden verwerkt:

Als je de website bezoekt: je IP-adres.

Als je je handtekening plaatst: je volledige naam, je land en de datum van het zetten van je handtekening. Afhankelijk van je nationaliteit ook je volledige adres, geboortedatum, type en nummer van je identiteitsdocument.  

Om op de hoogte te blijven via mail: je voornaam en mailadres.

Wie is verantwoordelijk?

Als je de website bezoekt: EDRI.
Als je een handtekening plaatst: Hoofd Beleid van EDRI.

EDRI zelf heeft geen toegang tot je gegevens. Alleen de nationale autoriteit die is aangewezen voor afhandeling van deze burgerinitiatieven heeft toegang. In Nederland is dat het ministerie Binnenlandse Zaken.

Het Hoofd Beleid van EDRI stuurt de gegevens via een beveiligd systeem van de Europese Commissie naar die nationale autoriteit toe. Deze twee partijen zijn vanaf dan gezamenlijk verantwoordelijk voor de gezette handtekening.

Ditzelfde geldt als je een papieren handtekening zet.

EDRI heeft dan alleen toegang tot de gegevens om de handtekeningen te verzamelen en de administratie af te handelen. Dit doen zij aan de hand van een verwerkersovereenkomst.

Het Hoofd Beleid van EDRI stuurt de papieren handtekening via een beveiligd systeem van de Europese Commissie naar die nationale autoriteit toe. Deze twee partijen zijn vanaf dan gezamenlijk verantwoordelijk voor de gezette handtekening.

Dit is waarom je gegevens worden verwerkt:

> om de website draaiend en veilig te houden. Dit is een legitiem belang.
> om de handtekeningen over te dragen aan de Europese Commissie. Dit is een wettelijke verplichting.
> om je op de hoogte te houden. Dit gebeurt alleen als je toestemming geeft.

Hoe lang en waar worden je gegevens verwerkt?

Als je de website bezoekt: max 24 uur op beveiligde servers van Spectre Operations.

Als je je handtekening zet, online of papier: max 1 maand na het indienen van het initiatief of - als dat eerder is - 21 maanden nadat de eerste handtekening is verzameld.

Bij een juridische procedure worden de gegevens tot max een maand na de uitkomst van de procedure bewaard. De online gegevens worden versleuteld opgeslagen op de FTSQ server in Duitsland. De handtekeningen die op papier zijn toegestuurd, worden bewaard op de Spectre Operations servers in Nederland.

Als je op de hoogte wilt blijven via mail: tot je je toestemming intrekt op de servers van Spectre Operations. Uitschrijven van de nieuwsbrief kan per mail via info@reclaimyourface.eu of via de unsubscribe knop onderaan de nieuwsbrief.

Dit zijn je rechten:

> toegang tot je gegevens en een kopie,
> gegevens aanpassen,
> gegevens verwijderen,
> minimale verwerking vragen,
> bezwaar maken tegen verwerking na je website bezoek,
> je gegevens ontvangen in een goed leesbare vorm die gemakkelijk is over te dragen aan een andere verwerker,
> je toestemming intrekken ivm de nieuwsbrief.

Zo kun je je rechten uitoefenen:

Als je een klacht mailt naar info@reclaimyourface.eu dan krijg je binnen 30 dagen antwoord.
Je kunt een klacht indienen bij de EDPS of de Autoriteit Persoonsgegevens.

Zodra het Hoofd Beleid van EDRI en de Europese Commissie samen verantwoordelijk zijn, kun je met een van deze partijen contact zoeken om je rechten uit te oefenen.

Meer linkjes:

Hier lees je in het Nederlands over bescherming van je gegevens bij Europese burgerinitiatieven.
Hier lees je in het Nederlands over het onine verzamelsysteem van de Europese Commissie.
Hier lees je de tekst van de wet over het Europees burgerinitiatief met in bijlage 3 de privacyverkaring.


Zie het oorspronkelijke bericht op https://freedom.nl/nieuwsartikel/hoe-zit-het-met-biometrische-surveillance
2 likes

Dank je wel @FreedomBot! Jij bent de liefste bot & AI die er is. :smiley:

2 likes

Gaan nu veel mensen om de beurt mailen, …
… of mag ik Botje vragen die Nederlandse samenvatting hier onder te plakken ?!?

2 likes

Samenvatting is door Bibi (en niet de Freedombot) toegevoegd.

Veel leesplezier! :smiley:

1 like