De gemeente Krimpenerwaard schakelt kinderen tussen de 8 en 12 jaar in bij de strijd tegen cybercriminaliteit. Met behulp van een computerspel leren ze over de gevaren van het internet. Het idee is dat de kinderen die kennis vervolgens overbrengen aan hun ouders en grootouders.
"Mijn vader weet alles al, maar mijn moeder kan ik nog wel wat leren", zegt de 11-jarige Keano tegen Omroep West. "Bijvoorbeeld om geen vreemde linkjes aan te klikken." Hij is op dit moment de beste speler van de gemeente. "Misschien omdat ik ict'er wil worden en ik heb mijn spreekbeurt een keer over hacken gedaan."
Het initiatief kwam voort uit een enquête onder de bewoners van Krimpenerwaard. Daaruit bleek dat mensen bang zijn voor oplichting via het internet en ze meer voorlichting willen krijgen. Daarop ondernam de gemeente actie.
Begin januari ontvingen alle leerlingen uit groep 5 tot en met groep 8 een brief van de burgemeester en de politie met de uitnodiging om het spel te gaan spelen. De kinderen zijn in de game zelf cyberagent en moeten vragen beantwoorden over online criminaliteit en opdrachten doen.
Volgens burgemeester Roel Cazemier is de belangstelling groot. "Kinderen leren sneller en zijn meer gericht op het gebruik van internet, dus we hopen dat ze hun ouders of grootouders streetwise kunnen maken."
Ook de 8-jarige Lieve speelt mee. "Je kan er echt iets van leren, bijvoorbeeld wat hackers doen en hoe je ze kan tegenhouden." Volgens haar moeder wijst Lieve haar ouders regelmatig op verdachte dingen. "Als ik een linkje open op mijn telefoon, dan zegt ze: dat mag niet, dat kan gevaarlijk zijn."
De 8-jarige vindt het spel zelfs zo leuk dat ze haar toekomstplannen heeft gewijzigd. "Ik wilde detective worden, maar nu wil ik iets anders worden: online agent, door dit spel."
"Ik weet niet waar de gemeente precies op zoekt, maar ik denk dat ik word geprofileerd op mijn buitenlandse afkomst."
Aan het woord is Miryam - niet haar echte naam. Ze krijgt een bijstandsuitkering in de gemeente Nissewaard, waar ook Spijkenisse onder valt. Die gemeente gebruikt 'slimme' algoritmes om bijstandsfraudeurs op te sporen.
Etnisch profileren doet de gemeente zeker niet, benadrukt de wethouder voor Werk en Inkomen, Igor Bal. "En die algoritmes hebben voor inwoners ook veel voordelen", stelt hij.
De gemeente scant jaarlijks met behulp van het Amsterdamse data-bedrijf Totta alle 2300 bijstandsontvangers. Net als andere gemeenten is Nissewaard verplicht om onderzoek te doen naar mogelijke fraude.
"We kijken daarvoor naar zaken als leeftijd, aantal kinderen en of iemand in het verleden fraude heeft gepleegd", zegt wethouder Bal.
Maar ook vakantiegedrag, in hoeverre iemand meewerkt aan zogenoemde participatietrajecten en nieuwe inschrijvingen van auto's op een adres worden meegewogen.
Als iemand een hoge risicoscore krijgt, kan er vervolgonderzoek worden ingesteld. Pas dan kan eventueel de uitkering worden stopgezet.
Op die manier analyseert de gemeente jaarlijks alle 2300 bijstandsontvangers en wist de gemeente vorig jaar "2 of 3" bijstandsfraudeurs op te sporen bij wie de uitkering werd stopgezet. Dat is maar een klein deel van de 76 opgespoorde fraudeurs. De overige fraudeurs werden bijvoorbeeld via tips van buren en anderen opgespoord.
Critici waarschuwen voor de gevaren van het doen van onderzoek op basis van risicoprofielen. De Belastingdienst maakte het daarbij wel heel bont: burgers met een dubbele nationaliteit werden vaker gecontroleerd dan anderen.
Daarvan is in Nissewaard geen sprake. Toch kan er ook onbedoeld sprake zijn van discriminatie, zegt Marlies van Eck, aan de Radboud Universiteit gespecialiseerd in de juridische kant van algoritmes.
Ook wat je doet of niet doet, of waar je woont, kan veel zeggen over je etniciteit of je geslacht. Zo wonen er in sommige wijken meer buitenlandse komaf: als je in die wijk woont, geeft je postcode aan dat je een grotere kans hebt om een migratie-achtergrond te hebben.
De gemeente Nissewaard analyseert dan ook geen adressen, benadrukt de gemeente. "Dat is heel goed, want daarmee voorkom je veel discriminatiezorgen", zegt Van Eck. Maar niet volledig: de gemeente analyseert wel vakantiegedrag, wat bijvoorbeeld ook al iets over etniciteit kan zeggen.
"Kijk eens naar je eigen Netflix-kijkgeschiedenis. Als Netflix niet zou weten dat ik een vrouw ben, kunnen ze dat misschien wel afleiden aan mijn gedrag, aan mijn kijkgeschiedenis."
Dat kan in een uiterst geval leiden tot extra controles voor bepaalde bevolkingsgroepen. Ook ambtenaren die fraude opsporen, hebben vooroordelen, en het kan daardoor zijn dat een bepaalde bevolkingsgroep ten onrechte vaker voorkomt in de fraudestatistieken. Als die vooroordelen in een dataset terechtkomen, kunnen mensen met een bepaalde afkomst vaker boven komen drijven.
Toch denkt Van Eck wel dat slimme algoritmes kunnen helpen. "Je moet ze zien als hulpmiddel, net het weerbericht", zegt Van Eck. "Als je het weerbericht zon voorspelt, zie je dat ook niet direct als absolute waarheid. Je kijkt ook even naar buiten om te zien of de zon echt schijnt."
Wethouder Bal benadrukt bovendien dat de fraude die door het algoritme is gevonden, anders misschien nooit aan het licht was gekomen. "Maar ook voor bijstandsontvangers heeft dit voordelen", stelt hij.
Tot het Totta-algoritme werd ingevoerd, moesten veel mensen veel vaker worden gecontroleerd. Ook Miryam moest jaarlijks met haar complete administratie langs bij de gemeente, tot het nieuwe algoritme werd ingevoerd: sindsdien maar één keer. "Als iemand geen fraudeur is, geven we dat ook mee aan het algoritme", belooft wethouder Bal.
De coalitie van organisaties die het fraude-opsporingssysteem SyRI van tafel wist te krijgen, is er desondanks niet gerust op. Ze laat weten de lokale ontwikkelingen, met name die in de gemeente Nissewaard, in de gaten te houden.