Ethisch
Voorkom discriminatie
Het recht op privacy is een fundamenteel recht. Behalve een bescherming van de persoonlijke levenssfeer betekent dit dat een persoon ook beschermd wordt tegen ongerechtvaardigde discriminatie, uitsluiting en stigmatisering en tegen een onheuse bejegening.
Waar sprake is van een volledig geautomatiseerd proces is het soms moeilijk te achterhalen hoe een besluit tot stand is gekomen. Er zijn nog geen pasklare antwoorden te geven op de vraag hoe vormen van discriminatie voorkomen kunnen worden. Het is soms een vraag die om een politiek antwoord vraagt. Maar soms is het ook gezond verstand. In plaats van concrete instrumenten zijn er wel programma’s die zich met deze vragen bezig houden en die al een begin van een antwoord kunnen bevatten.
Met de ontwikkeling van intelligente algoritmen die patronen uit ogenschijnlijk ongeordende gegevens weten te halen, neemt ook de kans op een onheuse bejegening toe. Bijvoorbeeld omdat gegevens van één specifieke groep geanalyseerd worden terwijl de conclusies op iedereen van toepassing worden verklaard. Of omdat een algoritme patronen afleidt die stigmatiserend of discriminerend zijn op een onrechtvaardige manier.
Een besluit dat behoorlijke gevolgen voor een persoon kan hebben (bijvoorbeeld het stopzetten van een uitkering, of het aanbieden van een bepaald zorgpakket) mag nooit alleen door een machine genomen worden. Daar moet altijd een menselijke beoordeling bij zitten.
Er is behoefte aan een ethisch raamwerk dat duidelijk maakt wat wel is toegestaan en wat niet. Zo’n raamwerk is te vinden in de zorg. Daar worden vier richtlijnen gehanteerd. Omgewerkt naar de verwerking van gegevens gaat het om de volgende vier richtlijnen:
- Borgen van de autonomie van de persoon
- Voorkómen dat een verwerking schade berokkent aan een persoon
- Er op toezien dat een verwerking een positief effect heeft op een persoon
- Er op toezien dat een verwerking rechtvaardig is, dus niet op onterechte gronden de ene persoon anders behandelt dan de andere.
Er op toezien dat een verwerking rechtvaardig is, dus niet op onterechte gronden de ene persoon anders behandelt dan de andere.
Gegevens zijn gegevens. Maar ook daar kan het mis gaan. Een bekend voorbeeld is het gebruiken van gegevens van criminelen om toekomstige criminelen op te sporen. Omdat bepaalde bevolkingsgroepen oververtegenwoordigd zijn in de criminaliteitsstatistieken zal een voorspelling dit ook meenemen. Dat hoeft helemaal niet juist te zijn. Dat stigmatiseert individuen van een groep.
Dit geldt niet alleen voor criminaliteit maar voor vele andere zaken. Bijvoorbeeld het onderzoeken van de mogelijkheden tot promotie door alleen te kijken naar de groep mensen die ooit promotie heeft gemaakt. Daardoor blijven kenmerken van de bedrijfscultuur in stand.