Gastexpert: Isaac Asimov’s Wetten van de Robotica

Dit roept de vraag op hoe we ons als ondernemers moeten verhouden tot deze razendsnel totaal wijzigende wereld. Wat zijn de ethische gevaren van big data, business intelligence en alle andere nieuwe ontwikkelingen? Is nu het grootste gevaar dat bedrijven (banken, retailers) en overheidsorganisaties er met onze privacy vandoor gaan en meer gaan doen met onze klantgegevens? Loopt onze privacy gevaar? Of levert het gebruik van big data andere, misschien nog wel grotere, gevaren op? Kunnen wij, als we zo geïnvolveerd zijn in de techniek, nog wel zelf bepalen wat we willen, wat ons zelf goed en juist voorkomt? Vergroot de ict de sociale ongelijkheid in de wereld niet? Evolueert het mens-zijn zelf niet op een wijze die wij niet meer kunnen beheersen?

Privacy

Wat is big data eigenlijk? Voor jou, lezer, een vanzelfsprekendheid, maar voor mij als ethicus een groot zwart gat. Laat ik met behulp van Wikipedia een poging doen: ‘Een verzameling van data sets van meerdere bronnen en bestanden om correlaties te vinden om trends te onderkennen en wordt gebruikt met het doel om waarde te creëren’. Dat klinkt heel praktisch en handig. Informatie is alom vertegenwoordigd, maar vaak onzichtbaar. Het gaat dan ook over veel meer dan enkel privacy, sociale media en andere vormen van interactie op het web. Maar bijvoorbeeld Prof. Rik Maes (UvA) vraagt zich af of wij de big data niet meer als een zelfstandige actor, met een eigen zelfstandig leven, moeten gaan zien. Dat verontrust mij meteen al veel meer. Vooral als we dan te maken krijgen met de strategische visie vanuit commerciële ondernemingen of bemoeizuchtige overheden. De huidige informatietechnologie vormt al snel de persoonlijkheid van jongeren en beïnvloedt onze maatschappij en onze manier van leven. Peter Hustinx, de toezichthouder van de Europese Databescherming (EDPS) waarschuwt: 'Er zijn beslissingen, meestal automatisch, die gebaseerd zijn op profi elen, met de veronderstelling dat iemand een risico of een aantrekkelijk doel vormt. De manier waarop dit gebeurt en zich ontwikkelt in onze maatschappij baart me zorgen.' Door de technologie verandert er veel, maar ethische kwesties blijven onveranderlijk. De ict-technologie is uiteraard op zich neutraal, maar het gebruik ervan niet. Technologie kan alleen veilig worden gebruikt door mensen met intuïtie en ervaring. Waarom letten we bij werving en selectie dan met name op technische vaardigheden en nauwelijks op het intuïtieve en empathische vermogen van medewerkers?

Onderwijs

Prof. Van der Hoven (TU Delft) pleitte in zijn intreerede 'Values, Design and Ict' ervoor dat morele overwegingen en ethische analyse vanaf de eerste fase deel gaan uit maken van ontwerp, ontwikkeling en onderzoek. Deze vorm van ’applied engineering ethics’ wordt in de Verenigde Staten aangeduid als 'value sensitive design'. Hiermee wordt inhoud gegeven aan het idee van ‘responsible innovation’. Het is een goede ontwikkeling dat in het ict-onderwijs er steeds meer aandacht wordt gegeven aan de ethische (en juridische) aspecten van ict-gebruik. In minors leren studenten de morele aspecten van ict-gebruik herkennen: hoe kun je morele problemen analyseren om vervolgens tot een verantwoord oordeel te komen over de beste wijze van handelen. Inzicht in ethiek, het vakgebied dat morele kwesties op een systematische manier bestudeert, helpt daarbij. Na deze studie is de student in staat (i) ethische en juridische problemen bij ict-gebruik in de beroepspraktijk te herkennen en te analyseren; (ii) ethische concepten toe te passen op morele problemen bij het ict-gebruik; (iii) een moreel oordeel te vellen en te beargumenteren; (iv) wettelijke grenzen en beperkingen van ict-toepassing en -gebruik te benoemen en te verklaren; (v) de wet te lezen en toe te passen op concrete gevallen; (vi) juridische vragen te formuleren. Als dat in de branche staande praktijk wordt zijn we een stuk verder.

Black box society

Maar zover zijn we nog lang niet. Volgens Floris Kreiken, onderzoeker bij Bits of Freedom, staan wij aan het begin van een ‘Black Box Society’: een wereld waar onbekende technologieën in dienst staan van een kleine groep bedrijven en overheden die ons gedrag op een intransparante manier sturen. Sinds 2012 wordt bij de EU in Brussel een nieuwe privacy verordening opgesteld. De bescherming van de burgers moet daarmee worden vergroot. Wat we nu al kunnen zeggen is dat de risico’s van profilering (je postcode + je gesurf op internet + je boodschappen met een klantenkaart + je gefotografeerde kenteken op de openbare weg - welk merk, welk bouwjaar, welke verzekering - + je ov-jaarkaart + je medische behandeling + je BKR-registratie + je airmails + je Bonuspunten + je Facebookpagina + Bol.com + et cetera leidt tot ‘jouw’ exclusieve profiel) onvoldoende worden ingeperkt. Het verzamelen van gegevens mag alleen als er een gerechtvaardigd belang is en als dat belang groter is dan jouw privacybelang. Dat je zo maar ‘passende’ aanbiedingen worden gedaan is nog tot daar aan toe, maar als je ergens voor wordt afgewezen dan wil je toch wel graag weten op welke gronden dat gebeurt.

Onafhankelijkheid

Hoewel de privacy-kwestie ethisch gezien misschien het grootste gevaar van de huidige ontwikkelingen is, schuilt volgens mij het belangrijkste aspect hiervan in de onafhankelijkheid, de autonomie, van de mens. Ik heb daar eerder een column over geschreven in Baaz onder de titel ‘Het verraad van de techniek’. Deze prachtige titel heb ik helaas niet zelf bedacht, maar is de titel van een televisie-interview met theoloog Jaques Ellul in 1992. Dus ver voor de gigantische ict-ontwikkeling waar wij nu midden in (?) zitten. Hij wees er toen al op dat de techniek ons niet vrij laat. Dat de techniek ons berooft van onze hoogste vrijheid. Een waar, maar bedreigend perspectief.

Als ik naar de drie wetten van de Robotica van Isaac Asimov’s kijk dan is er nog een sprankje hoop: 'Eerste Wet: een robot mag een menselijk wezen geen leed aandoen en niet toelaten dat een mens leed overkomt; Tweede Wet: een robot moet een gegeven bevel gehoorzamen, behalve als dit in strijd is met de Eerste Wet; Derde Wet: Een robot moet streven naar zelfbehoud, tenzij dit in strijd is met de Eerste of de Tweede Wet.' Als we deze drie wetten nu eens op ons zelf van toepassing verklaren dan komen we een stuk verder in deze geautomatiseerde wereld: 1. geen lichamelijk of fysiek geweld meer, 2. we moeten autonoom gaan nadenken over gegeven opdrachten, en 3. we moeten een volwassen, zelfstandig leven leiden.