Wanneer robots beledigen of schade veroorzaken: juridische subjectiviteit in aantocht

door:
“Feminisme is kanker”, sprak Tay. “Hitler zou het een stuk beter hebben gedaan dan de aap die Amerika nu heeft”. Het zijn uitspraken die op zijn zachtst gezegd zwengelen aan de pomp van oneerbiedigheid, gedaan door de nieuwe artificial intelligence (AI) chatbot van Microsoft.‘TayTweets’ is geprogrammeerd om via Twitter te communiceren als een tienermeid tussen de 18 en 24 jaar, waarbij ieder gesprek dat zij voert zou moeten bijdragen aan haar ontwikkeling. Een nobel en idealistisch streven, al was het misschien een tikje naïef van Microsoft om te denken dat Tay volwassen genoeg is om zich niet te laten manipuleren (lees: misbruiken) door de wondere wereld van het internet. Met uitgelopen mascara en haar broek op de knieën werd dochter Tay door haar vader gevonden in de meest donkere bosjes van het web. Al snel daarna werd de sensibele spons offline gehaald.

Robots zullen veel van onze banen inpikken. Ze werken sneller, nauwkeuriger, doen niet aan roddelen in het rookhok en hebben bovendien geen slaap nodig. Zorgrobots zullen domineren in bejaardentehuizen en drones zullen het toeziend oog van de politie overnemen.

Een ander geluid is dat het wel mee zal vallen met het inpikken van de banen en dat de robotisering juist enorm veel kansen zal bieden. Meer productie, meer consumptie, hoe eerder we uit de crisis raken. Of iets dergelijks. Het is een aanhoudende politieke discussie, die ondanks vele en door studies onderbouwde standpunten niet heeft geleid tot antwoorden. En terwijl alle hoogintelligente politici heftig debatteren over de mogelijke toekomst, worden de eerste schadeformuliertjes al ingevuld.

Robothandelen

Steeds vaker wordt er binnen de technologiepraktijk gevraagd naar de juridische gevolgen van robothandelingen. Wanneer intelligente robots de mens leren begrijpen en sociaalvaardig worden, is het ook denkbaar dat zij zelfstandige keuzes gaan maken of dingen gaan ontwerpen. Wie beschikt over de eigendom van het ontwerp van een robot? Tot op heden is er nog nooit een niet-mens aangewezen als subject van rechten en plichten. Zelfs de kekke selfies die een aap van zichzelf wist te schieten werden door de rechter niet aangemerkt als een uiting van creativiteit. Vanuit die invalshoek is het dus eerder aan te nemen dat de eigenaar van een robot wordt aangewezen als subject, of in geval van Tay de schrijver van de software. Wat zou er echter gebeuren als een groep robots zelfstandig een nieuwe zaak produceert? En wie is er schuldig als een zwerm drones tijdens een militaire operatie op eigen initiatief een fout maakt? Wellicht de commandant, mits hij niet wordt uitgesloten van schuld omdat zijn gezag niets te maken had met de actie die de drones op eigen kracht uitvoerden. Al met al genoeg onduidelijkheden die wachten op doorgronding.

Schadeveroorzakende robots

De anno 2016 meest besproken en minst ver van ons bed staande intelligente machine is de zelfrijdende auto. Onze minister Schultz van infrastructuur en milieu wenst Nederland een prominente rol te geven in de ontwikkeling van zelfsturende bolides, al moet er flink wat papierwerk worden verricht. Autofabrikanten hebben zich namelijk te houden aan het Verdrag van Wenen, waarin is bepaald dat een auto door een mens bestuurd dient te worden. Een bepaling die het voor verzekeraars een stuk lastiger maakt om nieuwe polissen op te stellen die schadeclaims kunnen afhandelen. Het wettelijk kader is dan ook nog lang niet toegespitst op de nieuwste ontwikkelingen en juist het juridisch gemis aan duidelijkheid kan voor verzekeraars de kosten doen opjagen. Zo geeft Allianz, de grootste autoverzekeraar van Europa, aan de consument niet op te willen zadelen met de aansprakelijkheidsvraag. Daarom betaalt Allianz momenteel de schade die voortkomt uit een ongeluk om vervolgens de juridische kwesties verder te behandelen met de fabrikant.

Juridisch kader

Vooralsnog is het zo dat de bezitter van een apparaat aansprakelijk wordt gesteld voor de handelingen ervan. De vraag rijst echter hoelang we deze risicoaansprakelijkheid blijven hanteren, nu de zelfstandigheid van robots toeneemt en zij almaar slimmer en menselijker worden. Als zij zelfstandig opereren en creatief reageren op nieuwe situaties, is het niet realistisch om deze autonome dingen’ te blijven vergelijken met auto’s die uit zichzelf parkeren of stofzuigers die eigenhandig van de trap af donderen omdat ze de stelling van Pythagoras nét niet goed genoeg begrijpen. Robots worden veel meer dan dat, dus is het niet ondenkbaar dat zij ook subjectiviteit toegewezen zullen krijgen.

Er zijn meerdere manieren om de juridische gevolgen van robothandelen te behandelen. In de eerste positie staat de mens als juridische entiteit centraal en is de robot slechts een object. De andere positie zou zijn om de robot zelf een juridische entiteit toe te kennen. Naar de huidige tijdsgeest is het denken vanuit de eerste positie realistisch, omdat robots nog altijd slechts een object zijn en de eigenaar van dit object daarom ook juridisch verantwoordelijk is voor alle acties die het object verricht.

Toch is er al ruime tijd geleden een schrijver geweest die nadacht over de tweede positie. Het was de beroemde sciencefictionschrijver Isaac Asimov (1920-1992) die inzag dat robots ooit juridische entiteit zouden krijgen, waardoor hij drie wetten voor de robotica wist te formuleren die vandaag de dag nog steeds hoogtij vieren:

1)A robot may not injure a human being or, through inaction, allow a human being to come to harm.

2)A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.

3)A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.”

Waar het op neerkomt is dat een robot de mens geen letsel mag toebrengen, noch laten overkomen en dat robots door mensen gegeven opdrachten moeten uitvoeren, tenzij deze opdrachten strijdig zijn met de eerste wetsbepaling. Vanuit deze bepalingen kan worden afgeleid dat ook voor robots rechten en plichten staan gereserveerd en zij vanuit dat oogpunt dus ook aansprakelijk zouden kunnen worden gesteld. In welke vorm deze aansprakelijkheid zal worden gegoten benieuwt ons in ieder geval sterk. Twintig jaar de bak insturen of een geldboete van de vijfde categorie, dat zal ze leren.

Toch lijkt de subjectiviteit van machines op lange termijn onvermijdelijk. Als een vennootschap subject kan zijn, waarom kan een robot dit dan niet? Een sluitend antwoord is er niet. Het is een bijzonder moeilijk en daarom ook boeiend vraagstuk, niet iets wat binnen een week kan worden uitgewerkt op de achterkant van een sigarendoos. En zolang antwoorden uitblijven, kan een puber als Tay ongestoord zeggen dat incestparasieten snel weer terug moeten naar Israël. Ze bedoelt het vast niet verkeerd.