In het jaar 1950 werd al nagedacht over gedragsregels voor robots in de vorm van de drie wetten van Asimov. Waar deze discussie zich destijds nog beperkte tot gedachtenexperimenten in science fiction, wordt thans een felle politiek-juridische discussie gevoerd over regulering van échte robots.
Klik hier voor meer informatie over de drie wetten van Asimov
Robots werpen juridische vragen op
Robots is een breed begrip, waaronder wordt verstaan industriële productierobots, pakketbezorgende drones, zorgrobots, de bekende autonome stofzuigers en grasmaaiers en zelfrijdende auto’s tot en met volledig autonome militaire drones. In meer of mindere mate roepen al deze robots vragen op rondom
- aansprakelijkheid (wie is verantwoordelijk als een robot schade veroorzaakt? ontwerper? producent? eigenaar? gebruiker?);
- privacybescherming (denk bijvoorbeeld aan surveillance drones en zelfrijdende auto’s die met al hun sensoren en camera’s grote hoeveelheden (persoons)gegevens verwerken);
- intellectueel eigendom (aan wie komt bijvoorbeeld het auteursrecht toe op een door een robot vervaardigd auteursrechtelijk beschermd werk?);
- et cetera.
Natuurlijk kunnen we dit soort vragen proberen te beantwoorden vanuit bestaande wet- en regelgeving en juridische leerstukken zoals onder andere productaansprakelijkheid, onrechtmatige daad, auteursrecht, Wbp/AVG, de Europese machinerichtlijn, de richtlijn voor medische hulpmiddelen en de EMC-richtlijn. De antwoorden zijn echter niet altijd even duidelijk te geven (en soms maatschappelijk onbevredigend) omdat de betreffende regels nimmer geschreven zijn om dergelijke moderne technologie te reguleren. Deze rechtsonzekerheid kan het minder aantrekkelijk maken voor bedrijven om innovatieve robots op de markt te brengen.
Resolutie Europees Parlement regulering robots
In reactie hierop heeft het Europees Parlement enkele weken terug een resolutie gepubliceerd waarin de Europese Commissie wordt verzocht om met voorstellen te komen voor regulering van ‘slimme robots’, en daarbij alvast de nodige wetgevingssuggesties gedaan. Enkele opvallende suggesties:
- Een door een (nieuw) Europees agentschap te beheren Europees registratiesysteem voor geavanceerde robots (vergelijkbaar met het ‘kentekenbewijs’ voor auto’s);
- Een bijpassend verplicht verzekeringssysteem, met zelfs een fonds om te waarborgen dat er ook schadevergoedingen kunnen worden uitgekeerd als er geen verzekeringsdekking is (eveneens vergelijkbaar met de voor auto’s bestaande verzekeringsplicht / waarborgfonds);
- Robots zouden moeten worden uitgevoerd met een “black box” die bijhoudt op basis van welke ‘redeneringen’ de robot welke handelingen heeft uitgevoerd;
- Een verplichting voor fabrikanten van bijvoorbeeld medische robots om de broncode te deponeren zodat door die robots veroorzaakte ongevallen en schade kunnen worden onderzocht;
- Aansprakelijkheid zou niet zozeer moeten komen te liggen bij een persoon die “nalatig heeft gehandeld”, maar meer bij degene die in staat is risico's te beperken / verzekeren;
- Deze aansprakelijkheid zou evenredig moeten zijn met het concrete niveau van de aan de robot gegeven instructies en de mate van autonomie van de robot, hetgeen betekent dat hoe groter het leervermogen of de autonomie van een robot is, en hoe langer de "opleiding" van een robot heeft geduurd, hoe groter de verantwoordelijkheid van zijn "opleider" zou moeten zijn;
- Op de lange termijn een specifieke rechtspersoonlijkheid creëren voor robots, zodat in elk geval de meest geavanceerde autonome robots de status kunnen krijgen van “elektronisch persoon” die verantwoordelijk is voor het vergoeden van veroorzaakte schade;
- Verantwoordingsplicht voor Robotica-ingenieurs voor de maatschappelijke, milieu- en gezondheidsimpact die robotica voor de huidige en toekomstige generaties kunnen meebrengen.
Aanvankelijk werd ook een belasting voor robot-eigenaren geopperd (o.a. om een fonds te vormen om mensen te compenseren die door robotisering hun baan verliezen), maar die suggestie heeft de stemmingen in het Europees Parlement niet overleefd.
Juridische gevolgen resolutie Europees Parlement
Het creëren van rechtspersoonlijkheid voor robots (nr. 7) zou juridisch iets geheel nieuws zijn (op dit moment kent ons rechtssysteem alleen natuurlijke personen zoals u en ik - en rechtspersonen zoals bijvoorbeeld de B.V., N.V. en stichting). Ook het omvormen van het productaansprakelijkheidsregime (nrs. 5 en 6) zou een flinke omschakeling in het juridisch denken betekenen. Andere van bovenstaande punten hebben in potentie een forse impact op business cases (kosten van registratie en verzekering in nrs. 1 en 2), technisch ontwerp (de “black box” van nr. 3) en op de bescherming van vertrouwelijke bedrijfsinformatie (verplichting tot publiceren broncode van nr. 4). Last but not least, ik zou als robot-ingenieur niet graag verantwoordelijk zijn voor toekomstige generaties.
Afronding
De kans dat bovenstaande suggesties van het Europees Parlement op korte termijn daadwerkelijk tot Europese wetgeving worden verheven is naar mijn idee echter klein. Het lijkt erop dat het Europees Parlement met name een debat op gang probeert te brengen, zodat er serieus nagedacht wordt over noodzaak en wijze van omvorming van ons Europees rechtssysteem in het licht van dergelijke innovatieve ontwikkelingen, hetgeen natuurlijk een te prijzen initiatief is. In dat kader vindt momenteel een publieke consultatie op deze resolutie plaats en dient de Europese Commissie binnen drie maanden te reageren op het verzoek van het Europees Parlement. Vanuit de sectie IE, IT en Privacy van KienhuisHoving volgen we deze ontwikkelingen natuurlijk op de voet, zodat we ook innovatieve ondernemingen op het vlak van robotica zo goed mogelijk van dienst kunnen zijn.
Wilt u meer informatie? Neem dan contact op met Lesley Broos.