Artificial intelligence biedt de basis voor autonoom intelligente robots. Zelfdenkende systemen zijn een droom voor velen. Toch heeft niet iedereen vertrouwen in autonoom intelligente systemen (AIS). Want, wanneer we te veel vertrouwen stoppen in zo’n AIS, zijn we dan nog wel bedacht op fouten? En mocht zo’n fout optreden, wie is dan verantwoordelijk?
Fout in AIS
Speciaal voor jou zal ik er niet een al te juridisch verhaal van maken. Word ik heel erg blij van namelijk – jij waarschijnlijk iets minder. Hopelijk ben je een beeldende denker…
Wat dacht je namelijk van een zelfrijdende auto, die volledig autonoom rijdt? Je kunt dus niet meer ingrijpen als bestuurder. De auto stuurt ineens volledig naar rechts en – okay, tijd om niet meer beeldend te denken – rijdt in op twee ouderen. Wie is dan verantwoordelijk? Gaat het om een productfout, oftewel, een fout tijdens de productie of in het design, dan kijken we al gauw naar de producent.
--- Sidenote: Wil je ons vaker zien als je googelt? ---
Voeg TechGirl toe als jouw voorkeursbron en kom ons meer tegen in Google zoekresultaten!
Handig, die producent is dus altijd de pineut?! Nee, helaas. Zo werkt het niet. Want zodra we het hebben over bepaalde denkfouten van het AIS, dan kan de eigenaar van het systeem aansprakelijk zijn. We kennen dan dezelfde soort verantwoordelijkheid als die we kennen voor bijvoorbeeld dieren (risico-aansprakelijkheid). Goede verzekering afsluiten dan maar 😉
Maar, wat is nou een fout?
En dat is toch echt het lastige eraan. Wat is fout? Wat als de auto opzij rijdt om acht kleine kinderen te ontwijken? Er komt dus ook een flink stukje ethiek om de hoek kijken bij AIS. Het is lastig, omdat er toch iemand moet zijn die basisinstellingen moet programmeren. Die persoon zal keuzes moeten maken in lastige situaties, die een ethisch knelpunt kunnen veroorzaken.
Er klinken zelfs stemmen dat, nu AIS zelf-lerend zijn en op een gegeven moment eigen keuzes kunnen maken, de AIS zelf verantwoordelijk moeten worden geacht voor de keuzes die ze maken. Ik ben zeker benieuwd hoe dat mag werken. Heeft zo’n AIS dan een eigen bankrekening? Zo ver zie ik het nog lang niet komen. Dromen mag, natuurlijk. Hoe denk jij erover?
