WIJ VORMEN DE TECHNOLOGIE DIE ONS VORMT

Businessfilosoof Jochanan Eynikel over de ethiek van techniek

Is de mens de willoze speelbal van de technologie? Nooit volledig, betoogt de businessfilosoof Jochanan Eynikel (ETION). Hij gelooft in technologie die ten dienste staat van de mens, en wil opnieuw ruimte scheppen voor verbeelding en creativiteit in de extra tijd die die technologie ons kan schenken. Vanzelf zal dat echter niet gaan. “Hoe de technologie zich ontwikkelt, hangt af van de waarden die de ontwikkelaars in de technologie stoppen. Als we alleen maar op efficiëntie gericht zijn, dan zal de technologie dat nog versterken. Iedereen die innoveert, moet beseffen dat zijn beslissingen op hun beurt de mens vormen.“

WE WETEN NIET WAT OP ONS AFKOMT

Zorgzaamheid, dat vormt de kern van Jochanan Eynikels recentste boek 'Robot aan het stuur'. Hij heeft het onder meer over de zelfrijdende auto: een voorbeeld van hoe wij de controle over bepaalde beslissingen uit handen geven aan een machine. De zelfrijdende wagen raakt een gevoelige snaar: wat als het misgaat, als er levens op het spel staan? Waardegedreven innovatie is volgens Eynikel de uitweg: ervoor zorgen dat je elke betrokkene een stem geeft in het innovatieproces, om zo goed mogelijk de richting te kunnen bepalen waarin de innovatie gaat.

“Technologische innovaties grijpen steeds sterker in op menselijke levens; de technologie gaat in bepaalde gevallen zelf beslissingen nemen. Dan is het belangrijk om op voorhand te bedenken wat er kan misgaan. Ik hoor vaak, en terecht, de verzuchting dat je toch niet alles kunt voorspellen. Dat klopt, maar dat is juist een reden om voorzichtig te zijn en niet in het wilde weg dingen te gaan proberen. Kijk naar Facebook: hun filosofie was lange tijd 'move fast and break things'. Gewoon gaan en we zien wel wat er gebeurt. Nu zien ze in dat ze wel heel veel gebroken hebben, tot en met de democratie. Daarom moeten we dringend meer nadenken over hoe we onze producten ontwikkelen, zodat we zaken die wel te voorzien zijn, kunnen vermijden - of net kunnen bijdragen aan een zorgzame samenleving. Technologie heeft immers niet altijd een negatieve impact.“

In uw boek bent u vrij neutraal over de impact van technologie.

“Ik noem mezelf vaak een technorealist. Technorealisme gaat ervan uit dat je optimistisch mag zijn en mag geloven in de opportuniteiten van technologische verandering, maar wel moet beseffen dat dat afhangt van hoe we die technologie in de wereld zetten en ontwerpen. Het extreme optimisme noemt elke bekommernis over technologie doemdenken; dat vind ik ook weer immoreel, want dan negeer je gewoon de uitdagingen. Gelukkig zijn er heel wat technologiebedrijven die dat beginnen in te zien. Ja, smartphones brengen ons enorm veel voordelen, maar of de nadelen ook een impact zullen hebben, hangt af van hoe we die ontwerpen. Een realist zegt: de toekomst hangt af van de waarden die wij implementeren in onze technologie.“

De verandering is kwantitatief

Is dat urgenter geworden dan vroeger? Gaan de technologische veranderingen echt zoveel sneller nu?

“Versnelde verandering is er al sinds de Industriële Revolutie. Misschien zijn er zelfs minder baanbrekende innovaties dan vroeger - er valt veel voor te zeggen dat vroegere innovaties als elektriciteit en de pil meer impact hebben gehad dan Facebook en robots vandaag - maar die innovaties verspreiden zich wel veel sneller. Het duurde generaties voor de meeste mensen elektriciteit hadden, maar Facebook heeft in zeven jaar tijd een miljard mensen bereikt. De impact is er dus veel sneller; je kan niet meer achterover leunen en dan wel zien hoe het evolueert. Een app als Waze (een navigatieapp die info van andere gebruikers combineert om de snelste route te tonen, red.) is enorm snel omarmd, gemeentes moeten nu al maatregelen nemen omdat het sluipverkeer toeneemt. De impact is groter omdat de schaal groter is.“

Kun je die versnelling ook projecteren in de toekomst? De singulariteit, het moment waarop computers slimmer worden dan de mens en zichzelf gaan ontwikkelen op een niveau dat de mens niet meer kan volgen, komt zijdelings aan bod in uw boek, maar u staat er kritisch tegenover.

“Veranderingen in het verleden garanderen niets over de toekomst. De gemiddelde lengte van de mens is de voorbije honderd jaar sterk gestegen, maar op een zeker moment loop je tegen een limiet aan, anders was de mens vandaag drie meter lang. Intelligentie gebaseerd op rekenkracht overstijgt nu al die van de mens, en er is voorlopig niets wat erop wijst dat die rekenkracht niet nog sneller gaat toenemen. Dat is nog iets heel anders dan een bewustzijn, angsten, empathische gevoelens. Ik ben geen toekomstvoorspeller en ik garandeer niet dat dat er nooit zal komen, maar ik denk wel dat er dringendere uitdagingen zijn.“

“Het mooie en het unieke aan de mens is dat hij soms de regels niet volgt, omdat het beter is om ze niet te volgen. Artificiele intelligentie kan dat niet begrijpen“

KAN EEN MACHINE BESLISSEN OVER LEVEN EN DOOD?

Uw boek geeft de zelfrijdende wagen als illustratie van de vraag hoeveel autonomie we aan technologie kunnen geven. De wagen moet zich aan de verkeersregels houden, maar als hij dat te strikt doet, dan zet hij misschien ook levens op het spel. Als hij nooit over een volle witte lijn mag rijden, dan rijdt hij misschien een kind omver, schrijft u.

“De zelfrijdende wagen laat goed zien wat het verschil is tussen intelligentie en bewustzijn. Voor de technologie is er geen intrinsiek onderscheid tussen de regels 'Ik mag geen mensen doden' en 'Ik mag geen volle witte lijn overschrijden'. De mens moet dat onderscheid erin bouwen, maar het probleem is - kijk maar naar de geschiedenis - dat ethiek geen sluitend systeem is. Bedrijven gaan daar niet licht over, en terecht. De technologie zelf is er momenteel al, er zijn al heel wat prototypes. Bij de ontwikkelaars klinkt het dat 'level 3-autonomie' (daarbij hoeft de bestuurder zijn aandacht niet langer bij het verkeer te houden, maar de auto kan hem wel vragen om op specifieke momenten de controle over te nemen, red.) in 2021 volledig operationeel zal zijn. De grootste uitdaging zit in de wetgeving en het ethische aspect. Wie is er verantwoordelijk als er iets misgaat? Dat leeft ook bij de bedrijfswereld; zij willen het risico niet nemen dat er plots dodelijke slachtoffers vallen, zeker niet als er geen wettelijk kader rond is. Duitsland heeft nu een aanzet gegeven om zo'n wettelijk en moreel kader te bouwen. Daar zitten ook ethici rond de tafel.“

Utilitarisme en plichtethiek

“In dat kader kun je bijvoorbeeld als regel instellen dat zelfrijdende wagens zo weinig mogelijk doden mogen maken. Maar dan kom je voor het volgende probleem: moet hij het voetpad oprijden en een voorbijganger doodrijden om twee overstekende mensen te redden? Puur rekenkundig is het beter om twee mensen te redden dan één. Maar dan kom je in een gevaarlijke, voor mij immorele, situatie terecht. Er is moreel en wettelijk een verschil tussen schade niet kunnen vermijden en schade veroorzaken. Je kunt daarover discussiëren, maar dat vind ik een mooi voorbeeld van een principe dat een robot niet zelf kan bedenken. Je moet er dus utilitarisme in brengen, het grootste goed voor het grootste aantal mensen, maar ook niet te veel. Je moet daarnaast ook deontologische waarden zoals rechtvaardigheid proberen te integreren in de besluitvorming van die machines - zonder dat die machines weten wat rechtvaardigheid is. Het is niet rechtvaardig om mensen die toevallig in de buurt van zo'n systeem bewegen, op te offeren vanwege een of andere berekening. Ethiek is moeilijk voor machines, maar dat betekent niet dat je de zelfrijdende wagen moet afschaffen. We zullen nooit elk risico kunnen vermijden. De farmaceutische industrie test producten en in die testfase gaat het soms fout, maar als je die producten niet ontwikkelt, dan breng je nog meer mensen in de problemen. Op hun best kunnen zelfrijdende wagens vele levens redden.“

Verbeelding

“Het mooie en het unieke aan de mens is dat hij soms de regels niet volgt, omdat het beter is om ze niet te volgen. Stel dat artificiële intelligentie er al was geweest in de tijd van de Romeinen, en dat die mee had bestuurd: welk AI-systeem had dan de slavernij afgeschaft? Het was superefficiënt, supergoedkoop, en het bestond al. De slavernij is afgeschaft omdat mensen dat niet meer correct vonden, ook al deden ze het al eeuwen zo. AI werkt steeds op basis van regels uit het verleden. De mens heeft de verbeelding om regels uit te dagen.“

Killer bots

Er was onlangs discussie over 'killer bots', die autonoom kunnen beslissen om mensen te doden. Zijn die een brug te ver?

“Voor mij gaan 'killer bots' te ver. De meest ingrijpende keuze die er is, over leven en dood, kun je niet overlaten aan een machine zonder ethisch besef. Ja, er zijn psychopaten bij wie dat ook ontbreekt, maar de meeste mensen zijn dat niet. Wie 'killer bots' ontwikkelt, handelt onethisch, want een robot kan nooit tot inkeer komen of berouw tonen. Een tegenargument is: 'Wat als een vijand ze eerst ontwikkelt?'. Maar jezelf wapenen tegen robots is nog iets anders dan zelf dodende robots ontwikkelen. Dat zet een wapenwedloop in gang waarin de immoraliteit van de ander jou immoreel doet handelen: een negatieve spiraal. Ik ben niet tegen efficiëntie: je mag zeker technologie gebruiken, maar geen technologie die volledig autonoom beslist over leven en dood.“

ROBOTS EN JOBS

Hoe ziet u de impact van de robotisering op de arbeidsmarkt?

“Dat is moeilijk te voorspellen. De robotisering brengt ongetwijfeld nieuwe jobs met zich mee, maar die zullen vaardigheden vragen die niet iedereen heeft. Er zullen ook veel jobs verdwijnen. Hoe efficiënt die arbeidsmarkt zal zijn, zal afhangen van het beleid dat we voeren. Als we mensen opleiden als concurrenten van robots, dan komt het niet goed. Leggen we de nadruk op het interactieve, op sociale vaardigheden, dingen waar robots niet sterk in zijn, dan zie ik wel de voordelen.“

Handigheid aanleren

Er zijn ook mensen die minder sterk zijn in sociale vaardigheden, die misschien juist baat hebben bij repetitief werk. Is er voor hen een oplossing?

“Dat lijkt mij de grootste uitdaging, maar het is niet zo dat er op den duur enkel nog 'sociale' jobs zullen zijn voor mensen. Er zal altijd manueel werk zijn dat robots niet kunnen - volgens recente studies van McKinsey blijft dat zelfs de grootste groep. Horecajobs en poetsen zijn bijvoorbeeld heel moeilijk voor een robot omdat ze een bepaalde handigheid vereisen. Als je de mensen die nu repetitief werk doen, wat handigheid leert, dan zullen ze nog steeds werk hebben. Bij het maatwerkbedrijf Mariasteen in Gits bijvoorbeeld (zie Motion Control 1807, red.) worden er nu cobots ingezet voor mensen met een afstand tot de arbeidsmarkt. Het is voor sommige mensen met een beperking niet altijd duidelijk wat ze moeten doen, maar hun handelingen zijn wel veel flexibeler dan die van de robot. De cobot wijst hun aan wat ze moeten doen, waardoor je een mooie symbiose krijgt. Maar: het is zeker de meest kwetsbare groep. Ook hier hangt het weer af van de keuzes die we als maatschappij maken. Moeten we alles automatiseren wat we kunnen? Ik zag onlangs een robotpriester die de ziekenzalving kan doen. Dat is bedoeld als gimmick, maar het is wel een mooi voorbeeld van wat je niet moet automatiseren. Het doel is niet die zalving op zich, het gaat over menselijke aanwezigheid op een van de meest kwetsbare momenten in het leven. Dat kun je niet met robots opvangen.“

“Als we mensen opleiden als concurrenten van robots, dan komt het niet goed“

Is onze maatschappij niet in toenemende mate resultaatgericht aan het worden, bijvoorbeeld in de zorg, waar zorgkundigen een aantal minuten krijgen voor een bepaalde handeling? Is dat geen probleem in een economie die steeds meer robots zal inzetten?

“Ik denk dat dat een terechte zorg is. Technologie vertaalt de waarden en doelstellingen die wij erin stoppen. Als die alleen maar gericht zijn op efficiëntie, dan volgen die een trend die al heel lang bezig is. Gelukkig zijn er ook tegenvoorbeelden. Buurtzorg Nederland is een zorgverstrekker die meer tijd geeft aan patiënten. Grappig genoeg heeft dat ertoe geleid dat die patiënten sneller genezen, waardoor Buurtzorg efficiënter werd, maar dat was niet de eerste doelstelling. Technologie kan, indien verkeerd toegepast, dat effect nog versterken. Omgekeerd kun je ze ook als volgt inzetten: vandaag zijn er veel verplegers of leerkrachten die nog weinig tot de essentie van hun werk komen omdat ze zoveel administratieve taken hebben. Zet daar software of AI op in, en dan kunnen ze zich meer wijden aan de zorg- en onderwijstaken. Maar dat vraagt dan wel een keuze van het management. Ze mogen niet zeggen: de software is geautomatiseerd, de verpleger moet maar halftijds meer werken. Je kunt ook de keuze maken om de verpleger wat meer tijd te geven om patiënten te zien. Dat is steeds een menselijke keuze.“

Geen robottaks

Er wordt winst gemaakt met automatisering. Moeten de producenten of gebruikers van automatiseringssystemen een deel van die winst laten terugvloeien naar de maatschappij?

“Een 'robottaks' lijkt me niet zinvol. Automatisering is op zich niet goed of slecht, het hangt ervan af waarvoor je ze gebruikt. Ik vind wel dat robotproducenten daarover moeten nadenken: 'killer bots' en robotpriesters zijn geen goed idee. Robots die ons repetitief werk uit handen nemen, zijn dat wel. Moet een bedrijf dat daardoor de economie efficiënter maakt, zijn winsten delen? Als een bedrijf niet efficiënter wordt, dan worden ze na een tijd misschien weggeconcurreerd en staan al hun mensen op straat. Wie zijn bedrijf efficiënter maakt, doet dat om het te laten groeien en de mensen die er werken, van een inkomen te voorzien. Bij een bedrijf dat niemand nog tewerkstelt of zijn loyale werknemers afdankt voor een halve procent winst, zijn natuurlijk wel ethische vragen te stellen. Je kunt wel op lange termijn denken: als we binnen honderd jaar voor niks nog mensen nodig hebben, dan heb je wel een nieuw herverdelingssysteem nodig. Dan komt een idee als het basisinkomen om de hoek kijken, maar dan krijg je misschien de vraag naar zingeving.“

“Een 'robottaks' lijkt me niet zinvol. Automatisering is op zich niet goed of slecht, het hangt ervan af waarvoor je ze gebruikt“

Interactie met robots

Hoe moeten robots eruitzien? Heel menselijk, of juist helemaal niet?

“In de literatuur heet dat 'the uncanny valley'. Robots zijn beangstigend wanneer ze bijna op de mens lijken; niet wanneer ze perfect op de mens lijken, en ook niet wanneer ze totaal niet op de mens lijken. Zeker in de zorgsector mag er een bepaalde 'zachtheid' in de robot zitten, maar het belangrijkste is dat je zeker weet dat het om een robot gaat. In interactie met robots blijft er best altijd een duidelijk onderscheid zichtbaar. Ik denk wel dat technologie meer en meer op de achtergrond verdwijnt en dat de computer met toetsenbord en muis op termijn wordt verdrongen door een spraakassistent. Nu werkt het nog niet zo goed, maar we gaan steeds meer met technologie communiceren zoals we met mensen communiceren. Het is efficiënter en makkelijker.“

Zullen mens en techniek steeds meer samenvallen in de toekomst?

“Die beweging is volop aan de gang. De desktop stond op ons bureau, de laptop op onze schoot, de smartphone zit in onze zak, de smartwatch zit al op de huid. Helemáál samenvallen zie ik mens en techniek niet. Dan kom je weer bij emotionaliteit en verbeelding, het feit dat wij spirituele wezens zijn die onszelf willen ontplooien. Een zelfrijdende wagen zal nooit plots willen gaan voetballen. Techniek zonder die verbeelding zullen we altijd moeten bijsturen. Maar mens en machine groeien naar elkaar toe, al was het maar omdat onze infrastructuur ook ons handelen beïnvloedt. Als wij ons meer en meer opsluiten in ons eigen gelijk, dan is dat deels het gevolg van hoe sociale media werken. Vrij naar Winston Churchill: eerst vormen wij gereedschap, daarna vormt dat gereedschap ons. Zolang we ons daarvan bewust blijven en de verbeelding niet uitbesteden aan machines, zolang we ethisch beslissingen nemen, blijft de mens aan de macht. De mens moet niet op een robot gaan lijken om te overleven. Ethiek gaat altijd over bijsturen, over omgaan met het onprogrammeerbare.“