Technologiefilosoof Mark Coeckelbergh: “Wellicht hadden AI-wetenschappers nooit de ambitie om killer robots te bouwen. Maar ze zijn er wel”

Technologie kan altijd twee richtingen uit: een applicatie die gemaakt is om mensenlevens te redden, kan letterlijk voor hetzelfde geld evenveel mensenlevens vernietigen. Daarom pleit de Belgische technologiefilosoof Mark Coeckelbergh voor een ethische reflex die stilstaat bij de toepassingen en gevolgen van technologie. En daar kunnen ook filosofen een rol spelen. “Technologie is veel te belangrijk om alleen maar over te laten aan ingenieurs en IT’ers.”

Mark Coeckelbergh is technologiefilosoof aan de Universiteit van Wenen. Onze landgenoot is ook voorzitter van de Society for Philosophy and Technology. Op het eerste zicht gaapt er een gigantisch gat tussen beide werelden, maar dat is volgens Coeckelbergh slechts schijn. “Ze kunnen niet meer zonder elkaar. Eeuwenoude filosofische inzichten helpen om de razendsnelle technologische ontwikkeling beter te begrijpen. En technologie maakt filosofische vraagstukken actueel en relevant.”

Vandaag is technologie te veel een zaak van techneuten, vindt Coeckelbergh. “Dat is gegroeid vanuit de misvatting dat technologie neutraal zou zijn. Maar dat is natuurlijk niet zo. Technologie is niét neutraal: je kan er fantastische dingen mee doen, maar het kan gruwelijke gevolgen hebben voor mens en milieu. De impact op de samenleving is véél te groot om technologie enkel aan ingenieurs en IT’ers over te laten.”

“Het gaat ons allemaal aan. Ook de sociale en politieke wetenschappers. Ook de filosofen. Ik wil bruggen bouwen tussen exacte wetenschappers, computerwetenschappers en humane wetenschappers. Hoe meer disciplines en hoe meer invalshoeken, des te beter we technologie gaan maken.”

Lessen ethiek voor ingenieurs

Onze dubbelzinnige houding tegenover technologie is niet nieuw, zegt Mark Coeckelbergh. Zelfs de romantici van de late achttiende en vroege negentiende eeuw worstelden er al mee, schreef hij in zijn laatste boek. “Ze zetten zich af tegen technologie, maar waren er tegelijkertijd door gefascineerd. Nieuwe technologieën oefenden een onweerstaanbare aantrekkingskracht uit. Dat is vandaag niet anders, alleen zijn de maatschappelijke gevolgen van technologische vooruitgang steeds voelbaarder en zichtbaarder geworden. Maar robotica en artificiële intelligentie maken ons minstens wantrouwig, terwijl ze ook een bron van verwondering en zelfs magie zijn. Ik ben niet tégen techniek, maar ik stel me wel vragen over wat ze teweeg zal brengen.”

Daarom pleit Mark Coeckelbergh er samen met andere academici voor om ethiek al vroeg in de technologische opleidingen te integreren. “Nu zien ingenieurs, IT’ers en andere technische profielen zichzelf vooral als pure technici die dingen maken. Maar ze zijn veel meer dan dat: ze lossen problemen op, ze doen iets wat maatschappelijk relevant is. Wat ze maken, houdt risico’s en gevaren in, maar kan de wereld ook béter maken. Ethiek gaat niet alleen over het slechte, maar ook over het goede. Ik wil niet alleen maar met het waarschuwende vingertje zwaaien, maar mensen ook bewust maken van de geweldige dingen die technologie voor ons kan doen.”

“Die ethische reflex is cruciaal”, vindt Coeckelbergh. “We moeten goed nadenken over de gevolgen van nieuwe technologie. Over de gewenste gevolgen, maar ook over de ongewenste gevolgen. Wetenschappers die met artificiële intelligentie bezig zijn, hebben waarschijnlijk nooit de ambitie gehad om killer robots te bouwen. Maar ze zijn er wel. Dikwijls is de techniek gelijkaardig. Een applicatie die mensenlevens kan redden, kan voor hetzelfde geld – en dat mag je letterlijk nemen – ook mensenlevens kapot maken. Dan is een pleidooi voor een ethisch debat toch niet zo vreemd?”

Mensen, machines en cyborgs

Moeten we dit ethisch debat voeren voor het te laat is, en robots slimmer dan mensen zijn en ons overvleugelen? Mark Coeckelbergh gelooft niet in die zogenaamde singularity. “Robots faken de appearance van mensen. Ik ben gaan kijken in het Intelligent Robotics Laboratory in het Japanse Osaka, dé place to be voor mensachtige robots. Maar in dat labo zie je weinig magie en vooral veel mechanica.”

“Robots lijken hoe langer hoe meer op mensen, maar ze vallen nog altijd behoorlijk snel door de mand. De wetenschappers achter die robots zeggen me dan dat ik het einde nog lang niet heb gezien, dat we nog maar aan het begin staan van de technologische vooruitgang. Dat zal wel zo zijn, maar ik geloof niet dat ze het menselijk brein volledig kunnen nabootsen. De fundamenten ontbreken.”

“Wij, mensen, weten dat we kwetsbaar zijn. We weten dat er voor ons iets op het spel staat”, gaat Coeckelbergh door. “Het maakt iets uit wat er met onszelf, met de mensen rondom ons en voor de meeste mensen ook met de wereld rondom ons gebeurt. Dat bewustzijn en dat existentieel belang kan je niet nabootsen. We zijn wie we zijn door een complex samenspel van lichaam en geest, én door interactie met anderen. Je kan wel expressie van emoties nabootsen. Maar je zal van een machine nooit helemaal een mens kunnen maken.”

“Maar natuurlijk gaan ze wel nog veel meer dan nu het geval is in elkaar overlopen. Technologie heeft altijd al een impact ons gehad – werktuigen waren de technologie van de oertijd – maar die invloed wordt intrusiever. Technologie dringt écht ons lichaam binnen, wat de ethische vraag hoe we die relatie tussen mens en technologie vormgeven steeds belangrijker maakt.”

“We voeren die discussie nu te vaak in termen van winnen of verliezen. Wie komt als sterkste uit de strijd? De mens of de machine? Maar daar gaat het niet over. Ik geloof niet in het beeld dat de mens overbodig is, of een slechte machine is die verbeterd moet worden. Dat is een misleidend beeld, de echte discussie moet gaan over hoe technologie ons leven en onze wereld beter kan maken. Waar we technologie wel en niet voor inzetten. Welke keuzes we maken.”

Killer robots

Hij is optimistisch over het ethisch debat dat momenteel wordt gevoerd rond nieuwe technologieën. “Het debat woedt volop. Ik zie steeds meer boeken en websites en lezingen over de ethische kant van technologische ontwikkelingen”, zegt Coeckelbergh. “Burgers confronteren bedrijven met de gevolgen van hun technologische producten en diensten. Ik ben in de Kamer gaan praten over autonomous lethal weapons, en was aangenaam verrast door de grote interesse van de volksvertegenwoordigers én door de grote consensus om die wapens te verbieden. Nu komt het erop aan om het maatschappelijke debat gelijke tred te laten houden met de technologische ontwikkeling. Om het niet tot een nieuwe wapenwedloop te laten komen.”

Als we naar Jemen of Syrië of andere brandhaarden kijken, is het dan niet naïef om te geloven in de ethische reflex van de wereldleiders? “Je kan de vraag ook omdraaien”, repliceert Mark Coeckelbergh. “Zoals technologie meer ethiek nodig heeft, heeft ethiek anno 2019 ook technologie nodig.”

“Technologie is een katalysator om bepaalde ethische en filosofische vraagstukken opnieuw aan te wakkeren. Dat momentum moeten we grijpen. Om technologie te verbeteren én om ethiek te verbeteren.”