Opinie: Angst voor superintelligentie? Je kan beter angst hebben voor superstompzinnigheid

Met de toenemende aandacht voor big data en AI wakkert de angst voor het onbekende aan. Heel wat prominente figuren zijn vooral bang dat deze technologische ontwikkeling zal leiden tot superintelligente machines die een bewustzijn krijgen en autonoom denken. Maar angst en massahysterie zijn vaak het gevolg van onwetendheid.

Doemscenario van kunstmatige superintelligentie

Zo ging de toenemende ontwikkeling in de ruimtevaart met de opkomst van horrorfilms over buitenaardse wezens die onze planeet willen veroveren. Ruimtevaartingenieurs behoorden niet tot de groep van angsthazen, vanuit hun discipline wisten zij hoe onwaarschijnlijk de kans is op een dergelijke hypothese is.

Vandaag zien we echter dat heel wat ingenieurs geloven in het doemscenario van kunstmatige superintelligentie. Spijtig genoeg lijkt dit vooral door onwetendheid te komen. Zoals onwetendheid over cognitiewetenschap, een relatief jonge tak van de wetenschap. Het is ook een interdisciplinaire onderneming tussen psychologie, neurowetenschap, informatica, linguïstiek en filosofie. Dat interdisciplinaire karakter maakt de discipline moeilijker toegankelijk en wakkert dus de onwetendheid aan.

Zachte versus harde AI

In het huidige debat over superintelligentie, vooral aangezwengeld door ingenieurs, worden bijzonder weinig relaties gelegd met inzichten uit de cognitiewetenschap. Zo zijn er in de jaren 80 en 90 boeiende gedachte-experimenten uitgevoerd door bewustzijnsfilosofen. Vanuit deze experimenten begrijpen we hoe AI niet zozeer creëert maar eerder transformeert. De vraag naar zelfbewustzijn en creativiteit noemen we de ‘harde AI’, terwijl het transformeren van intelligentie ‘zachte AI’ is. De meeste ingenieurs spitsen zich sindsdien toe op deze zachte vorm van AI maar maken tezelfdertijd zorgelijke bedenkingen over harde AI, zonder hiervoor enige wetenschappelijke basis te hanteren.

Samen met een handvol collega’s elders in de wereld worden experimenten bedacht om toch harde AI te onderzoeken. In zijn meest zuivere vorm doen we dit door zogenaamde ‘Artificial Life’ (A-Life) experimenten. Eind jaren 90 zijn het A-life experimenten met behulp van agent-based simulaties: virtuele werelden waar we bepaalde condities onderzoeken rond de evolutie van complex adaptieve systemen. Meer specifiek zetten we zelf een experiment op om creativiteit te onderzoeken.

Het resultaat is wat je als een anti-thesis kan benoemen. We tonen aan dat creativiteit afhangt van de complexiteit van de waarneming en de mogelijkheid tot actie. Als we met die kennis kijken naar technologische ontwikkeling wordt het doemscenario van superintelligentie bijna lachwekkend. Tegelijk worden we ons bewust van hoe natuurlijk AI is en van het grote gevaar rond een evolutie die al decennia in beweging is.

Dat inzicht werd verworven doordat het creatief mechanisme of feedback-systeem dat uit ons A-life experiment kwam ook in ander wetenschappelijk onderzoek opdook. Neurowetenschappers die onderzoek deden naar hoe creativiteit in de hersenen mogelijk is, beschreven immers hetzelfde feedback-systeem. Dat zorgde voor een sterke verificatie van het A-life experiment.

Steeds meer maatschappelijke relevantie

De grote verrassing kwam van de andere drie domeinen die over organisaties gaan. Antropologische studies naar hoe wetenschappelijk onderzoek verankerd zit in ons maatschappelijk weefsel beschreef het systeem ook. Gevorderd strategisch management onderzoek stelt zich de vraag hoe grote organisaties in snel veranderende omgevingen kunnen functioneren en ontwikkelen zo een gelijkaardig feedback-systeem. Tot slot ontstond een heel debat in methodologische onderzoek tussen het verschil en de gelijkenis van twee technieken: design research en action research. Uiteindelijk wordt ook daar weer het feedback-systeem beschreven.

Het A-life experiment is uitgevoerd in 2003, in de afgelopen 15 jaar hebben we de merkwaardige relatie met organisaties onderzocht. Hiervoor werd een vorm van actieonderzoek uitgevoerd met digitale gemeenschappen en de ontwikkeling van collectieve intelligentie. In de eerste jaren heeft dit weinig maatschappelijke relevantie, toch zien we hoe dit maatschappelijk steeds relevanter wordt en dan gebeuren er tal van doorbraken in 2011.

De meest gekende is de Arabische Lente: de conservatieve reactie die daarop volgde, was verrassend. Het lijkt alsof we hier eenzelfde patroon zien als de sociale beweging van eind jaren 60 en de conservatieve reactie in de jaren daarop. Wat we vanuit het ‘harde AI’ onderzoek begrijpen, is dat het over een natuurlijke evolutie van organisatievormen gaat.

Gevaar van superstompzinnigheid

De angst die we terecht mogen hebben, gaat dus over de superkracht die organisaties aan het realiseren zijn. In zekere zin niets nieuws onder de zon, we hebben vorige eeuw gemerkt wat dit op maatschappelijk vlak gaf. Toen ging het aardig mis met nationalisme. Vandaag gaat het aardig mis met kapitalisme. Het is dus verschoven naar privé-organisaties. De gevaren van big data en AI zijn nu al zichtbaar met de Facebook-schandalen en het manipuleren van de verkiezingsuitslag door Cambridge Analytica.

Wat me echter nog meer zorgen baart, is dat een puberende generatie vandaag blootgesteld is aan dopamine-verslaving van sociale media. Het baart zorgen omdat het kan leiden tot vermindering van zelfbewustzijn en autonomie. Voor ouderen is zoiets moeilijk voor te stellen, denk daarom aan hoe gebruik van gps leidt tot verlies van oriëntatie bewustzijn en trek die redenering nu door naar zelfbewustzijn. Hopelijk wordt zo het gevaar van superstompzinnigheid duidelijk.

Het creatief vermogen van organisaties is een maatschappelijke evolutie die niet te stoppen is en hoeft geen bedreiging te zijn voor ons zelfbewustzijn. Maar daarvoor is het wel noodzakelijk om een juiste cultuur te stimuleren. De invloed van cultuur binnen de digitale gemeenschap was juist waar het actie-onderzoek in de afgelopen 15 jaar naar keek. De cultuur bepaalt waar de zelforganisatie van een organisatie naartoe gaat, dat geldt zowel voor maatschappij als voor de bedrijfscultuur.

Opportunistische cultuur

Als onderzoeker trek ik daarom juist nu aan de alarmbel. De cultuur van de digitale gemeenschap in 2005 was humanistisch te noemen, de cultuur die ik in recent onderzoek bij start-up communities zag, is opportunistisch te noemen. Het is net deze opportunistische cultuur die we ook bij Cambridge Analytica herkennen.

Het is dezelfde opportunistische cultuur die in de financiële sector tot zoveel problemen leidde. We moeten begrijpen dat de natuurlijke evolutie naar superintelligentie door organisatievormen met of zonder humanisme kan. De vraag is: willen we onderworpen, onderdrukt of opgeheven worden door deze organisatievormen? Zolang de onwetendheid over deze natuurlijke evolutie ongekend blijft, kan het elke kant uitgaan.

De hardnekkigheid van deze onwetendheid heeft te maken met contra-intuïtief gedrag. Binnen de wetenschap is contra-intuïtief gedrag nu meer de norm dan de uitzondering omdat we intussen zo ver verwijderd zijn van onze natuurlijke wereld. Wel, door technologische vooruitgang zijn we ook ver verwijderd geraakt van natuurlijke organisatievormen. Heel wat van de crisissen en oorlogen uit de vorige eeuw zijn beter te begrijpen als we het relatief karakter van wat artificieel is goed begrijpen.

Om dat te verduidelijken, moeten we naar een eenvoudig voorbeeld kijken zoals een artificieel vacuüm. We weten dat vacuüm natuurlijk is in het universum, maar binnen een atmosfeer is het kunstmatig of dus artificieel. Gelijkaardig lijkt intelligentie erg natuurlijk binnen de hersenen, maar is het evengoed buiten de hersenen aanwezig in artificiële vorm.

Om de relatie tussen bewustzijn en cultuur te begrijpen is het nodig om naar merkwaardige fenomenen te kijken die psychologen ontdekten. In het bijzonder het concept van collectief onderbewustzijn en het merkwaardig concept van archetypes. We kennen archetypes heel lang in spirituele en religieuze context. Het werd echter begin vorige eeuw een middel om psychische stoornissen te vatten. We zien eind jaren 60, met een psychedelische revolutie, eveneens veel aandacht voor archetypes is.

Bedreiging voor het humanisme

In mijn eigen recent onderzoek komt naar boven dat elke organisatievorm een collectief onderbewuste heeft en dat we het naar een bewuste bedrijfscultuur kunnen brengen door ze als archetypes weer te geven. Er zijn nog maar een paar van deze experimenten gedaan, te weinig om enige wetenschappelijke conclusies te kunnen maken. De reden om vroegtijdig over het onderzoek te communiceren heeft te maken met de maatschappelijk urgentie.

Wetenschappelijke prognoses van wanneer we superintelligentie kunnen verwachten, gaan naar 2040-2050. De digitale cultuur van 10 jaar geleden was erg academisch, de huidige cultuur is zeer populistisch. De trend naar superstompzinnigheid lijkt nefast en een direct gevolg van onwetendheid. Als hier niet snel een omwenteling komt, kan de superintelligentie wel degelijk leiden tot een doemscenario.

De omwenteling kan door collectieve intelligentie, maar dat is in onze westerse cultuur contra-intuïtief. Dat is echter niet voor elke cultuur zo. Oosterse culturen zijn cultureel meer gewoon om collectief te denken, dat heb ik zelf mogen ervaren toen ik mijn onderzoek aan de universiteit van Beijing mocht toelichten. De geschiedenis leert ons hoeveel problemen totalitaire systemen hebben met humanisme. De dreiging die op ons afkomt, is dus een bedreiging voor het humanisme. Deze dreiging is hier en nu, ze komt op ons af van buiten (andere culturen) en van binnen (aanwakkering van opportunisme en populisme).

Digitaal humanisme

Het is niet allemaal kommer en kwel, er zijn genoeg ondernemende mensen die humanistisch zijn. Wel lijkt er een nood te bestaan om beter georganiseerd te worden en zodoende het digitaal humanisme terug de bovenhand te laten krijgen.We zien tal van lokale projecten die net dit beogen. Sommige puur technologisch, andere duidelijk politiek. Toch vandaag merk ik vooral eilandjes. Om tot een maatschappelijke doorbraak te komen, zullen de eilandjes tot een ecosysteem moeten komen. De oprechte vraag die ik mij daar als wetenschapper bij stel, is wat we kunnen doen om een dergelijke ecosysteem-dynamiek te realiseren.

Noot van de redactie: opinies vertegenwoordigen niet noodzakelijk de mening van Bloovi. Indien je het niet eens bent met de auteur of zelf een opinie wil schrijven, mail ons dan op redactie@bloovi.be