Postmenselijke ethiek, zijn we er klaar voor?

Door Gerrit-Jan Wielinga en Bob Overbeeke, 23 October 2007

Als door exponentiële technologische groei de komende decennia kunstmatige intelligentie de natuurlijke intelligentie in capaciteit gaat overtreffen, dan zouden wij nu al kunnen gaan nadenken over de gevolgen die het zou kunnen hebben voor de mensheid.

Onze beschavingen zijn gebaseerd en worden beheerst door ethiek. Hoe we met elkaar omgaan hangt grotendeels af van wetten, regels en sociale mores: moraal. Moraal heeft een belangrijke functie voor mensen omdat het een omgeving creëert waarin ons overleven als soort grotendeels gewaarborgd wordt. Daarbij beïnvloedt de moraal op een persoonlijk niveau ons bewustzijn. Maar je zou het ook kunnen omdraaien: zonder bewustzijn geen moraal.

Ontsnappen aan onze schedel
De meest geavanceerde intelligentie die we nu kennen is opgesloten in onze schedels. Onze hersenen kunnen informatie opslaan, verwerken en inzetten. Een grote (r)evolutie in de ontwikkeling van de mensheid was het moment waarop we 50.000 jaar geleden taal zijn gaan ontwikkelen. Door deze ontwikkeling is het mogelijk om op abstract niveau na te denken en onze gedachten aan anderen over te brengen. Door het taalgereedschap is de mens in staat geweest zich te ontwikkelen. Dit in tegenstelling tot alle andere dieren. Nu we op het punt staan buiten onze natuurlijk gevormde hersenen te treden en intelligentie op een kunstmatige manier vorm te geven, komen de meest buitenissige vragen op. Eén ding is zeker: niets zal blijven zoals het was.

Wikipedia heeft twee betekenissen voor het woord bewustzijn:

a) waaktoestand in tegenstelling tot slaap

b) de subjectieve reflectie van indrukken uit de buitenwereld: weten wat je ziet, hoort of voelt en daarover kunnen vertellen, of eigen mentale processen: weten wat er in je omgaat en daarover kunnen vertellen.

De intelligentie van de mens is voornamelijk gebaseerd op het herkennen van patronen. Door patronen te herkennen zijn we in staat om deze te duiden en daaruit onze conclusies te trekken waarop we dan vervolgens ons gedrag kunnen afstemmen. Hoewel deze leercurve zich niet altijd ontvouwt in een positieve, op de toekomst gerichte vorm, kunnen we wel stellen dat we door dit leerproces weten wat goed en kwaad is, en met een beetje mazzel ook alle tussenvormen. Door bewustzijn en de daar uitvloeiende moraal heeft de mens zich weten te ontwikkelen tot de dominante soort op aarde. De grote vraag in de toekomst, naarmate kunstmatige intelligentie zich verder gaat ontwikkelen, is: heeft kunstmatige intelligentie bewustzijn en kan kunstmatige intelligentie moraal gaan vertonen en hoe pakt dit uit voor de mens?

Flexibele moraal
We spreken pas van intelligentie als het wezen of object van zichzelf kan leren en op grond van deze lessen zichzelf kan corrigeren zodat het de grootste kans van overleven heeft. Bij de menselijke soort strekt dit vermogen zich ook uit naar de soort zelf. Iedereen kent voorbeelden van mensen die hun eigen leven op het spel zetten voor anderen. Door een brandend huis in te rennen om twee kinderen te redden kan een brandweerman zijn eigen leven verliezen, maar als hij het huis niet in rent dan is het vrijwel zeker dat de kinderen de brand niet overleven. Een kwestie van calculatie waar de brandweerman op is getraind.

Een ander voorbeeld is dat van de Nazi’s in de tweede wereldoorlog. Om hun eigen soort (het Arische ras) de grootste overlevingskans te geven moest een andere soort, het Joodse, worden uitgeroeid. De rationele manier waarmee dit gebeurde is niet alleen tekenend voor hoe (immoreel) intelligentie ingezet kan worden maar geeft ook aan dat de mens flexibel genoeg is om zijn eigen moraal in vrij korte tijd te veranderen. De oude Grieken hadden een andere moraal dan wij en onze moraal is een andere dan pakweg tien jaar geleden.

Afgezien van onze eigen veranderende moraal kunnen we de vraag stellen wat voor moraal we verwachten van de door onszelf geschapen intelligentie die, omdat het zichzelf dingen kan leren buiten de grenzen van een schedel, verwacht wordt vele malen intelligenter te worden dan we ons kunnen voorstellen.

Op dit moment zijn er door de Verenigde Staten 5.000 robots met een kleine mate van kunstmatige intelligentie ingezet in Afghanistan en Irak. Het betreft voornamelijk robots die verkennend werk doen maar het is goed mogelijk dat deze robots op termijn worden uitgerust met wapens. In hoeverre zullen deze robots in de toekomst uitgerust worden met keuzebevoegdheid en op grond van welke variabelen? Kunnen we überhaupt moraal bedenken voor intelligentie die in andere concepten denkt dan wij?

Vriendelijke kunstmatige intelligentie
Tijdens de Singularity (de technologische creatie van intelligentie slimmer dan menselijke intelligentie) conferentie in San Francisco in september dit jaar waren er geluiden die opriepen om kunstmatige intelligentie zo te ontwerpen dat er een vriendelijke kunstmatige intelligentie zou kunnen ontstaan. Vriendelijk voor mensen wel te verstaan. De vraag werd gesteld of het mogelijk zou zijn om dit in te bouwen. En wanneer ‘vriendelijk’ vriendelijk is?

Daarbij: is vriendelijk wel wenselijk? Kunstmatige intelligentie kan ons helpen om beslissingen te nemen die ook op lange termijn goed uitpakken. Door bijvoorbeeld tijdelijk emotie, ego en zelfbelang uit te schakelen en door miljarden scenario’s van een beslissing door te rekenen. Maar beslissingen die goed zijn voor het menselijke geluk en welzijn op lange termijn vergen soms harde maatregelen op korte termijn. Vriendelijke kunstmatige intelligentie zou dus grenzen kunnen stellen om ons tegen onszelf te beschermen, zoals een strenge maar goedbedoelende vader zou doen. Is dat wat we willen en zullen we dit van machines accepteren?

Naarmate we kunstmatige intelligentie meer en meer toepassen in ons dagelijkse leven komen soortgelijke vragen vaker voorbij. Wordt de toekomst Techno Hemel of Techno Hel?

In de mix
Het is een menselijke gewoonte om alles om ons heen te interpreteren naar de menselijke maat. Daarom zijn sommige honden slim en andere honden lui of allebei. Hoe dit wordt als we dagelijks met robots omgaan die niet alleen onze taal spreken maar ook al onze behoeften in de gaten houden en voor ons zorgen, daar hoeven we niet naar te gissen. Of we deze robots zullen gaan herkennen als wezens met een eigen bewustzijn en een (eigen) moraal dat zal voor een groot deel afhangen van onze eigen moraal en ons eigen bewustzijn. Een andere ingang is: als we machines menselijke eigenschappen geven, ontwikkelen ze dan vanzelf een menselijke moraal?

Ray Kurzweil, de profeet van de posthumanisten, voorspelt dat we deze technologie voor een groot deel in ons lichaam gaan inbouwen en dat we dus zelf een deel van de technologische toekomst zullen zijn. Een veel aangehaalde uitspraak van hem is dan ook ‘Zij (de robots) zijn wij’. Eén grote mix van mensen, computers en kunstmatige implantaten. En dus dat deze toekomst het bewustzijn en de moraal zal hebben die we zelf nodig achten.

Dit artikel is het derde van vier artikelen over Singularity. De eerdere delen zoomden in op de Singularity Conferentie in San Francisco, september 2007 en de verschillende stromingen van Singularity. Deel vier zal de bedreigingen en uitdagingen van kunstmatige intelligentie behandelen.

Links:

Creating Friendly AI door het Singularity Institute
Friendy AI volgens Wikipedia
Why We Need Friendly AI door Eliezer Yudkowsky
Knowability Of Friendly AI door Eliezer Yudkowsky
Ethical and moral issues regarding AI
Ethical & Social Implications of AI
Philosophy of artificial intelligence volgens Wikipedia
Three Laws of Robotics volgens Wikipedia
3 Laws Unsafe
Gelernter and Kurzweil debate machine consciousness

Een bijdrage van Gerrit-Jan Wielinga en Bob Overbeeke

Gerrit Jan Wielinga is schrijver en free-lance journalist. Bob Overbeeke is business developer bij XS4ALL en schrijft voor www.netr.nl.