Er zijn in de geschiedenis van de mensheid altijd perioden en momenten geweest waarin een veelheid van  mensen zich heeft onderworpen aan een externe autoriteit (God, priester, goeroe, demagoog), godsdienst, ideologie of hype ten koste van hun individuele autonomie. Ook heden ten dage zien we dat gebeuren. Het kan zich op massale schaal voordoen (nazisme, fascisme, communisme, godsdienst), of op kleinere schaal (goeroe’s, sektes). Het kan eeuwen duren (middeleeuwen), jaren, of enkele dagen of uren (bijv. in voetbalstadions of bij massademonstraties). Een merkwaardig aspect van dit verschijnsel is dat de mensen in een dergelijk proces in hoge mate hetzelfde gedrag vertonen en hetzelfde denken, maar vaak weinig diepgaand onderling contact hebben (zie bijvoorbeeld: Kurt Baschwitz, Denkend mens en menigte, 1940). Ze blijven relatief geïsoleerde individuen.

De interessante vraag die zich nu voordoet, zullen we ons ook op die manier gaan uitleveren aan de grote, zelflerende intelligenties die in de komende tijd zullen worden ontwikkeld? Zullen we ons in ons dagelijks gedrag laten leiden door de adviezen, of zelfs instructies die deze systemen aan ons voorleggen, met name als blijkt dat die adviezen en instructies veel sneller en veel effectiever tot voor ons heilzame gevolgen leiden dan we dat zelf kunnen doen?

Maar zal het echt zo zijn, dat die adviezen, instructies en ‘handelingen (via ‘cyborgs’) van die systemen altijd heilzaam zijn? Dat hangt van een paar dingen af. In de eerste plaats van hoeveel die systemen van ons weten. Het is nu al zo dat Facebook, Google, Amazon en dergelijk organisaties al meer weten over onszelf dan we zelf op een rijtje hebben, dus dat ze vaak beter lijken te weten wat we in bepaalde situaties moeten doen of kiezen dan wijzelf. Het valt te verwachten dat in de nabije toekomst dit nog verder geperfectioneerd gaat worden.

In de tweede plaats hangt het er van af hoe die systemen geprogrammeerd gaan worden. Wat is het doel waarnaar zij streven? Is het zo dat die systemen altijd werken tot heil van het individu of van de collectiviteit? En wat zullen de systemen doen als er tegenstrijdigheid ontstaat tussen de effecten van verschillende handelingen? Is het bijvoorbeeld geoorloofd mensen te doden om erger onheil te voorkomen, en waar ligt in dat geval de grens? (Een interessante case is aan de orde in het toneelstuk Terror, nog te zien in Juni 2018, zie https://www.ntk.nl/voorstelling/terror. Ook science fiction, zoals de roman Ik, robot, van Isaac Asimov, gratis uitgedeeld door Openbare Bibliotheken, laat zien waar die situatie toe kan leiden ).

Wat zal het worden? Zal de post-humane mens, de homo spiritus, meester blijven over de intelligentie-systemen, of zullen we er slaaf van worden (homo servus)? En in het laatste geval: wie zijn de meesters? De (super-)rijke bezitters van de systemen? Maar zij zijn niet in staat die systemen te programmeren. Dus misschien zijn het de weinige techneuten die deze systemen nog min of meer begrijpen, en ze min of meer kunnen programmeren die de werkelijke meesters zijn. In dat geval mag je hopen dat zij geen cyborgs zijn, want dan is de kans niet uitgesloten dat de zelflerende systemen de macht overnemen, en de techneuten zelf ook slaven worden.

Ik denk dat onze enige hoop gelegen is in de menselijke geest, waarin we dus allereerst moeten geloven, en die we dan vervolgens zo goed mogelijk moeten ontwikkelen. Die geest zal dan beseffen, dat moeilijkheden en pijn een onlosmakelijk deel uitmaken van het leven zelf, en dat we gemakzucht niet boven alles zouden moeten stellen en niet zouden moeten streven naar een uitsluitend soepel en gladjes verlopend bestaan. Een  dergelijk bestaan zou armoedig en leeg zijn. Als velen van ons zich dat realiseren, kan het zijn dat de toekomst niet is aan de systemen, maar aan de homo spiritus, die dan zelf kan beoordelen of, en in welke mate, die systemen bijdragen tot ons welzijn, en in hoeverre en op welke wijze hij van die systemen gebruik wil maken. Intussen raad ik u aan om uiterst kritisch te zijn met het toelaten van gadgets en apparatuur in uw huis of auto, en zeker in uw lichaam (of dat van uw kinderen!), die verbinding heeft met internet. U heeft die apparatuur al (bijvoorbeeld uw navigatiesysteem, thermostaat, telefoon of computer), dus u kunt er maar beter zeker van zijn dat die apparatuur niet op oneigenlijke wijze gebruikt wordt.

Verantwoording.

Deze blogs over KI zijn sterk geïnspireerd door: Dorien Pessers, Afscheidscollege op de VU, 7 juli 2017, zie De Groene Amsterdammer, 7 september 2017; het artikel van Christian Jongeneel in Het Technisch Weekblad van 8 dec. 2017: Kunstmatige intelligentie, van hype naar hype; en het boek van Yuval Noah Harari, Homo Deus, 2017.

Gaat kunstmatige intelligentie (KI) ons overheersen?

In een vorig blog (21 december) heb ik gesteld dat het antwoord op deze vraag mede afhangt van hoe we de mens zien: als een elektrochemisch systeem van algoritmen, of als een beest met geest, om Troelstra even te citeren.

In het eerste geval is een uiteindelijke overheersing door zelflerende systemen, zoals die nu al ontwikkeld worden door Google en Amazon, erg waarschijnlijk. Het is in dat geval namelijk heel gemakkelijk om een verbinding te maken tussen mens en machine (het virtuele systeem), door elementen van dat systeem in de mens te implanteren. In feite gebeurt dat nu al in de medische praktijk. Zo worden automaatjes geïmplanteerd, die bij suikerpatiënten de insuline afgifte reguleren, of pacemakers, die de hartritmes regelen. Het is een kleine moeite om die implantaten te verbinden met een virtueel systeem, dat dan vervolgens meer kan regelen dan hetgeen waarvoor die implantaten bedoeld zijn. Zo zullen er ook hersenimplantaten beschikbaar komen, die gestoorde hersenfuncties, als gevolg van een beroerte of herseninfarct,  kunnen overnemen. De volgende stap is dan dat ook meer gecompliceerde stoornissen, zoals Alzheimer, Parkinson of Multiple Sclerose op die manier kunnen worden verholpen. En als laatste niet ondenkbare mogelijkheid kunnen meer mentale hersenfuncties, zoals de gewetens- of wilsfunctie door implantaten worden aangestuurd. Dit is echter zo’n complex proces, dat dit alleen maar zal kunnen als die implantaten met een groot zelflerend systeem zijn verbonden. Voor die mensen is dan de overheersing door KI een feit. En het zou kunnen zijn dat dit zo ‘perfect’ werkt, dat niet alleen zieke mensen, maar ook gezonde mensen op dit soort systemen kunnen worden aangesloten. Het is denkbaar dat daar massaal gebruik van wordt gemaakt. De mensen hebben volgens deze visie immers geen vrije wil, dus als gezien wordt dat de systemen op het eerst gezicht effectiever en succesvoller zijn dan het per definitie beperkte menselijk brein, dan is de ‘keuze’ snel gemaakt. We gaan dan leven in een wereld die overheerst wordt door ‘cyborgs’ (cybernetic organisms): humanoïde robotten, oftewel de posthumane mens, de homo mechanicus.*)

Dit alles zou ook nog kunnen gebeuren via het ‘internet der dingen’. Er worden dan gadgets in je huis of in je auto geplaatst, die behalve datgene doen wat ze moeten doen (thermostaat, zelfsturende auto, enz.) ook opnemen wat er in je huis of in je auto gebeurt. Deze gegevens worden dan weer opgenomen door de zelflerende systemen, die op die manier nog weer meer over je te weten kunnen komen. Vervolgens kunnen vanuit die ‘dingen’ ook weer instructies gestuurd worden naar je hersenen – al zal dat nog vrij lastig zijn als er in je hersenen of elders in je lichaam niet een ‘ontvangsttoestel’ is geplaatst.

Als de mens echter een ‘beest met geest’ is met een vrije wil, dan ligt de zaak wat gecompliceerder. Weliswaar kan ook in dat geval de route van geest via hersenen naar bewustzijn en gedrag geblokkeerd worden door een virtueel systeem, maar dan wordt daar wel bewust voor gekozen. En het is heel wel denkbaar dat een aanzienlijk aantal mensen daar dan niet voor kiest. Zij zien dan willens en wetens af van de voordelen die aansluiting op het virtuele netwerk biedt, omdat ze niet door het netwerk gedomineerd willen worden. Zelfs is het denkbaar dat deze mensen op een bewuste wijze gebruik kunnen maken van KI, terwijl ze zelf meester blijven. Deze mensen zijn dan geen cyborg maar een verbeterde versie van de humane mens: de homo spiritus.**)

Welke kant zal het opgaan, en wat zullen in beide gevallen de consequenties zijn? Daarover in het volgende blog.

*) De term is van Dorien Pessers, Afscheidscollege op de VU, 7 juli 2017, zie De Groene Amsterdammer, 7 september 2017.

**) Yuval Noah Harari gebruikt hier de term: Homo Deus, de mens als scheppende God. Zie zijn boek met die titel, 2017.