Ik heb nooit geschreven over AI en de gevaren daarvan. Ik dacht dat het zo’n vaart niet zou lopen en dat wij mensen wel in staat zouden zijn om de risico’s te beheersen. Maar nu weet ik dat niet meer zo zeker. Zie wat Stijn Bronzwaer schrijft over techondernemer Joep Meindertsma:
De eerste keer dat hij huilt, is bij het zien van Auto-GPT. Een AI-programma dat zelfstandig het internet opgaat en webpagina’s opent. Software-ontwikkelaar Joep Meindertsma (33) zit thuis achter zijn beeldscherm in Utrecht, en dit is het moment waar hij al maanden voor vreest.
Huilen zal hij in de weken daarna vaker doen. Bijvoorbeeld als hij op familiebezoek gaat. Het gesprek gaat over zijn angsten. Dat iemand artificiële intelligentie (AI) gebruikt om ons financiële systeem plat te leggen. Het internet uit te schakelen. Lege supermarkten. Rellen. Chaos. En zijn grootste vrees: dat er een computersysteem komt waar de mens geen controle meer over heeft. Een wereld die door kunstmatige intelligentie wordt geregeerd. (NRC, 18 februari)
Joep Meidertsma is niet de enige die zich zorgen maakt. Vrijwel iedereen die zich met AI bezig houdt (onder wie Sam Altman en Greg Brockman, oprichters van Open AI, Elon Musk, voormalig Google topman Eric Schmidt, Ilya Sutskever, topwetenschapper bij OpenAI ) hebben dezelfde zorgen.*) Zij vrezen het punt waarop we geen controle meer hebben. Misschien is het mogelijk AI systemen onder controle te houden, als degenen die er mee werken alle van goede wille en verstandig zijn, maar dat is niet te verwachten. Het zijn mensen die de doelen stellen waarmee de systemen moeten werken, maar mensen maken fouten of zijn niet altijd te goeder trouw. Dat gebeurt nu al. Hoe dat werkt hebben we gezien in Gaza, waar met behulp van AI duizenden extra slachtoffers zijn gemaakt. En bedenk dat inaccurate systemen, voorlopers van AI, nu al existentiële schade hebben toegebracht: zie bijvoorbeeld de toeslagenaffaire, waarbij burgers door algoritmes onterecht als fraudeurs werden aangemerkt en levens verwoest werden; en het gebruik van gezichtsherkenningssoftware door de Amerikaanse politie, waarbij mensen onterecht in de gevangenis zijn beland. Enzovoort en zo verder.
Kortom, na de klimaat catastrofe, de atoombom dreiging, de democratie crisis en de afnemende biodiversiteit (ons uitsterfrisico) is er nu een nieuw gevarenterrein bijgekomen. Misschien nog geen code rood, maar toch wel minstens oranje. Wetgeving zal hiertegen niet helpen. Wetten worden altijd uitsluitend nageleefd door mensen die te goeder trouw of van goede wille zijn, maar niet door mensen voor wie winst boven alles gaat, en ook natuurlijk niet door criminelen.
Wat moeten we hier nu mee? Hetzelfde als wat we met de andere crisissen doen (zie mijn blog van 15 februari): het probleem onder ogen zien, werken aan onze persoonlijke en spirituele ontwikkeling en ons daardoor laten leiden, een toekomstideaal ontwikkelen, er met anderen over praten en vooral: geen gebruik maken van AI-systemen als we dat enigszins kunnen vermijden.
.
Bronnen: NRC 16 en 18 februari.
.
* ) Overigens verhindert dat Altman en Brockman niet om Open AI door middel van ChatGTP commercieel uit te buiten tegen een afspraak met o.a. mede oprichter Elon Musk in om dat niet te doen, maar Open AI alleen te gebruiken tot heil van de mensheid. Elon Musk heeft daarom nu een rechtszaak tegen hen aangespannen wegens contractbreuk. (Bron Eva Smal, NRC 3 maart).