Categoriearchief: Internet/IT

Code oranje.

Ik heb nooit geschreven over AI en de gevaren daarvan. Ik dacht dat het zo’n vaart niet zou lopen en dat wij mensen wel in staat zouden zijn om de risico’s te beheersen. Maar nu weet ik dat niet meer zo zeker. Zie wat Stijn Bronzwaer schrijft over techondernemer Joep Meindertsma:

De eerste keer dat hij huilt, is bij het zien van Auto-GPT. Een AI-programma dat zelfstandig het internet opgaat en webpagina’s opent. Software-ontwikkelaar Joep Meindertsma (33) zit thuis achter zijn beeldscherm in Utrecht, en dit is het moment waar hij al maanden voor vreest.
Huilen zal hij in de weken daarna vaker doen. Bijvoorbeeld als hij op familiebezoek gaat. Het gesprek gaat over zijn angsten. Dat iemand artificiële intelligentie (AI) gebruikt om ons financiële systeem plat te leggen. Het internet uit te schakelen. Lege supermarkten. Rellen. Chaos. En zijn grootste vrees: dat er een computersysteem komt waar de mens geen controle meer over heeft. Een wereld die door kunstmatige intelligentie wordt geregeerd. (NRC, 18 februari)

Joep Meidertsma is niet de enige die zich zorgen maakt. Vrijwel iedereen die zich met AI bezig houdt (onder wie Sam Altman en Greg Brockman, oprichters van Open AI, Elon Musk, voormalig Google topman Eric Schmidt, Ilya Sutskever, topwetenschapper bij OpenAI ) hebben dezelfde zorgen.*) Zij vrezen het punt waarop we geen controle meer hebben. Misschien is het mogelijk AI systemen onder controle te houden, als degenen die er mee werken alle van goede wille en verstandig zijn, maar dat is niet te verwachten. Het zijn mensen die de doelen stellen waarmee de systemen moeten werken, maar mensen maken fouten of zijn niet altijd te goeder trouw. Dat gebeurt nu al. Hoe dat werkt hebben we gezien in Gaza, waar met behulp van AI duizenden extra slachtoffers zijn gemaakt. En bedenk dat inaccurate systemen, voorlopers van AI, nu al existentiële schade hebben toegebracht: zie bijvoorbeeld de toeslagenaffaire, waarbij burgers door algoritmes onterecht als fraudeurs werden aangemerkt en levens verwoest werden; en het gebruik van gezichtsherkenningssoftware door de Amerikaanse politie, waarbij mensen onterecht in de gevangenis zijn beland. Enzovoort en zo verder.

Kortom, na de klimaat catastrofe, de atoombom dreiging, de democratie crisis en de afnemende biodiversiteit (ons uitsterfrisico) is er nu een nieuw gevarenterrein bijgekomen. Misschien nog geen code rood, maar toch wel minstens oranje. Wetgeving zal hiertegen niet helpen. Wetten worden altijd uitsluitend nageleefd door mensen die te goeder trouw of van goede wille zijn, maar niet door mensen voor wie winst boven alles gaat, en ook natuurlijk niet door criminelen.

Wat moeten we hier nu mee? Hetzelfde als wat we met de andere crisissen doen (zie mijn blog van 15 februari): het probleem onder ogen zien, werken aan onze persoonlijke en spirituele ontwikkeling en ons daardoor laten leiden, een toekomstideaal ontwikkelen, er met anderen over praten en vooral: geen gebruik maken van AI-systemen als we dat enigszins kunnen vermijden.

Bronnen: NRC 16 en 18 februari.
.

* ) Overigens verhindert dat Altman en Brockman niet om Open AI door middel van ChatGTP commercieel uit te buiten tegen een afspraak met o.a. mede oprichter Elon Musk in om dat niet te doen, maar Open AI alleen te gebruiken tot heil van de mensheid. Elon Musk heeft daarom nu een rechtszaak tegen hen aangespannen wegens contractbreuk. (Bron Eva Smal, NRC 3 maart).

Internet, ramp of zegen? Aan ons de keus.

1 reactie

Voor het concert van ons koor (Bach’s Matthäus Passion op Palmzondag – wordt zeer de moeite waard!) zond ik onlangs een mail rond in mijn netwerk, waarbij ik de geadresseerden per ongeluk cc in plaats van bcc verstuurde. Terecht werd ik daarvoor op de vingers getikt. Ook de leden van ons koor mail ik als secretaris bcc. Maar eigenlijk doet het er niets toe. De Groene Amsterdammer had vorige week een bijlage over internetpolitiek. De conclusie van alle artikelen daarin laat zich in enkele punten samenvatten:

1. Alles op internet is in principe openbaar. Ook op beveiligde sites kan iedereen met een beetje computerverstand makkelijk inbreken. Of het nu gaat om medische gegevens, politieke voorkeuren, consumentengedrag, of wat dan ook, iedereen kan er in principe bij. Je zit al in de cloud, zelfs als je je gegevens niet in de cloud opslaat. Beveiliging is altijd ontoereikend, nog afgezien van het feit dat er altijd personen en instanties zijn die de regels zullen overtreden, zoals recentelijk apothekers medische gegevens hebben verschaft aan farmaceutische bedrijven. Zo zal het slechts een kwestie van tijd zijn als medische gegeven verstrekt worden aan verzekeringsmaatschappijen (ondanks het medisch beroepsgeheim). Dit is een willekeurig voorbeeld, maar dergelijke dingen komen algemeen voor. Ik zeg altijd, waar een regel is, is ook een overtreding – dat zit in de aard van het beestje mens.

2. Zowel overheid als het bedrijfsleven zullen alles doen om hun kennis over en invloed op de burger resp. de consument te vergroten. Daarom is de overheid ook niet geïnteresseerd in wetgeving die het gebruik van internet aan banden legt. Maar zelfs als die wetten er zouden komen, dan zullen ze niet gehandhaafd worden. Deels omdat men dat niet wil, deels omdat dat ook niet kan.

3. Als individuen of groepen de activiteiten van overheden en het bedrijfsleven op internet aan de kaak stellen, door werkwijzen en gegevens openbaar te maken, dan worden ze beschouwd als criminelen, die jarenlange (soms zelf levenslange) straffen boven het hoofd hangen. Bovendien wordt het onmogelijk die personen financieel te steunen, omdat ze drastisch afgesloten worden van alle betaalsystemen: banken, Google, Apple, Microsoft, Paypal, Ideal, en zo meer. Je zou ze ook niet cash kunnen betalen, omdat ze juridisch worden vervolgd en dus onzichtbaar moeten blijven. Dit is bijvoorbeeld WikiLeaks overkomen. Dus vergeet degelijke onderzoeksjournalistiek of transparantie.

Intussen neemt het aantal zaken waarin je door je Wifisignaal gespot wordt hand over hand toe (Dixons, Mycom, iCentre; zie column van Bas Heijne in NRC/Handelsblad van afgelopen weekend). Hoezo privacy?

Wij zijn dus helmaal in de ban geraakt van het systeem. Dat was al vergaand zo voordat internet er was. Denk bijvoorbeeld aan de beroemde roman van Kafka, Het Proces, waarin de hoofdpersoon Josef K verstrikt raakt in de bureaucratie (is ons dat niet allemaal al op kleine schaal wel eens overkomen?). De samenleving is een complex systemisch weefsel dat we eigenlijk niet meer kunnen beheersen, laat staan veranderen, maar waar we allemaal de invloed van ondergaan. Is dit erg? Dit is eigenlijk een academische vraag, want we kunnen er feitelijk niets meer aan doen. We zijn veel te afhankelijk geworden van het systeem voor ons comfort en onze welvaart. En zolang we niet ten onrechte beschuldigd worden van een misdaad die we niet begaan hebben, of geweigerd worden door een verzekeringsmaatschappij of bij een sollicitatie op grond van geheime (medische) gegevens hebben we er weinig last van.

Ten dele kun je het ook positief bekijken. Nu er niets meer verborgen kan blijven is er op materieel gebied iets gerealiseerd dat op geestelijk gebied allang bestond. Geestelijk staan we al lang in open verbinding met elkaar. Teilhard de Chardin wees daar al op: we maken allen deel uit van de noösfeer: het web van kennis en weten dat de gehele aarde omspant. Het grote bewustzijnsweb dat we Chaia kunnen noemen. En ook tot die noösfeer kon je altijd al toegang verkrijgen, als je de sleutel kent. En ook vanuit die noösfeer kunnen mensen dingen van elkaar te weten komen die je liever voor je zou willen houden en elkaar manipuleren en gebruiken, door brainwashing, subtiele verleidingsmethoden ( reclame, demagogie), telepathie en magie.

Internet is de materiële neerslag van de noösfeer. Het is de ultieme eenwording van ons allen, en heeft de mogelijkheid in zich om ons bewust te worden van het feit dat we allemaal één zijn. Zoals Peter Russell dat al eens formuleerde: we zijn één ‘global brain’. Dit eenheidsbewustzijn hebben we broodnodig, als we de transitie willen doormaken van onze huidige wereld, waarin uiteindelijk alles spaak loopt, naar een nieuwe waardige wereld waarin we op een humane manier met elkaar en de natuur omgaan.

Maar die nutige werking zal het internet alleen vervullen als misbruik en manipulatie binnen de perken blijven. Manipulatie, controle, machtsmisbruik en uitbuiting zijn altijd al bedreigingen geweest voor een waardige wereld. Er is dus niets nieuws onder de zon, al worden onze mogelijkheden steeds groter, zowel ten goede als ten kwade. Aan ons de keus.

De transpersoonlijke ‘cloud’.

Geef een reactie

De onthullingen van Snowden over de spionage praktijken van de NSA hebben ons nog weer eens met de neus gedrukt op het feit dat de informatie op internet in feite openbaar is, want toegankelijk voor iedere regering en deskundige hacker. Mij persoonlijk kan het niet zoveel schelen, tot op de dag dat ik ten onrechte beschuldigd zal worden van een misdaad die ik een feite niet heb begaan. Ik heb namelijk niets te verbergen, behalve uiteraard die handelingen die ik niet verricht heb. Als die echter niettemin toch geopenbaard worden dan is daar verder weinig aan te doen, behalve een rechtszaak die tot mijn dood zal voortduren, en waarin de kans niet uitgesloten moet worden geacht dat ik postuum alsnog wordt vrijgesproken. Overigns is het een van de overwegingen waarom ik mijn persoonljke gegevens toch maar niet opsla in de cloud.

Maar ik zit met een ander probleem. Daarvoor eerst een kleine uitweiding. Aangetoond is dat onze hersenen veruit onvoldoende capaciteit hebben om al onze herinneringen (inclusief de bijbehorende beelden en emoties) te kunnen bevatten. Maar waar zijn zij dan opgeslagen? Sommige onderzoekers stellen dat het lichaam in zijn totaliteit de opslag is, maar daar is weinig bewijs voor en het lijkt me ook niet erg waarschijnlijk – en overigens geloof ik dat de capaciteit dan nog onvoldoende is, aannemende dat alle geheugeninhoud niet systematisch over alle lichaamscellen verdeeld is. Waarschijnlijker lijkt het me dat ons bewustzijn is opgeslagen in een soort geestelijke of transcendente ‘cloud’ die zich niet als materie maar als een soort informatieveld in, maar vooral ook buiten ons lichaam bevindt. Dat komt dus zeer dicht bij het begrip noösfeer, waarover Vladimir Vernadski als eerste gepubliceerd heeft, en dat bekend is geworden door het werk van Teilhard de Chardin.

Als dat zo is heeft dat een paar interessante en verreikende consequenties. In de eerste plaats betekent het dat als ons lichaam sterft, dat niet noodzakelijkerwijs betekent dat ons bewustzijn ook sterft. Dit komt overeen met de bevindingen van Pim van Lommel aangaande bijna doodservaringen (BDE), waarbij is aangetoond dat het bewustzijn nog kan voortgaan terwijl de hersenactiviteit is gestopt. In de tweede plaats betekent het dat we niet onze hersenenen zijn, maar dat de hersenen meer kunnen worden gezien als een radio-ontvanger die informatie van elders doorgeeft. (Hoe zo geen vrije wil?). Ten derde betekent het dat deze ‘cloud’ in principe voor iedereen toegankelijk is. Je kunt er vergif op innemen dat er een tijd komt waarin we net zo makkelijk toegang kunnen verkrijgen tot elkaars bewustzijn, als nu tot elkaars gegevens op internet – waarschijnlijk veel makkelijker.

Dat zal dan de realisering zijn van de werkelijke globalisering, de werkelijke eenheid, de evolutie van Gaia naar een hoger niveau van bewustzijn. Ik kan absoluut niet overzien wat dat betekent. Wat het in elk geval zal betekenen is dat ik geen geheimen meer kan hebben, voor niemand, zelf niet als ik dood ben. En of ik dat nou zo leuk vind . . . ;(

Internet en de wet van Murphy

1 reactie

Als er iets mis kan gaan, dan gaat het ook een keer mis. Dat is de Wet van Murphy, die zijn geldigheid al menig keer heeft bewezen, en ook logisch is te onderbouwen.

De afgelopen weken waren er voortdurend storingen in het betalingsverkeer op internet. In de VS, en in Nederland, vooral rond ING, maar ook andere banken en het betalingsverkeer via Ideal hadden er mee te kampen. De meeste storingen werden veroorzaakt door DDoS (Distributed Denial of Service) – aanvallen met behulp van duizenden wereldwijd besmette pc’s, maar het is de afgelopen maanden ook een paar keer voortgekomen dat een website was gehacked. Ook had met name ING intern een fout gemaakt bij het upgraden van software. Niet alleen banken, ook sociale netwerken zoals LinkedIn, webwinkels en overheidssites worden voortduren aangevallen en gehacked en dan kunnen wachtwoorden of persoonlijke gegevens worden gestolen. Dit is niet te voorkomen, net zomin als inbraken en andere criminaliteit. Er worden wel maatregelen tegen genomen, maar die zullen altijd een slag achter lopen bij de vindingrijkheid van slimme schooljongens, hackers en internetcriminelen. Het schijnt dat sommige internet wandaden net zo makkelijk te begaan zijn als het bekrassen van een geparkeerde auto, en de pakkans is, als je het goed doet, zeer klein. Je kunt de gereedschappen voor deze activiteiten gewoon op internet kopen.

Het verschil met ‘gewone’ criminaliteit is dat internet criminaliteit maatschappelijk zeer ontwrichtend kan werken. Bij werkelijk grote, langdurige storingen die het gehele internet of een groot deel ervan omvatten, kan het uiterst gecompliceerde radarwerk dat we in deze samenleving gecreëerd hebben knarsend tot stilstand komen. Dit betreft niet allen het betalingsverkeer, maar uiteindelijk alle verkeer waar software en logistiek een rol bij speelt – dat is vandaag de dag bijna alles: voedselvoorziening, electriciteits- en waterlevering, transport, handel – alles. Zoals Maarten Schinkel kopte boven een column in NRC/Handelsblad: ING houdt een oefening voor de Apocalyps.

In IT-kringen is men bezig zich hiertegen te wapenen met slimmere beveiligingssystemen en meer beveiligde backups. Daar is op zichzelf niets mis mee, maar het zal het probleem niet oplossen, omdat de oplossing bewerkstelligd wordt met dezelfde middelen als waarmee het probleem gecreëerd is: meer complexiteit, meer IT. En zoals Einstein al zei; je kunt een probleem niet oplossen als je blijft denken op hetzelfde niveau, of op dezelfde manier als waarmee je het probleem geschapen hebt. De ‘oplossing’ is zelf kwetsbaar. Er is een nieuw niveau van denken nodig. Maar om daar te komen moet eerst het probleem in volle omvang onderkend worden, en zoals met zoveel problemen in deze samenleving: daar wringt de schoen. Het probleem is zo bedreigend dat met name beleidsmakers het niet onder ogen willen zien. De mogelijke gevolgen van een internet catastrofe worden bij mijn weten dan ook niet echt onderzocht.

Ik heb natuurlijk ook niet de volledige oplossing in handen, maar ik wel een idee over in welke richting men moet denken. Naast de virtuele back-up systemen zouden er weer fysieke backupsystemen moeten komen en scenario’s hoe die snel in werking kunnen worden gesteld. Hoe kunnen we bijvoorbeeld in ons meest noodzakelijke voedsel en drinkwater voorzien zonder internet? Hoe kan het betalingsverkeer en de handel plaats vinden buiten de electronica om (door bankbiljetten zou ik zeggen, zoals onlangs gebeurd is toen de banken in Cyprus van extra geld moesten worden voorzien). De oude sok en het spaarvarken, waarin we het geld kunnen bewaren, worden dan weer in ere hersteld. Enzovoort.

Ik pleit niet voor het afschaffen van internet – dat doen we toch niet, omdat het immense voordelen biedt. Maar een beetje voorbereid zijn op de kladderadatsch ervan kan geen kwaad. Dat geldt voor onze overheid, ons bedrijfsleven, maar misschien ook wel voor jou persoonlijk. Het is aan jou, of je een voorraadje water, of een waterzuiveringsapparaat in huis wilt hebben, wat extra bankbiljetten, een noodvoorraadje voedsel. Als er iets mis kan gaan, dan zal het ook mis gaan, dat zouden we zo langzamerhand toch wel moeten weten.

Gehacketak. . .

1 reactie

Mijn Twitter account is dezer dagen twee keer achter elkaar gehacked. Ook de Twitter account van de Hope Flowers School was gehacked. En ondanks een spamfilter (dat niet zo sterk is dat ik de email die ik wel wil ontvangen niet meer kan ontvangen) krijg ik voortdurend spam, met name schijnmailtjes van mijn bank die me vragen gegevens op te sturen (Phishing). Een ander voorbeeld zijn brieven met zielige familiegeschiedenissen of schijnbare zakenpartners, die je vragen een erfenis vrij te maken of met ze in zee te gaan, met miljoenenwinsten in het vooruitzicht. Dat is allemaal uitermate vervelend, al betekent het niets in het licht van de Eeuwigheid.

Maar wat ik me afvraag, wat of wie zit daar nou achter? Van phishing en de verkapte zakelijke voorstellen kan ik me nog voorstellen dat het gedaan wordt, het is gewoon een poging tot diefstal, en kan, indien je er op in zou gaan, de afzender veel geld opleveren. Bij het hacken van mijn Twitter accounts kan ik me echter niets voorstellen. Het wordt gedaan met behulp van automatische programma’s, en levert voor zover ik kan nagaan geen geld op, alleen ergernis bij de betrokkenen. Wat bezielt iemand om dat uit te denken? Misschien plezier in sabotage en het wekken van ergernis (dat zou dus een vorm van sadisme zijn) – ik ben psycholoog maar op dit soort vragen heb ik geen antwoord.

Ik twitter en gebruik Facebook met een doel: mijn inzichten kenbaar te maken aan een groter publiek. Dit blog heeft trouwens een soortgelijke functie. Waarom doe ik dat? Omdat ik uit ervaring weet dat mensen met mijn inzichten hun voordeel kunnen doen. Dat hebben ze me vaak laten weten. En ook omdat ik vind dat wij ouderen in deze samenleving onze stem moeten laten horen. En tenslotte verbeeld ik me, dat ik met mijn inzichten kan bijdragen, als het maar een heel klein beetje, aan een meer waardige wereld. Daarom heb ik ook mijn boek geschreven: Voor niets gaat de zon op – een blauwdruk voor een waardige wereld.

Al die spam, en vooral het hacken van mijn accounts maakt dit werk lastiger. Daarom beschjouw ik het werk van hackers en spamverstuurders niet als iets onschuldigs. Het is een uitvloeisel van het kwaad dat in ons allen aanwezig is, maar dat de meesten van ons in onschadelijke banen weten te leiden. Misschien ligt daarin dan ook de functie van hacken en spammen: het brengt het kwaad tot aan je drempel. zodat je ervan kunt leren, en het kan herkennen in jezelf waardoor je je kunt ontwikkelen tot een gelouterd, weerbaarder en wijzer mens. Een mooie gedachte – maar echt weten doe ik het natuurlijk niet.