20. Kunstmatige intelligentie

Een cybercrimineel die werkt onder het hacker-alias Neo heeft het idee dat er iets niet klopt met de wereld. Door toeval komt hij in contact met Morpheus. Deze vertelt hem dat ze in een schijnwereld leven. Morpheus weet uit verhalen dat ergens aan het begin van de 21ste eeuw een oorlog is ontstaan tussen mensen en intelligente machines. Om de energiebron van de machines te blokkeren verduisterden de mensen de aarde. Maar de machines leerden menselijke energie als bron te gebruiken, en ze creëerden een computersimulatie van de werkelijkheid om de mensen onder controle te houden en hun energie te oogsten: De Matrix.
Morpheus biedt Neo de keuze uit twee pillen. Neemt hij de rode pil, dan zal hij uit de matrix gewekt worden. Neemt hij de blauwe pil, dan zal hij alles van deze ontmoeting vergeten.

Dit is het begin van The Matrix, een film uit 1999 van The Wachowskis.

Er zijn veel boeken en films met als thema het moment waarop kunstmatige intelligentie (AI), robots of computers slimmer worden dan mensen. Soms gaat het over cyborgs of androïden (mensachtige entiteiten) die emoties en sympathieke eigenschappen krijgen, zoals in de films Blade Runner waar androïden onverwacht menselijke gevoelens en een bewustzijn ontwikkelen en daarom ‘met pensioen’ moeten (een eufemisme voor uitgeschakeld worden). Of de film AI: Artificial Intelligence waarin de ouders van een kind dat schijndood in het ziekenhuis ligt een bijna menselijk robot krijgen die hun zoon gaat vervangen. In andere films worden machines echter boosaardig, gaan ze de strijd aan met mensen en willen ze overheersen. Deze fantasieën over hoe machines slimmer worden dan mensen zijn voor een deel ingegeven door de Wet van Moore uit 1965 [1], die stelde dat de transistorcapaciteit elke 12 maanden zou verdubbelen. In 1975 werd de voorspelling bijgesteld tot een verdubbeling in elke 24 maanden. Hoe dan ook, dit zou dit een exponentiële groei van technologische vooruitgang betekenen. Vernor Vinge schreef in 1993 een essay Singularity [2] waarin hij beargumenteert dat de exponentiële groei van wetenschap en technologie vóór 2030 zal leiden tot de creatie van entiteiten met een intelligentie die groter is dan die van de mens: het moment van singulariteit. Ray Kurzweil, uitvinder en ondernemer die zich bezighoudt met AI en singulariteit, voorspelt 2045 als jaar waarin dit bereikt zal worden.

Fundamentele limieten aan de mogelijkheden van computers en algoritmen
Terug naar ons verhaal over de ontdekking van de samenhang, want het zijn zeker prachtige boeken en films over kunstmatige intelligentie en we zijn er dol op, maar wellicht wordt het tijd voor andere fantasieën. Computers worden inderdaad steeds krachtiger en sneller, en ook de ontwikkelingen van algoritmen gaan steeds sneller, maar dat is niet hetzelfde als intelligent worden. Het blijven machines. Kunstmatige intelligentie is niet intelligent en kan ook niet intelligent worden. Rodney Brooks laat in The Seven deadly sins of AI predictions [3] aan de hand van zeven misvattingen over het voorspellen van kunstmatige intelligentie op overtuigende wijze zien dat er beperkingen zijn voor wat betreft de mogelijkheden van AI. De Wet van Moore bijvoorbeeld gaat inmiddels al niet meer op. De ontwikkelingen gaan trager. En ook andere voorspellingen uit het verleden over AI zijn niet uitgekomen of ze hebben een geheel andere wending genomen. Het is allemaal indirect bewijs voor de grenzen aan de mogelijkheden van AI.
Er zijn echter ook fundamentele limieten. Laten we kunstmatige intelligentie bekijken vanuit het perspectief van emergentie en creativiteit. Alle huidige computers, AI en machine learning werken met 0 of 1. Die nullen en enen moeten heel stabiel zijn. En dat zijn ze ook. Slechts incidenteel komt het voor dat de elektrische of magnetische lading die een 1 of 0 vastlegt onbedoeld vervalt. In een programma kan zo’n verval leiden tot hinderlijke fouten. Het is een oorzaak van programma ‘bugs’. Dit wordt wel bitrot, data rot, bit dacay of data decay genoemd. Maar stel een computer is perfect stabiel. Dan produceert het een perfect stap-voor-stap proces dat werkt met 1 of 0; zelfs wanneer AI gebruikt maakt van wegingen in neurale netwerken. Terwijl voor de ontwikkeling (of het bedenken) van nieuwe dingen (dit is de creativiteit) juist verrassing nodig is. In de echte wereld is dat goed geregeld met behulp van superpositie – de onbepaaldheid – die bij interactie vervalt tot één van vele mogelijkheden die er vooraf waren. Toeval (waarschijnlijkheid) is een factor. Dat wil niet zeggen dat er altijd wanorde ontstaat, want de ineenstorting van verstrengeling kan onder specifieke condities van downward control zelforganisatie mogelijk maken.

Theoretisch kunnen kwantumcomputers wel werken met superpositie en verstrengeling. Daardoor kunnen ze veel snellere berekeningen maken. Een kwantumcomputer ‘ziet’ alle mogelijke opties tegelijk en ‘weet’ dan welke de meest passende optie is. Ann Dooms, professor wiskunde aan de Vrije Universiteit Brussel, gebruikt de metafoor van een doolhof [4]: ‘Als je een klassieke computer de taak geeft de weg uit een doolhof te vinden, gaat die één voor één alle mogelijke opties af. Als je veel geluk hebt, gaat dat snel, anders duurt het bijzonder lang. Bij een kwantumcomputer is het alsof die een gas door het doolhof jaagt, dat zich meteen overal verspreidt. De gasdeeltjes die het eerst de uitgang vinden, geven het kortste pad aan. Dat zal allemaal veel sneller gaan dan klassiek.’ Maar er zijn nog geen kwantumcomputers. En we weten niet hoe ze eruit zullen zien en hoe ze zullen werken als ze er zijn. Bovendien moeten de verstrengelingen van kwantumcomputers heel stabiel zijn om berekeningen te kunnen uitvoeren. Zo probeert men het toeval zo veel mogelijk uit te sluiten………!

Geen zorgen dus over ‘slimme machines’? Toch wel. Computeralgoritmen, voeren opdrachten uit waarvoor ze door de makers geprogrammeerd zijn. Dat kunnen twijfelachtige opdrachten zijn zoals bij toepassingen in wapensystemen. Maar het kunnen ook goedbedoelde opdrachten zijn die volledig uit de hand lopen. Een bekend gedachte-experiment is de opdracht aan een zelflerend systeem om het getal pi te berekenen met zoveel mogelijk cijfers achter de komma. Stel het betreft krachtige machine learning. Stel er ontstaat, bewust of per ongeluk, connectie met andere computers. Dan kan het systeem deze overnemen om de rekenkracht daarvan in te zetten voor zijn eigen doel. Het zal proberen het hele internet te laten meewerken aan de berekening. En ook daarmee houdt het niet op. Het zal zoeken naar alle mogelijke manieren om meer macht te verzamelen om het doel te bereiken. Want dat is de opdracht. Ver gezocht? Natuurlijk denken de bouwers van kunstmatige intelligentie na over het inbouwen van veiligheidskleppen. Maar ondanks dat lijkt AI gevoelig voor zwarte zwanen (zie hoofdstuk 8).

Een interessant rapport over de impact van AI in onze maatschappij is de essaybundel Behoorlijk datagebruik in de openbare ruimte [5]. Deze bundel is geschreven op verzoek van de Nederlandse overheid. Experts schetsen de technische, sociale, juridische en ethische aspecten van datagebruik, algoritmen en kunstmatige intelligentie. Onderwerpen die in diverse bijdragen terugkomen zijn:

  • Het black box-probleem. Door de complexiteit is – ook voor experts – niet meer duidelijk hoe de uitkomsten van AI of machine learning tot stand gekomen zijn.
  • Waarschuwingen voor onvoorspelbare effecten. Door de extreem snelle ontwikkelingen en de enorme kracht van de systemen kunnen grote onverwachte nadelige gevolgen ontstaan.
  • Men vindt het belangrijk dat alle burgers meedenken over de plek van AI in onze maatschappij. Maar men erkent dat als zelfs experts moeite hebben met alle ontwikkelingen, hoe moeten niet-experts dan meedenken?

Wellicht kan systeemdenken helpen bij het omgaan met bovenstaande vraagstukken. Voor makers, toezichthouders en gebruikers. Het is hard nodig om beter te worden in het faciliteren van zelforganisatie en organisch bouwen.

Bewustzijn
Het gaat een beetje buiten het bestek van dit boek, maar het is te leuk om er niet over te fantaseren. Als het niet alleen met enen of nullen gaat, hoe werkt ons menselijk denken, onze intelligentie, dan wel? Je zou ‘denken’ kunnen bekijken in termen van zelforganisatie. Alles (materie, energie en informatie) is informatie, en alles lijkt samen te hangen door middel van verstrengelingen. Maar niet alles hangt op dezelfde manier samen, en er is voortdurend verandering. De superpositie van informatie en de variatie in verstrengelingen maakt dat er bij interacties steeds nieuwe patronen ontstaan, eenvoudig of zeer complex. Zoals we in hoofdstuk 14 zagen kan zelforganisatie kristallen vormen, of wervelstormen, maar ook organismen zoals planten en dieren. En ja, ook gedrag. In de sociale wetenschappen is het heel gebruikelijk om gedrag als een vorm van zelforganisatie te beschrijven. Welnu, zelfs primitieve planten en dieren vertonen vormen van gedrag. Eencellige pantoffeldiertjes zoeken bijvoorbeeld voedsel. Bij complexere dieren wordt gedrag complexer. Op een bepaald moment is het gedrag zodanig complex dat we het denken noemen. Overweeg een ‘gedachte’ eens als iets dat ontstaat door zelforganisatie en dat zich kan ontwikkelen en veranderen. Bewustzijn is dan een bijzondere en hogere vorm van denken. Bij dieren (en zuigelingen) is dit nog primitief ontwikkeld. Bij mensen (en opgroeien) wordt het complexer. Denken en bewustzijn is niet statisch, maar dynamisch. Analoog aan een zwerm vogels die zicht vormt en weer uiteenvalt kan denken zich vormen en weer verdwijnen. In de slaap staat het op een laag pitje en bij het wakker worden stijgt als het ware de zwerm vogels op en neemt de zelforganisatie, in dit geval het denken en het bewustzijn, een vlucht.
Let wel, bij deze visie bevindt het denken als vorm van zelforganisatie zich niet alleen in het brein, maar in het hele organisme met al zijn verbindingen. Ook de buitenwereld is er onderdeel van! Razendsnelle interacties tussen onszelf en buitenwereld vormen steeds nieuwe patronen. Dit lijkt op het filosofische begrip externalisme, en de ideeën van Riccardo Manzotti (filosoof en roboticus). In The Spread Mind [6] beschrijft Manzotti dat het bewustzijn zich niet alleen in het brein kán bevinden, maar dat het een en hetzelfde is als de fysieke wereld om ons heen. Er is geen verschil tussen de ervaring van de wereld en de wereld zelf, zegt hij. Daar kunnen wij het dus grotendeels mee eens zijn.

In het kort:

  • Computers kunnen weliswaar heel snel en krachtig zijn, en enorme hoeveelheden data verwerken, maar ze worden beperkt doordat ze alleen kunnen werken met ‘0 of 1’. Ze kunnen daardoor geen nieuwe dingen bedenken. Ze bezitten geen creativiteit.
  • Om de regie te houden over algoritmen en kunstmatige intelligentie is het nodig om beter te worden in systeemdenken.
  • Denken en bewustzijn kan gezien worden als een vorm van zelforganisatie waarvan zowel het brein als de buitenwereld onderdeel zijn.