Kunstmatige superintelligentie: kunnen we een superintelligente geest in de fles houden?

De menselijk soort is zonder twijfel zeer succesvol. We zijn erin geslaagd de hele wereld te bevolken, van dorre woestijnen tot ijzige toendra's.

We hebben wilde dieren getemd en kunnen met onze wapens de grootste en sterkste wezens overmeesteren. We hebben geen natuurlijke vijand te vrezen en hebben geleerd te overleven in extreme omstandigheden. Al met al zou je kunnen zeggen dat wij in zekere zin de superieure soort van de planeet aarde zijn. Maar onze superieure positie is mogelijk in gevaar...

Voordat ik kan uitleggen wat onze positie bedreigd, moeten we kijken naar de belangrijkste kracht die ons heeft gebracht tot waar we nu zijn, onze intelligentie. De menselijke soort is, in tegenstelling tot andere soorten, in staat om op een zeer geavanceerde manier te denken. Wij zijn bijvoorbeeld in staat om dingen te onthouden en voorspellingen te maken, zodat we kunnen leren van het verleden en ons kunnen voorbereiden op de toekomst. Een ander belangrijk aspect van intelligentie is taal. Door taal te gebruiken, kunnen we informatie delen, zodat anderen kunnen voortbouwen op kennis die in het verleden is opgedaan. Deze vaardigheden hebben ons geholpen te overleven en te floreren. Al met al moeten we onze hersenen bedanken voor onze toppositie in het dierenrijk. Dankzij onze intelligentie zijn we erin geslaagd werktuigen te ontwikkelen die steeds complexer werden, van een primitieve bijl tot een smartphone. Momenteel staan we aan de vooravond van een enorme technologische revolutie. Sinds de ontwikkeling van de eerste computer volgden nog veel meer technologische innovaties. Het tempo van de ontwikkeling van innovaties begint steeds hoger te worden. De technologische vooruitgang neemt exponentieel toe, wat betekent dat deze vooruitgang binnenkort de pan uit zal rijzen. Toch neigen we het tempo waarin deze technologische vooruitgang voortschrijdt te onderschatten. Ik zal de reden voor deze onderschatting illustreren aan de hand van een metafoor:

"Als je korrels op de vakjes van een schaakbord legt, zodat het eerste vakje 1 korrel krijgt, het tweede 2 korrels, en het derde 4 korrels, enz. Hoeveel korrels liggen er dan op het schaakbord als je klaar bent?”

Het juiste antwoord is 18.446.744.073.709.551.615 korrels. Dit is veel meer dan je verwacht, toch? Hetzelfde effect zien we terug in onze kijk op technologische vooruitgang; we verwachten niet dat die zo snel zal toenemen. Dit betekent dat sciencefiction thema's zoals super intelligente robots die zelfstandig kunnen denken misschien wel dichterbij zijn dan we verwachten. Er bestaan al robots die zichzelf kunnen 'reproduceren' zonder dat er mensen aan te pas komen door gebruik te maken van genetische algoritmen. Maar wat als deze leuke technologische ontwikkelingen uit de hand lopen? Wat als de vooruitgang te snel gaat en we de grip erop verliezen? Wat als kunstmatige intelligentie (ook wel AI genoemd) intelligenter wordt dan wij? Nemen robots dan onze superieure plek in het dierenrijk over?

Volgens veel invloedrijke wetenschappers, zoals Nick Bostrom, een wetenschapper en filosoof op het gebied van kunstmatige intelligentie, is dit scenario zeer realistisch. Waarschijnlijk zullen computers ooit intelligenter zijn dan wij. Een voordeel van computers is dat ze in theorie een onbeperkte opslagcapaciteit hebben. Hele gebouwen kunnen gebouwd worden om de gegevens van de computer in op te slaan, terwijl onze hersenen maar een beperkte opslagruimte hebben, omdat ze in onze schedel moeten passen. Eén van de redenen waarom computers ons nog niet hebben ingehaald, is dat het een computer veel meer energie kost om te functioneren in vergelijking met onze hersenen. De hersenen hebben slechts 20 watt nodig om te functioneren (dat is minder energie dan nodig is om een gloeilamp te laten branden). Daarentegen heeft de snelste supercomputer (de USA’s frontier supercomputer) 21 miljoen watt nodig om te functioneren. Het is echter slechts een kwestie van tijd voordat de wetenschap een oplossing vindt voor het energieprobleem. Nick Bostrom moedigt collega-wetenschappers daarom aan een manier te ontwikkelen om kunstmatige intelligentie onder controle te houden voordat het te laat is. Hij adviseert een veiligheidsmechanisme te ontwikkelen voordat we geavanceerdere AI creëren. Je zou kunnen denken: "Nou, waarom zetten we niet gewoon een aan- en uitknop op superintelligente AI?". Het is helaas niet zo eenvoudig en ik zal uitleggen waarom. Technisch gesproken heeft de mens meerdere uitschakelaars, zoals het belemmeren van de zuurstoftoevoer door de luchtpijp af te sluiten, het stoppen van de bloedtoevoer door het hart te vernietigen, of het beschadigen van het controlecentrum van het lichaam (de hersenen). Hoewel we die uitschakelaars hebben, is het niet gemakkelijk om ons uit te schakelen, omdat we manieren vinden om niet uitgeschakeld te worden. Superintelligente AI zouden hetzelfde kunnen doen en dat is in zekere zin al begonnen. Weet je bijvoorbeeld waar op aarde de uitknop van het internet ergens zit? Het punt dat ik probeer te maken, is dat we misschien niet in staat zijn iets te controleren dat superieur is aan ons. Zoals Nick Bostrom zegt: "We moeten er niet op vertrouwen dat we een superintelligente geest voor altijd in zijn fles kunnen opsluiten".

Hoewel veel technologische ontwikkelingen zeer waardevol zijn, is het ook belangrijk om ons bewust te zijn van de mogelijke gevaren. Binnenkort zal er een explosie van technologische ontwikkelingen plaatsvinden. Wanneer dit precies zal gebeuren en wat de gevolgen ervan zullen zijn, kan niemand met zekerheid zeggen. Het minste wat we kunnen doen, is nadenken over de mogelijke gevolgen van superintelligente AI en voorbereid zijn voordat het te laat is. We moeten ervoor zorgen dat we AI blijven controleren en voorkomen dat AI ons gaat controleren. Voor we een superintelligente geest maken, moeten we een lamp ontwikkelen die sterk genoeg is om hem vast te houden.

Bron: https://www.brainmatters.nl/kunstmatige-superintelligentie-kunnen-we-een-superintelligente-geest-in-de-fles-houden/, door Pauline van Gils