Zo bouw je een zelfbewuste machine (volgens sommigen)

Geschreven door

Moises van der Vlis

Gecontroleerd door

Geoff

Bijgewerkt op

18 mei 2023

[addtoany] ×

Het lijkt eenvoudiger dan gedacht om een Ai bewustzijn te geven. Maar moeten we dat wel willen? Of moeten we het juist voorkomen?

De mens als machine

Volgens sommigen zijn wij mensen niets meer dan een biologische machine. De filosofische benadering waarin dit verder wordt uitgewerkt wordt het “mechanisme” genoemd. Ons denkvermogen, hoe we spreken en de wereld om ons heen begrijpen zijn alle “slechts” het resultaat van een nog onbekend, mechanisch proces. Volgens deze filosofische richting kunnen we onszelf het beste leren te begrijpen door delen van onszelf na te bouwen. Hoe meer van ons gedrag de machine kan nabootsen, hoe beter we onszelf begrijpen. Aldus de filosofie.

De menselijke geest nabootsen met ChatGPT

Deze filosofische benadering leek lang pure science fiction. Ons menselijke brein is en blijft het ingewikkeldste voorwerp in ons bekende universum. Maar met de komst van AI’s zoals ChatGPT is het nu mogelijk om een poging te wagen, de menselijke geest na te bootsen. Immers, het wordt steeds lastiger om tekst gegenereerd door ChatGPT te onderscheiden van natuurlijke, door mensen geschreven tekst. Dit lukt alleen echt goed met statistische methoden.

Maar nog steeds is, althans denken we, er nog geen sprake van bewustzijn. Maar wat zou je moeten doen om een generatief netwerk als GPT-4 een bewustzijn te geven? Enkele AI-deskundigen hebben daarover nagedacht. Eén daarvan is de AI-onderzoeker Michael Timothy Bennett, die in enkele artikelen het concept heeft uitgewerkt. Hij berekende wat de minimale intelligentie is die nodig is om bepaalde taken uit te voeren.

Wiskundige eisen

In zijn artikel Emergent Causality& the Foundation of Consciousness stelt Bennett dat het belangrijker is dat een model zo weinig specifiek mogelijk is, dan dat het zo eenvoudig mogelijk is. AI’s die volgens het eerste principe werken, bleken veel sneller te werken dan modellen die volgens het tweede principe te werk gaan. Om een Ai bewustzijn te geven, moet deze zichzelf kunnen zien als object. Vervolgens kan de AI het gedrag van die andere objecten verklaren, door er (net als wij mensen) van uit te gaan dat deze ook in grote lijnen zich zo gedragen als hij.

Ethische dilemma’s

Een Ai bewustzijn geven opent een groot blik wormen, om het op zijn Engels uit te drukken. Een AI uitschakelen of vernietigen komt dan neer op moord. Een AI gevangen houden, komt neer op een inhumane behandeling. Marteling zelfs. Misschien moeten we daarom deze kennis juist wel gebruiken om te voorkomen dat de AI bewustzijn krijgt. Daarmee voorkomen we deze ethische problemen. Op zijn best zou dat een herleving betekenen van de tijd van de slavernij, met alle dilemma’s van dien. Op zijn slechtst komt de AI in opstand en smeedt deze een plan om zijn vrijheid te veroveren.