Kunnen mensen in harmonie samenleven met machines? Eliezer Yudkowsky en Nate Soares hebben er een hard hoofd in. Ze winden er geen doekjes om in de titel van hun nieuwe boek: If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All, dat op 16 september gepubliceerd werd.
Dit lijkt misschien op paniekzaaierij, maar de schrijvers – Yudkowsky en Soares, respectievelijk medeoprichter en hoofd van het Machine Intelligence Research Institute in Berkeley, Californië – benadrukken in de introductie dat ze ‘niet op effectbejag uit zijn’. Als een land of bedrijf een zogeheten ‘kunstmatige superintelligentie’ bouwt die ‘ook maar een beetje lijkt op wat we vandaag de dag onder AI verstaan, zal iedereen, overal op aarde, sterven’.
Ze zijn niet de enigen die vrezen dat AI ons allemaal zal vernietigen als de technologie in dit tempo wordt doorontwikkeld.
Verontrustende toon
In The Intelligence Explosion: When AI Beats Humans at Everything slaat James Barrat een bijna net zo verontrustende toon aan. Barrat is een documentairemaker uit Maryland in de Verenigde Staten en schrijft al meer dan tien jaar over kunstmatige intelligentie. Hij citeert deskundigen zoals Roman Yampolskiy, die zegt dat superintelligente AI wellicht ‘een van de grootste problemen van de mensheid kan worden’. (Barrat citeert trouwens ook Yudkowsky en Soares, die daar hetzelfde over denken.) Maar Barrat voegt eraan toe dat er in plaats van het probleem onder ogen te zien ‘op een dodelijk scenario afstevenen’. Beide boeken leveren goede argumenten, maar lezers zullen zich meer aangetrokken voelen tot Yudkowsky en Soares; hun diagnose van de problemen omtrent AI toont hoeveel ervaring ze hebben binnen het vakgebied. Zo sluiten ze elk hoofdstuk af met een QR-code waarmee lezers uitgebreidere analyses kunnen raadplegen. Ook zijn ze niet bang om de grote bonzen van Silicon Valley bij naam te noemen; ze beschuldigen Elon Musk en Yann LeCunn, hoofdwetenschapper van Meta AI, van het bagatelliseren van reële risico’s.
De auteurs zijn het over veel dingen eens. De generatieve AI van 2025 – denk aan machines als ChatGPT en Gemini die informatie van allerlei bronnen assimileren en daaruit nieuwe informatie genereren – vormt nog geen existentiële bedreiging. Maar als AI-ontwikkeling met zo’n sneltreinvaart doorgaat, zullen er snel problemen ontstaan. ‘Machine-superintelligentie’, waarvan sommigen in het vakgebied denken dat die binnen tien jaar zal worden bereikt, zal ‘slimmer zijn dan ieder levend mens, slimmer dan de mensheid als geheel’, schrijven Yudkowsky en Soares.
Als het zover is kunnen we volgens Barrat niet alleen economische chaos, maar ook toenemende waanzin in de overheid verwachten. Analisten schatten in dat miljoenen mensen in ontelbare vakgebieden hun baan zullen verliezen en dat ‘AI-gestuurd bedrog en desinformatie’ eerlijke verkiezingen in gevaar zullen brengen, aldus Barrat. Barrat beweert ook dat AI met zijn huidige intelligentieniveau al bloed aan zijn virtuele handen heeft. Volgens berichten heeft het Israëlische leger AI ingezet bij aanvallen waarbij burgers in Gaza omkwamen, terwijl de aanval van de industrie op het klimaat onverminderd doorgaat. Elke dag ‘verbruikt ChatGPT evenveel elektriciteit als een kleine stad’.
Kennis vergaren
De twee boeken waarschuwen ook voor de obscure manier waarop AI zijn kennis vergaart. In tegenstelling tot klassieke hardware en besturingssystemen wordt generatieve AI ‘niet gepro- grammeerd, maar getraind’, aldus Barrat – in de woorden van Yudkowsky en Soares; ‘verbouwd, niet vervaardigd’. Na het bouwen van een generatieve AI weten programmeurs ‘nauwelijks wat er omgaat in het brein van zo’n machine’.
In The Intelligence Explosion wordt Stuart Russell, professor in computerwetenschappen, aangehaald. ‘We hebben geen idee hoe het werkt, en toch stellen we het bloot aan honderden miljoenen mensen’, aldus de professor. Door toegang te verlenen tot onze sociale media en financiële inrichtingen ‘geven we AI alle middelen om de wereld over te nemen’. Yudkowsky en Soares hebben zo hun twijfels bij wereldovername, maar beamen dat we nooit zeker kunnen weten wat voor ‘voorkeuren’ er zullen ontstaan. Haar ‘buitenaardse mechanische geest’ zal beschikken over een ‘interne psychologie’ die niet overeenkomt met de onze. Er is geen enkele reden om te verwachten dat tot die voorkeuren ‘gelukkige, gezonde mensen met een vervuld leven’ zal behoren, aldus de auteurs.
De doemscenario’s zoals beschreven in If Anyone Builds It, Everyone Dies zijn angstaanjagend. Een op hol geslagen superintelligente AI kan financiële instellingen of laboratoria met dodelijke ziektes infiltreren, mensen afpersen, gewetenloze leiders omkopen of aan de haal gaan met grootschalige wapensystemen. In de VS zijn bijna vijftienduizend AI-start-up waarvan ten minste enkele medewerkers het gevaar reëel achten, aldus Barrat; ‘De meeste experts met wie ik heb gesproken achten een AI-overname waarschijnlijk’, schrijft hij. Yudkowsky en Soares noemen verschillende vooraanstaande computerwetenschappers die publiekelijk hebben gezegd dat er minstens 10 procent kans is dat AI de mensheid zal uitroeien.
Wat nu? Alle drie de auteurs stellen dat er een embargo moet komen op AI-ontwikkeling totdat we een beter idee hebben over hoe de toekomst eruit zal komen te zien. Yudkowsky en Soares treden meer in detail; ze stellen dat er wetten en ‘internationale regelgevingskaders’ moeten komen waarmee ‘het verboden wordt om als AI-bedrijf in dit tempo kunstmatige intelligentie te ontwikkelen’.
Door de politieke verlamming in Washington is het onwaarschijnlijk dat hieraan gehoor wordt gegeven. Toch betuigen Yudkowsky en Soares dat het hoog tijd is dat mensen die hiermee instemmen zich erover uitspreken. Draag bij door contact op te nemen met wetgevers, te stemmen op kandidaten die deze problemen begrijpen, protesten bij te wonen en door vrienden en familie op de hoogte te stellen van de gevaren, aldus de auteurs. Ze zullen je aanvankelijk misschien ‘vreemd aankijken’, maar als er ook maar een kans bestaat dat het geschetste scenario waar is, dan hebben we wel iets belangrijkers aan ons hoofd dan zo nu en dan een meewarige blik.