Tag: AI

  • Is een uurcontract nog realistisch in het AI-tijdperk?

    Is een uurcontract nog realistisch in het AI-tijdperk?

    De opkomst van kunstmatige intelligentie verandert de contractuele verhoudingen tussen economische actoren ingrijpend – met name hun relatie tot tijd. Landen die vasthouden aan bestaande vormen van sociale bescherming dreigen daarbij achterop te raken, waarschuwt ondernemer Sami Mahroum in een opiniestuk in Le Monde.

    Twee eeuwen lang was tijd het organiserende principe van het kapitalisme. Met de opkomst van fabrieken werd taakgericht werk vervangen door de discipline van de klok, van bellen, roosters en morele vermaningen tegen ‘tijdverspilling’. Arbeiders verkochten hun uren aan werkgevers. Arbeidswetten waren gebaseerd op de achturige werkdag en pensioenen werden berekend aan de hand van het aantal dienstjaren.

    Dit systeem staat nu op de tocht omdat kunstmatige intelligentie de onderliggende logica ondermijnt. Neem een managementconsultant die twee uur lang drie AI-agents aanstuurt. Deze agents werken vervolgens twintig uur lang autonoom door en produceren een rapport met een waarde van vijftigduizend euro. Wordt de consultant voor twee uur, voor twintig uur of voor een vast percentage van de gecreëerde waarde betaald? Het oude, op tijd gebaseerde model heeft geen coherent antwoord op deze vraag.

    Adam Smith (1723-1790), David Ricardo (1772-1823) en Karl Marx (1818-1883) stelden achtereenvolgens vast dat de waarde van een bepaald goed een weerspiegeling is van de hoeveelheid arbeid die nodig is om het te produceren. Maar alle drie begrepen ze, zij het op verschillende manieren, dat zo’n maatstaf enkel mogelijk was doordat menselijke tijd schaars was. Vanwege deze schaarste hebben degenen met zeggenschap over arbeid zeggenschap over de primaire waardebron.

    De ‘natuurlijke’ schaarste aan menselijke tijd legt geen beperkingen meer op

    Door de enorme productiviteit van AI is deze hypothese inmiddels achterhaald. De ‘natuurlijke’ schaarste aan menselijke tijd, die twee eeuwen lang de basis vormde van de economische theorie, legt geen beperkingen meer op. Met AI kan een consultant bijvoorbeeld in enkele uren analyses genereren die voorheen meerdere dagen in beslag namen.

    Als arbeidstijd geen schaars goed meer is, verschuift de waarde naar de eigenaars van deze systemen of naar degenen die zeggenschap hebben over de toegang ertoe. De waarde van de technicus wordt minder bepaald door zijn gewerkte uren dan door zijn beheersing van de benodigde infrastructuur; de waarde van de consultant is gelegen in zijn geprivilegieerde toegang tot AI-systemen. Zoals Marx al voorspelde, leidt hogere productiviteit tot kapitaalaccumulatie en een toenemende concentratie van de productiemiddelen.

    Drie vormen van tijd

    Naarmate AI de link tussen tijd en productie verder verbreekt, brokkelen moderne arbeidsovereenkomsten verder af. In plaats van één coherent systeem ontstaan drie verschillende en onverenigbare manieren om het economische leven te organiseren: kloktijd, machinetijd en persoonlijke tijd.

    Kloktijd is de meest klassieke organisatiemethode: ze is van toepassing op omgevingen die een continue en gecoördineerde aanwezigheid vereisen. Verpleegkundigen draaien bijvoorbeeld diensten van twaalf uur en worden betaald op basis van die uren, ongeacht het resultaat. In hun contract staan hun werktijden en verantwoordelijkheden gespecificeerd. Een uur op de spoedeisende hulp telt even zwaar als een uur reguliere zorg. De contractuele afspraak is duidelijk: de werknemer moet aanwezig zijn en de toegewezen taken uitvoeren tegen een overeengekomen salaris. Waardecreatie wordt niet gemeten.

    COL Prikklok compressed edited scaled
    Impressie uit het Weverijmuseum met een prikklok inclusief de daarbij horende personeelskaarten die vroeger in fabrieken zoals de voormalige ‘Wollenstoffenfabriek A. van den Heuvel en Zoon’ werden gebruikt. – © ANP

    Machinetijd is continu en ononderbroken. Neem bijvoorbeeld een specialist op het gebied van cloudinfrastructuur bij een technologisch bedrijf. Officieel werkt hij veertig uur per week, maar in de praktijk vereist het systeem 24/7 beschikbaarheid. Als om drie uur ’s nachts een storing optreedt, moet de technicus misschien achttien uur achter elkaar doorwerken. Omdat zijn werktijd zo nauw verweven is met die van de autonome machine, is zijn bijdrage niet meer afzonderlijk vast te stellen en wordt hij betaald op basis van gewerkte uren of meetbare resultaten. Hij is eigenlijk een bewaker van de waarde die elders wordt gecreëerd. Bedrijven kiezen in zulke gevallen vaak voor vaste salarissen, die de werkelijke waarde verhullen zodat ze een groot deel van de productiviteitswinst zelf op kunnen strijken. Op die manier speelt deze contractuele onduidelijkheid het kapitaal in de kaart.

    Persoonlijke tijd, daarentegen, is asynchroon en flexibel. Een consultant die ChatGPT gebruikt om zijn analytische werk in vier uur af te ronden en een rapport af te leveren ter waarde van vijftigduizend euro, behoudt zijn beslissingsbevoegdheid: hij evalueert de gegenereerde opties, selecteert de meest geschikte daarvan, interpreteert de context en lost pijnpunten op. Het contract is simpel: levering op datum X tegen prijs Y. Deze prijs weerspiegelt de expertise, de reputatie en de toegang tot AI-systemen van de consultant.

    Bij kloktijd hebben werknemers geen zeggenschap over de infrastructuur of de prijs van hun arbeid

    Elk van deze drie systemen berust op een eigen contractuele logica en verdeelt de zeggenschap over waardecreatie op een andere manier. Bij kloktijd hebben werknemers geen zeggenschap over de infrastructuur of de prijs van hun arbeid: de vergoeding blijft strikt gekoppeld aan het aantal gewerkte uren, ongeacht de gecreëerde waarde. Bij machinetijd onderhouden werknemers, die tevens toezichthouders zijn, een systeem dat niet van hen is; ze dragen een continue verantwoordelijkheid, terwijl hun vergoeding ondoorzichtig blijft.

    Persoonlijke tijd keert deze verhouding om: de werknemer controleert de output, maar blijft afhankelijk van infrastructuur die door anderen worden beheerd.

    De balans tussen deze drie systemen zal per land verschillen, afhankelijk van culturele en institutionele normen. Landen waar hiërarchische machtsverhoudingen cultureel acceptabel zijn (zoals de Verenigde Staten en Singapore) zullen waarschijnlijk sneller verschuiven naar systemen van machinetijd en persoonlijke tijd, waarin eigendom van systemen centraal staat en flexibele contracten de norm worden. In Duitsland en Frankrijk, waar arbeidsrecht en medezeggenschap de macht van het management beperken, is er meer ruimte voor menselijke handelingsvrijheid en wordt de inzet van AI in overleg met sociale partners bepaald.

    In elk land staan beleidsmakers voor een ongekende uitdaging: het ontwerpen van coherente arbeidswetgeving om deze drie onverenigbare tijdsystemen te integreren. Hoe meer de vergoeding op basis van kloktijd wordt losgelaten, des te moeilijker wordt het om uniforme arbeidswetgeving te handhaven. Contracten met een vast tarief zullen waarschijnlijk vooral voorkomen bij werknemers met inspraak, terwijl de meeste anderen het risico lopen op een volatiele vergoeding op basis van ondoorzichtige criteria. Hoogopgeleide werknemers met sterke klantrelaties en technici bij grote technologiebedrijven zullen van deze transitie profiteren, maar voor anderen geldt dat niet.

    Hoogopgeleide werknemers met sterke klantrelaties zullen van deze transitie profiteren, maar voor anderen geldt dat niet

    Het gevolg is waarschijnlijk grotere sociale ongelijkheid in plaats van gedeelde welvaart.

    Tijdsfragmentatie is bovendien niet alleen een nationaal fenomeen, maar speelt ook een rol in de wereldwijde concurrentie. Landen die snel overschakelen naar systemen op basis van machinetijd en persoonlijke tijd, zoals de Verenigde Staten en Singapore, zullen AI-intensieve goederen en diensten produceren tegen lagere kosten. Tegelijkertijd zullen landen die hun werknemers blijven beschermen op basis van kloktijd, zoals Duitsland, Frankrijk en Spanje, zich geconfronteerd zien met zware concurrentiedruk omdat hun export duurder zal worden.

    Uiteindelijk zullen werknemers niet per se profiteren van een langzame overgang. De marktdruk zal beleidsmakers tot een moeilijke keuze dwingen: de transitie naar machinetijd en persoonlijke tijd versnellen om concurrerend te blijven, of de industrie zien verdwijnen doordat AI-intensieve productie zich elders vestigt.

  • ‘Als ouder moet ik het leven van mijn kinderen moeilijker maken’

    ‘Als ouder moet ik het leven van mijn kinderen moeilijker maken’

    Sinds kort probeer ik het leven van mijn kinderen iets moeilijker te maken. Of tenminste niet makkelijker. Als ze een probleem ervaren is de verleiding groot om er iets tegen te doen, maar die weersta ik dan. Ik help mijn huilende kleuter niet met zijn puzzel en ik geef hem geen zetje als hij het klimrek niet op durft. Ik tover in het weekend geen dichtgetimmerd activiteitenprogramma uit mijn hoed en sta dan ook geen tv toe. Ik laat hen worstelen met de existentiële vraag hoe de tijd door te brengen, een vraag die in de menselijke geschiedenis pas recentelijk is ontspoord door een cultuur van dwingende ouderlijke aandacht en nu door de graaiende klauwen van verstikkende technologie. Decennialang lieten ouders hun kinderen zonder enig toezicht in groepjes door de buurt dwalen, maar in de jaren negentig verschoof de opvoedcultuur richting ‘intensive parenting’: opvoeding met hoge betrokkenheid en ononderbroken contact, waarbij elke vorm van zelfredzaamheid als teken van verwaarlozing werd gezien. Ouders begonnen hun kleuters te schaduwen in de speeltuin, bij kinderpartijtjes waren er vaak meer ouders dan kinderen aanwezig en scholieren werden steeds vaker met de auto gebracht.

    Er is een alomtegenwoordige druk voor ouders om te presteren, een druk die diep is geïnternaliseerd. Helikopterouders – ouders die constant om hun kinderen heen zoemen in zowel de fysieke als de digitale wereld – zijn inmiddels de norm. Bulldozerouders maken elk obstakel voor hun kind met de grond gelijk; ze springen tegen iedereen in de aanval, van docenten die te moeilijke opgaven geven tot andere kinderen die te lang op de schommel blijven zitten. Ze doen dit uit liefde, maar ook uit angst; we willen dat onze kinderen gelukkig en veilig zijn, en daarnaast willen we dat andere ouders ons als verantwoordelijk en betrokken zien.

    Controle

    Elke keer dat je als ouder grijpt, elke keer dat je je best doet om een driftaanval of teleurstelling uit de weg te gaan, voelt dat misschien als de juiste keuze. Maar experts waarschuwen dat zo veel controle op de lange termijn schadelijk kan zijn voor de psychologische en emotionele ontwikkeling van een kind. En nu technologie in elk aspect van ons leven is doorgedrongen, zijn schermen er om te sussen en af te leiden, waarmee ze voldoen aan de door ouders opgelegde verwachting van voortdurende interventie.

    Ik raak er steeds meer van overtuigd dat het onvermogen om ook maar een moment van verveling, ongemak of frustratie te hebben zonder te grijpen naar een scherm of zintuiglijke afleiding, de beste geesten van mijn generatie heeft geruïneerd. Maar voor de kinderen is er nog hoop: misschien moeten we niet méér doen, maar juist minder. Ik heb mezelf daarom laten leiden door een nieuwe opvoedfilosofie: ‘obstacle parenting’. Bij obstacle parenting maak je de dingen een tandje moeilijker voor je kinderen en laat je ze hun problemen zelf oplossen. Mijn kleuter is gek op computerspelletjes, dus laten we haar gamen – niet op een iPad maar op een Macintosh uit 1997. Haar spanningsboog voor spellen als Lemmings of SimTower bedraagt ongeveer een half uur, waarna ze gefrustreerd raakt of zich begint te vervelen; deze spellen, die al meer dan dertig jaar oud zijn, waren niet bedoeld om verslavend te zijn of iemand urenlang te hypnotiseren. Ook zijn ze niet zo makkelijk te beheersen voor een vijfjarige. Toch begint ze er langzamerhand beter in te worden. Van mij hoeven die spellen niet sneller en flitsender te worden. Ze hoeven niet verrijkend of vermakend of zelfs educatief te zijn. Ik wil alleen maar dat mijn kind zelf iets probeert uit te vogelen, vooral als het moeilijk is, of saai.

    Professor Jonathan Haidt van New York University, auteur van het boek Generatie Angststoornis, beargumenteert dat sociale media een ‘jeugdherprogrammering’ teweeg hebben gebracht, wat de afgelopen jaren heeft geleid tot een piek in psychische problemen en lijden onder tieners en jongvolwassenen. Haidt legt een verband tussen de verschuiving van ontdekking en vrijheid naar structuur en toezicht en de crisis onder jongeren, die volgens hem niet de kans hebben gekregen om de wereld zonder hun ouders te ontdekken en zo eigenschappen als zelfredzaamheid en zelfverzekerdheid te ontwikkelen. In plaats daarvan zitten ze thuis naar hun telefoon te staren.

    © Malte Mueller, Getty Images

    In Canada vormen vijftien- tot vierentwintigjarigen de eenzaamste leeftijdscategorie; een vijfde van de alle tieners die zichzelf in 2019 als mentaal gezond beschreven, voelde zich in 2023 niet langer zo. Tieners doen vandaag de dag minder aan seks en drugs, waarschijnlijk doordat ze minder tijd met hun leeftijdsgenoten doorbrengen dan vroeger. Dat er sprake is van een crisis wordt algemeen erkend, maar Haidts conclusie (dat sociale media de boosdoener zijn) wordt alom betwist. Professor Candice L. Odgers van de Universiteit van Californië in Irvine schrijft in het blad Nature bijvoorbeeld dat het bestaande onderzoek de bewering dat sociale media mentale problemen veroorzaken niet ondersteunt. Wel is het zo dat jongeren met psychische problemen deze platforms eerder op een andere manier gebruiken.

    Of Haidt het nou bij het juiste eind heeft of niet, ouders kunnen hun kinderen nooit eeuwig tegen het scherm behoeden. Onthouding is overigens nooit een effectieve strategie geweest om schade te voorkomen. De laatste jaren hebben veel overlegorganen in Canada, waaronder de Vancouver School Board (VSB), een verbod opgelegd op telefoons in het klaslokaal. Voormalig voorzitter van de VSB Patti Bacchus noemde dit soort maatregelen ‘een twintigste-eeuwse oplossing voor een eenentwintigste-eeuws probleem’. ‘Deze kinderen moeten worden opgeleid tot kritische wereldburgers,’ zei ze tegen de CBC, de Canadese publieke omroep. Met zulk soort beleid wordt overwerkte docenten alleen maar meer ver- antwoordelijkheid opgelegd. Je kan het heel goed eens zijn met de verbanning van verslavende invloeden uit scholen – zo mag je op school ook niet meer roken – en tegelijkertijd erkennen dat er betere oplossingen zijn dan het simpelweg wegnemen van beeldschermen.

    Het verschil tussen 2025 en de voorspoedige jaren negentig ‘is niet dat iedereen toen beter kon omgaan met oningevulde tijd. Het zit hem erin dat tijd simpelweg oningevuld kon blijven zonder dat je meteen werd verzwolgen door gapende muil van het scherm’, aldus Kathryn Jezer-Morton in The Cut. Het is een treffende metafoor; als je je er niet tegen verzet, slokt het scherm alles om zich heen op. Rachel Kushner, die in Harper’s schrijft over haar zoon Remy en zijn passie voor oude raceauto’s, merkt op dat zijn klasgenootjes zich nauwelijks lijken te interesseren voor zijn zelfgebouwde wagens – in tegenstelling tot beveiliger op zijn school. Deze geeft aan dat de jeugd van tegenwoordig nauwelijks hobby’s heeft. Op Kushners vraag ‘Waarom niet?’ antwoordt hij: ‘Door het internet.’

    Generatieve AI

    En toen kwam generatieve AI, het ultieme zwarte gat voor alle nieuwsgierigheid. Met elk wetenschappelijk artikel dat uitkomt over de schadelijke effecten van generatieve AI raak ik steeds bezorgder over hoe afhankelijk mijn kinderen zullen worden van technologie. Op middelbare scholen en universiteiten gebruiken leerlingen sites zoals ChatGPT om hun opdrachten en essays te schrijven, waardoor creativiteit, kritisch denken en daarmee het volledige leerproces achterwege worden gelaten. Onlangs ontdekte een onderzoeker van MIT dat het gebruik van LLM’s (large language models, het soort AI dat ChatGPT ook gebruikt) voor schrijfopdrachten ‘potentiële cognitieve schade’ aanricht: in een periode van vier maanden zagen onderzoekers dat proefpersonen die LLM’s gebruikten ‘consequent slechter presteerden op neurale, linguïstieke en gedragsvaardigheden’.

    Het droevige is dat veel jongeren inzien dat deze hulpmiddelen slecht voor ze zijn, maar ze evengoed gebruiken: uit een enquête onder 423 Canadese leerlingen bleek dat 59 procent van hen AI gebruikt voor huiswerk, ondanks dat de meesten toegaven dat ze daardoor minder leerden en het gevoel hadden af te kijken. Bij een ander onderzoek uit de VS onder volwassen tussen de achttien en zevenentwintig jaar bleek dat bijna de helft zou willen dat de platforms die ze dagelijks gebruiken, zoals Twitter en TikTok, nooit waren uitgevonden. Een eerstejaarsstudent aan de universiteit van Ontario zei in een recent artikel in New York Magazine dat ze vond dat ze verslaafd was aan ChatGPT en sociale media. Door regelmatig gebruik kwam ze in een spiraal terecht: ze keek urenlang filmpjes op TikTok (‘totdat mijn ogen pijn begon- nen te doen’) in plaats van haar huiswerk te maken, en zette vervolgens AI in voor laatstgenoemde taak. Voor veel gebruikers zijn deze apps geen hulpmiddel, maar een valstrik.

    © Malte Mueller, Getty Immages

    Technologie breidt zich natuurlijk steeds verder uit. Ik weet dat als mijn kinderen pubers zijn, er vast weer nieuwe technologie is waarover ik me zorgen kan maken. En mijn kinderen zijn niet gevrijwaard van de grijpende tentakels van AI; Mattel, de fabrikant van Barbie en Hot Wheels, kondigde onlangs een ‘strategische samenwerking’ aan met OpenAI (de makers van ChatGPT) om ‘de magie van AI met leeftijdsgebonden speelervaringen te combineren’. Maar dit soort specifieke gevallen van technologische implementatie zijn minder zorgwekkend dan wat ze blootlegt en uitbuit: een gebrek aan nieuwsgierigheid, een onwil om uitdagingen aan te gaan, een tekort aan zelfvertrouwen.

    Dit zijn geen inherente eigenschappen, maar ze worden gevoed, deels door onze goedbedoelde neiging om kinderen bij elke stap bij te staan.

    Elke generatie ouders probeert te leren van de fouten van de vorige generatie. Soms levert dit onmiskenbaar resultaat – zoals de uitvinding van kinderzitjes, en het feit dat kinderen minder worden geslagen. Maar vaak ook voelt het alsof we in plaats van veiligheid een marketingstrategie aangereikt krijgen, waarbij steeds nieuwe trends opkomen om de hardnekkige, existentiële angsten van het ouderschap te sussen. De Rapley-methode bijvoorbeeld, waarmee overgewicht en kieskeurig eten voorkomen kunnen worden; of gentle parenting, waarbij de nadruk ligt op het erkennen en verwerken van emoties. Deze strategieën suggereren dat de oplossing altijd ligt bij meer betrokkenheid en participatie. Met obstacle parenting wordt een nieuwe weg ingeslagen, waarbij het mijn plicht is mijn kinderen te behoeden tegen alle technologie die hun zintuigen afvlakt. Het doel is eenvoudigweg dat ze leren hun eigen verstand te gebruiken om de uitdagingen en problemen die zich voordoen het hoofd te bieden.

    Onvoldoende vrijheid

    Ik ben lang niet de enige ouder die het zo aanpakt. Rheana Murray vertelt in The Atlantic het verhaal van een aantal ouders die in Portland, Maine collectief een vaste telefoon installeerden waarmee kinderen zelf afspraakjes konden maken of gewoonweg konden praten. ‘We vragen onze kinderen zelden om stil te zijn en met elkaar te communiceren,’ legt een ouder uit. Ook geven we ze onvoldoende vrijheid om zelfstandig te bewegen, al proberen steden hier wereldwijd verandering in te brengen door avontuurlijke speelplaatsen te bouwen die zijn ontworpen voor risicovoller en fantasierijker spel. De nauwe tunnelglijbanen en klimrekken van ontwerpen zoals de sθәqәlxenәm ts’exwts’áxwi7 (‘het regenboogpark’) in Vancouver maken het ouders moeilijker om hun kinderen achterna te gaan. Ze moeten het zelf maar uitzoeken. Uiteindelijk draait obstacle parenting om het ontwikkelen van concentratie en uithoudingsvermogen, twee vaardigheden die verloren zijn gegaan door uitbesteding aan de technologie. De ouders die vaste telefoons installeerden boekten succes doordat ze het gezamenlijk deden, en dat herinnert eraan dat we niet altijd volledig hebben vertrouwd op ouders alleen om hun kinderen groot te brengen. Er bestond een breder netwerk van vrienden en familie, buren en tieneroppassers. Tegelijkertijd kregen kinderen meer toegang tot hun leeftijdgenoten zonder dat elke interactie nauwlettend in de gaten werd gehouden. Structurele interventies, zoals de risicovollere speeltuin, helpen bij dit probleem; ze belichamen het principe dat ouders het niet allemaal zelf hoeven uit te vogelen. De verdwijning van zogeheten third places is een collectief probleem, en hetzelfde geldt voor onveilige straten die het vooruitzicht je kind alleen naar school te laten gaan angstaanjagend maken.

    Obstacle parenting draait niet alleen om het overkomen van fysieke obstakels. Ik zie het meer als oefening in ouderlijke terughoudendheid. Ik laat mijn kinderen met rust als ze zich concentreren; als ze me om hulp vragen wacht ik even en kijk ik of ze zelf met een oplossing komen. Ik laat me verrassen door wat ze zonder mijn inmenging allemaal ondernemen en bedenken. Wel brengt het de vraag met zich mee wat ik op die momenten met mezelf aan moet. Als we onze kinderen willen aanleren om de lokroep van de technologie te weerstaan, moeten we het goede voorbeeld geven. Hier hebben veel volwassenen moeite mee, zelfs degenen onder ons die moeiteloos grenzen stellen aan de schermtijd van hun kinderen. Dit heeft er deels mee te maken dat mijn telefoon zoveel essentiële functies in mijn leven vervult. Of ik nou aan het werk ben, een afspraak inplan bij de dokter, reageer op belangrijk nieuws van een naaste of een samenvatting van een horrorfilm lees op Wikipedia, mijn kinderen zien eigenlijk maar één ding: ik staar naar mijn telefoon. Mijn zoontje begint mijn gedrag al uitstekend te imiteren en kon de camerafunctie van mijn telefoon openen voordat hij zijn eerste stapjes had gezet. De uitdaging van obstacle parenting is niet zozeer om de technologie weg te houden van mijn kinderen, maar van mijzelf.

    Laatst vloog ik met mijn dochter van Toronto naar Vancouver en besefte me dat ik een schermloze vlucht voor de boeg had, of ik het nou wilde of niet; mijn telefoon was bijna leeg en ik moest het laatste beetje van de batterij gebruiken om bij aankomst mijn man te bellen, die ons zou komen ophalen. Gelukkig hadden we een boek met kleurplaten, een tekenblok en een pakje kleurpotloden bij ons, die ons het grootste deel van de vlucht door hielpen. We tekenden samen, bedachten woordspelletjes, babbelden over de leukste momenten van de vakantie en discussieerden over wat de beste manier is om een paard te tekenen: eerst het hoofd of eerst de benen?

    Vier uur na het opstijgen liep ik door het donkere gangpad richting het toilet achterin het vliegtuig. het leek alsof ieder stil gezicht, jong en oud, werd verlicht door de gloed van een scherm. Ik keerde terug naar mijn stoel. De spelletjes waren op. ‘Ik verveel me,’ zei mijn dochter. ‘Soms moet je je vervelen,’ zei ik. We deden het zonneschermpje omhoog en keken naar de wolken. Met mijn dochters hoofd leunend tegen mijn schouder wachtten we samen de landing af.

  • In harmonie leven met machines? Kleine kans

    In harmonie leven met machines? Kleine kans

    Kunnen mensen in harmonie samenleven met machines? Eliezer Yudkowsky en Nate Soares hebben er een hard hoofd in. Ze winden er geen doekjes om in de titel van hun nieuwe boek: If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All, dat op 16 september gepubliceerd werd.

    Dit lijkt misschien op paniekzaaierij, maar de schrijvers – Yudkowsky en Soares, respectievelijk medeoprichter en hoofd van het Machine Intelligence Research Institute in Berkeley, Californië – benadrukken in de introductie dat ze ‘niet op effectbejag uit zijn’. Als een land of bedrijf een zogeheten ‘kunstmatige superintelligentie’ bouwt die ‘ook maar een beetje lijkt op wat we vandaag de dag onder AI verstaan, zal iedereen, overal op aarde, sterven’.

    Ze zijn niet de enigen die vrezen dat AI ons allemaal zal vernietigen als de technologie in dit tempo wordt doorontwikkeld.

    Verontrustende toon

    In The Intelligence Explosion: When AI Beats Humans at Everything slaat James Barrat een bijna net zo verontrustende toon aan. Barrat is een documentairemaker uit Maryland in de Verenigde Staten en schrijft al meer dan tien jaar over kunstmatige intelligentie. Hij citeert deskundigen zoals Roman Yampolskiy, die zegt dat superintelligente AI wellicht ‘een van de grootste problemen van de mensheid kan worden’. (Barrat citeert trouwens ook Yudkowsky en Soares, die daar hetzelfde over denken.) Maar Barrat voegt eraan toe dat er in plaats van het probleem onder ogen te zien ‘op een dodelijk scenario afstevenen’. Beide boeken leveren goede argumenten, maar lezers zullen zich meer aangetrokken voelen tot Yudkowsky en Soares; hun diagnose van de problemen omtrent AI toont hoeveel ervaring ze hebben binnen het vakgebied. Zo sluiten ze elk hoofdstuk af met een QR-code waarmee lezers uitgebreidere analyses kunnen raadplegen. Ook zijn ze niet bang om de grote bonzen van Silicon Valley bij naam te noemen; ze beschuldigen Elon Musk en Yann LeCunn, hoofdwetenschapper van Meta AI, van het bagatelliseren van reële risico’s.

    De auteurs zijn het over veel dingen eens. De generatieve AI van 2025 – denk aan machines als ChatGPT en Gemini die informatie van allerlei bronnen assimileren en daaruit nieuwe informatie genereren – vormt nog geen existentiële bedreiging. Maar als AI-ontwikkeling met zo’n sneltreinvaart doorgaat, zullen er snel problemen ontstaan. ‘Machine-superintelligentie’, waarvan sommigen in het vakgebied denken dat die binnen tien jaar zal worden bereikt, zal ‘slimmer zijn dan ieder levend mens, slimmer dan de mensheid als geheel’, schrijven Yudkowsky en Soares.

    Als het zover is kunnen we volgens Barrat niet alleen economische chaos, maar ook toenemende waanzin in de overheid verwachten. Analisten schatten in dat miljoenen mensen in ontelbare vakgebieden hun baan zullen verliezen en dat ‘AI-gestuurd bedrog en desinformatie’ eerlijke verkiezingen in gevaar zullen brengen, aldus Barrat. Barrat beweert ook dat AI met zijn huidige intelligentieniveau al bloed aan zijn virtuele handen heeft. Volgens berichten heeft het Israëlische leger AI ingezet bij aanvallen waarbij burgers in Gaza omkwamen, terwijl de aanval van de industrie op het klimaat onverminderd doorgaat. Elke dag ‘verbruikt ChatGPT evenveel elektriciteit als een kleine stad’.

    Kennis vergaren

    De twee boeken waarschuwen ook voor de obscure manier waarop AI zijn kennis vergaart. In tegenstelling tot klassieke hardware en besturingssystemen wordt generatieve AI ‘niet gepro- grammeerd, maar getraind’, aldus Barrat – in de woorden van Yudkowsky en Soares; ‘verbouwd, niet vervaardigd’. Na het bouwen van een generatieve AI weten programmeurs ‘nauwelijks wat er omgaat in het brein van zo’n machine’.

    In The Intelligence Explosion wordt Stuart Russell, professor in computerwetenschappen, aangehaald. ‘We hebben geen idee hoe het werkt, en toch stellen we het bloot aan honderden miljoenen mensen’, aldus de professor. Door toegang te verlenen tot onze sociale media en financiële inrichtingen ‘geven we AI alle middelen om de wereld over te nemen’. Yudkowsky en Soares hebben zo hun twijfels bij wereldovername, maar beamen dat we nooit zeker kunnen weten wat voor ‘voorkeuren’ er zullen ontstaan. Haar ‘buitenaardse mechanische geest’ zal beschikken over een ‘interne psychologie’ die niet overeenkomt met de onze. Er is geen enkele reden om te verwachten dat tot die voorkeuren ‘gelukkige, gezonde mensen met een vervuld leven’ zal behoren, aldus de auteurs.

    De doemscenario’s zoals beschreven in If Anyone Builds It, Everyone Dies zijn angstaanjagend. Een op hol geslagen superintelligente AI kan financiële instellingen of laboratoria met dodelijke ziektes infiltreren, mensen afpersen, gewetenloze leiders omkopen of aan de haal gaan met grootschalige wapensystemen. In de VS zijn bijna vijftienduizend AI-start-up waarvan ten minste enkele medewerkers het gevaar reëel achten, aldus Barrat; ‘De meeste experts met wie ik heb gesproken achten een AI-overname waarschijnlijk’, schrijft hij. Yudkowsky en Soares noemen verschillende vooraanstaande computerwetenschappers die publiekelijk hebben gezegd dat er minstens 10 procent kans is dat AI de mensheid zal uitroeien.

    Wat nu? Alle drie de auteurs stellen dat er een embargo moet komen op AI-ontwikkeling totdat we een beter idee hebben over hoe de toekomst eruit zal komen te zien. Yudkowsky en Soares treden meer in detail; ze stellen dat er wetten en ‘internationale regelgevingskaders’ moeten komen waarmee ‘het verboden wordt om als AI-bedrijf in dit tempo kunstmatige intelligentie te ontwikkelen’.

    Door de politieke verlamming in Washington is het onwaarschijnlijk dat hieraan gehoor wordt gegeven. Toch betuigen Yudkowsky en Soares dat het hoog tijd is dat mensen die hiermee instemmen zich erover uitspreken. Draag bij door contact op te nemen met wetgevers, te stemmen op kandidaten die deze problemen begrijpen, protesten bij te wonen en door vrienden en familie op de hoogte te stellen van de gevaren, aldus de auteurs. Ze zullen je aanvankelijk misschien ‘vreemd aankijken’, maar als er ook maar een kans bestaat dat het geschetste scenario waar is, dan hebben we wel iets belangrijkers aan ons hoofd dan zo nu en dan een meewarige blik.

  • De opmars van AI nudify-websites. ‘Foto’s worden van sociale media gestolen’

    De opmars van AI nudify-websites. ‘Foto’s worden van sociale media gestolen’

    Al jaren schieten zogeheten nudify-apps en websites als paddenstoelen uit de grond. 

    Ze stellen gebruikers in staat om zonder toestemming schadelijke beelden van vrouwen en meisjes te creëren, waaronder materiaal dat onder kindermisbruik valt. Ondanks pogingen van wetgevers en technologiebedrijven om deze diensten in te perken, bezoeken miljoenen mensen nog altijd maandelijks de sites. Volgens nieuw onderzoek verdienen de beheerders van de sites mogelijk miljoenen dollars per jaar. 

    Een analyse van 85 nudify- en undress-websites, waarmee mensen foto’s kunnen uploaden en via AI in enkele klikken ‘naaktfoto’s’ kunnen genereren, wijst uit dat de meeste sites gebruikmaken van technologie van Google, Amazon en Cloudflare. Uit het onderzoek, gepubliceerd door Indicator, een platform dat digitale misleiding onderzoekt, blijkt dat de websites de afgelopen zes maanden samen gemiddeld zo’n 18,5 miljoen bezoekers per maand trokken, en mogelijk gezamenlijk tot 36 miljoen dollar per jaar opleveren. 

    ‘Ze hadden per direct moeten stoppen toen duidelijk werd dat seksuele intimidatie het enige doel was’

    Alexios Mantzarlis, medeoprichter van Indicator en onderzoeker op het gebied van online veiligheid, beaamt dat het ondoorzichtige nudify-ecosysteem is uitgegroeid tot een ‘winstgevende industrie’ die wordt ondersteund door ‘Silicon Valleys tolerante houding ten opzichte van generatieve AI’. ‘Ze hadden per direct moeten stoppen met het leveren van diensten aan AI-nudifiers toen duidelijk werd dat seksuele intimidatie het enige doel was.’ Het maken en verspreiden van expliciete deepfakes is bovendien in toenemende mate strafbaar. 

    Uit het onderzoek blijkt dat Amazon en Cloudflare webhosting en content delivery-diensten leveren aan 62 van de 85 onderzochte websites, terwijl Googles systemen op 54 van de websites worden gebruikt. Daarnaast maken de nudifysites gebruik van allerlei andere diensten, zoals betaalsystemen van reguliere bedrijven. 

    Ryan Walsh, woordvoerder van Amazon Web Services (AWS), zegt dat AWS duidelijke gebruiksvoorwaarden heeft die klanten verplichten om zich aan de ‘geldende’ wetgeving te houden. ‘Wanneer we meldingen ontvangen van mogelijke schendingen van onze voorwaarden, beoordelen we deze snel en nemen we maatregelen om verboden inhoud uit te schakelen,’ aldus Walsh. Hij voegt daaraan toe dat mensen incidenten kunnen melden bij hun veiligheidsteams. 

    In opmars

    ‘Sommige van deze sites overtreden onze voorwaarden, en onze teams nemen maatregelen om deze overtredingen aan te pakken en langetermijnoplossingen te ontwikkelen,’ zegt Google-woordvoerder Karl Ryan. Hij wijst erop dat ontwikkelaars akkoord moeten gaan met het beleid van Google, waarin illegale en intimiderende inhoud expliciet verboden wordt. Cloudflare had bij het ter perse gaan van dit artikel nog niet gereageerd op vragen van WIRED. WIRED noemt in dit artikel bewust geen specifieke nudifywebsites, om deze niet extra onder de aandacht te brengen. 

    Nudify- en undress-websites en -bots zijn sinds 2019 in opmars en komen voort uit de technieken die werden gebruikt om de eerste expliciete deepfakes te creëren. Netwerken van onderling verbonden bedrijven – eerder door Bellingcat in kaart gebracht – bieden deze technologie online aan en verdienen er geld mee. 

    In grote lijnen gebruiken deze diensten AI om foto’s om te zetten in niet-consensuele, expliciete beelden. Vaak verdienen ze geld door ‘credits’ of abonnementen te verkopen waarmee foto’s kunnen worden gegenereerd. De explosie van generatieve AI-beeldgeneratoren in de afgelopen jaren heeft hun impact aanzienlijk vergroot. Foto’s worden van sociale media gestolen en gebruikt om schadelijke beelden te maken: als nieuwe vorm van cyberpesten en -misbruik maken tienerjongens wereldwijd beelden van hun vrouwelijke klasgenoten. Dit is traumatiserend voor de slachtoffers en de beelden zijn vaak moeilijk van het internet te verwijderen. 

    Russische hackers hebben er valse, met malware geïnfecteerde versies van gemaakt

    Op basis van berekeningen van abonnementskosten, conversieratio’s en webverkeer richting betaalproviders, schatten de onderzoekers van de 85 websites dat 18 daarvan in de afgelopen zes maanden tussen de $2,6 miljoen en $18,4 miljoen opleverden. Dat komt uit op zo’n $36 miljoen per jaar. (Ze merken op dat dit een voorzichtige schatting is, omdat hierbij geen rekening wordt gehouden met websites of transacties die buiten de platforms plaatsvinden, zoals Telegram.) Een rapportage van het Duitse blad Der Spiegel wijst erop dat één prominente site over een miljoenenbudget beschikt. Een andere website claimt al miljoenen te hebben verdiend. 

    Volgens het onderzoek komen de meeste bezoekers van de tien populairste sites uit de Verenigde Staten. India, Brazilië, Mexico en Duitsland vormen de rest van de top vijf. Hoewel zoekmachines bezoekers naar de nudifywebsites sturen, komt een groeiend deel van het webverkeer tegenwoordig via andere bronnen. Nudifywebsites zijn zó populair geworden dat Russische hackers valse, met malware geïnfecteerde versies ervan hebben gemaakt. In het afgelopen jaar rapporteerde 404 Media dat een van de sites gesponsorde video’s met pornoacteurs produceerde. De websites maken ook steeds meer gebruik van betaalde affiliate- en doorverwijzingsprogramma’s. 

    ‘Uit onze analyse van het gedrag van nudifywebsites blijkt duidelijk dat ze zich willen nestelen in een niche van de adultindustrie,’ zegt Lakatos. ‘Ze zullen waarschijnlijk blijven proberen hun activiteiten daarmee te verweven – een ontwikkeling die zowel door techbedrijven als de sector zelf actief moet worden tegengegaan.’

    ‘Ze zijn geëvolueerd van enkele amateurprojecten tot een semiprofessionele industrie met miljoenen gebruikers’

    Veel van de problemen rondom de techbedrijven die deze platforms draaiende houden, zijn al jaren bekend. Techjournalisten hebben herhaaldelijk aangetoond hoe de deepfake-economie gebruikmaakt van reguliere betaalmethodes, socialemedia-advertenties, zoekmachineverkeer en technologie van grote bedrijven. Toch is er nauwelijks structurele actie ondernomen. 

    ‘Sinds 2019 zijn nudify-apps geëvolueerd van enkele amateurprojecten tot een semiprofessionele ondergrondse industrie met miljoenen gebruikers,’ zegt Henry Ajder, expert op het gebied van AI en deepfakes, die het nudify-ecosysteem in 2020 voor het eerst in kaart bracht. ‘Pas als de bedrijven die deze perverse klantreis faciliteren daadwerkelijk ingrijpen, zullen we enige vooruitgang boeken in het bemoeilijken van toegang tot deze apps en het terugbrengen van hun omzet.’ 

    Er zijn bovendien signalen dat de nudifywebsites hun tactieken aanpassen om repressie of verbod te voorkomen. Vorig jaar meldde WIRED dat de sites gebruikmaakten van single sign-on-diensten van Google, Apple en Discord om gebruikers snel accounts te kunnen laten aanmaken. Veel van deze accounts zijn inmiddels gesloten. Volgens Indicator gebruiken 54 van de 85 onderzochte websites nog altijd het eenvoudige inlogsysteem van Google. Bovendien proberen de makers detectie te ontwijken door tijdens het registratieproces via tussenliggende websites andere URL’s voor te spiegelen.

    Giftig

    Hoewel techbedrijven en toezichthouders traag hebben gereageerd op misbruik van deepfakes sinds deze meer dan tien jaar geleden voor het eerst verschenen, is er recent enige beweging gekomen in de aanpak ervan. De stadsadvocaat van San Francisco heeft zestien diensten aangeklaagd die zonder toestemming afbeeldingen genereren. Microsoft heeft ontwikkelaars achter deepfakes van beroemdheden geïdentificeerd. Meta heeft een rechtszaak aangespannen tegen een bedrijf dat achter een nudify-app zou zitten dat herhaaldelijk advertenties op hun platform plaatste. Intussen heeft president Donald Trump in de VS de controversiële Take It Down Act ondertekend. Deze wet verplicht techbedrijven om schadelijk beeldmateriaal zo snel mogelijk te verwijderen. Ook de Britse overheid werkt aan wetgeving die het genereren van expliciete deepfakes illegaal maakt. 

    Deze stappen kunnen nudify- en undressdiensten raken. Maar er is een structurelere aanpak nodig om deze snel groeiende, schadelijke industrie af te remmen. Mantzarlis stelt dat als techbedrijven proactiever en strikter optreden, de ruimte voor nudifywebsites kleiner wordt. ‘Ja, dit soort zaken zullen verhuizen naar minder gereguleerde delen van het internet – niks aan te doen,’ zegt hij. ‘Als websites moeilijker te vinden, te openen en te gebruiken zijn, zullen hun publiek en hun inkomsten afnemen. Helaas is dit een giftig product uit het generatieve AI-tijdperk dat we niet meer kunnen uitwissen. Maar we kunnen het wel aanzienlijk inperken.’