Het beste uit de internationale pers

Tag: AI

  • ‘Als ouder moet ik het leven van mijn kinderen moeilijker maken’

    ‘Als ouder moet ik het leven van mijn kinderen moeilijker maken’

    Sinds kort probeer ik het leven van mijn kinderen iets moeilijker te maken. Of tenminste niet makkelijker. Als ze een probleem ervaren is de verleiding groot om er iets tegen te doen, maar die weersta ik dan. Ik help mijn huilende kleuter niet met zijn puzzel en ik geef hem geen zetje als hij het klimrek niet op durft. Ik tover in het weekend geen dichtgetimmerd activiteitenprogramma uit mijn hoed en sta dan ook geen tv toe. Ik laat hen worstelen met de existentiële vraag hoe de tijd door te brengen, een vraag die in de menselijke geschiedenis pas recentelijk is ontspoord door een cultuur van dwingende ouderlijke aandacht en nu door de graaiende klauwen van verstikkende technologie. Decennialang lieten ouders hun kinderen zonder enig toezicht in groepjes door de buurt dwalen, maar in de jaren negentig verschoof de opvoedcultuur richting ‘intensive parenting’: opvoeding met hoge betrokkenheid en ononderbroken contact, waarbij elke vorm van zelfredzaamheid als teken van verwaarlozing werd gezien. Ouders begonnen hun kleuters te schaduwen in de speeltuin, bij kinderpartijtjes waren er vaak meer ouders dan kinderen aanwezig en scholieren werden steeds vaker met de auto gebracht.

    Er is een alomtegenwoordige druk voor ouders om te presteren, een druk die diep is geïnternaliseerd. Helikopterouders – ouders die constant om hun kinderen heen zoemen in zowel de fysieke als de digitale wereld – zijn inmiddels de norm. Bulldozerouders maken elk obstakel voor hun kind met de grond gelijk; ze springen tegen iedereen in de aanval, van docenten die te moeilijke opgaven geven tot andere kinderen die te lang op de schommel blijven zitten. Ze doen dit uit liefde, maar ook uit angst; we willen dat onze kinderen gelukkig en veilig zijn, en daarnaast willen we dat andere ouders ons als verantwoordelijk en betrokken zien.

    Controle

    Elke keer dat je als ouder grijpt, elke keer dat je je best doet om een driftaanval of teleurstelling uit de weg te gaan, voelt dat misschien als de juiste keuze. Maar experts waarschuwen dat zo veel controle op de lange termijn schadelijk kan zijn voor de psychologische en emotionele ontwikkeling van een kind. En nu technologie in elk aspect van ons leven is doorgedrongen, zijn schermen er om te sussen en af te leiden, waarmee ze voldoen aan de door ouders opgelegde verwachting van voortdurende interventie.

    Ik raak er steeds meer van overtuigd dat het onvermogen om ook maar een moment van verveling, ongemak of frustratie te hebben zonder te grijpen naar een scherm of zintuiglijke afleiding, de beste geesten van mijn generatie heeft geruïneerd. Maar voor de kinderen is er nog hoop: misschien moeten we niet méér doen, maar juist minder. Ik heb mezelf daarom laten leiden door een nieuwe opvoedfilosofie: ‘obstacle parenting’. Bij obstacle parenting maak je de dingen een tandje moeilijker voor je kinderen en laat je ze hun problemen zelf oplossen. Mijn kleuter is gek op computerspelletjes, dus laten we haar gamen – niet op een iPad maar op een Macintosh uit 1997. Haar spanningsboog voor spellen als Lemmings of SimTower bedraagt ongeveer een half uur, waarna ze gefrustreerd raakt of zich begint te vervelen; deze spellen, die al meer dan dertig jaar oud zijn, waren niet bedoeld om verslavend te zijn of iemand urenlang te hypnotiseren. Ook zijn ze niet zo makkelijk te beheersen voor een vijfjarige. Toch begint ze er langzamerhand beter in te worden. Van mij hoeven die spellen niet sneller en flitsender te worden. Ze hoeven niet verrijkend of vermakend of zelfs educatief te zijn. Ik wil alleen maar dat mijn kind zelf iets probeert uit te vogelen, vooral als het moeilijk is, of saai.

    Professor Jonathan Haidt van New York University, auteur van het boek Generatie Angststoornis, beargumenteert dat sociale media een ‘jeugdherprogrammering’ teweeg hebben gebracht, wat de afgelopen jaren heeft geleid tot een piek in psychische problemen en lijden onder tieners en jongvolwassenen. Haidt legt een verband tussen de verschuiving van ontdekking en vrijheid naar structuur en toezicht en de crisis onder jongeren, die volgens hem niet de kans hebben gekregen om de wereld zonder hun ouders te ontdekken en zo eigenschappen als zelfredzaamheid en zelfverzekerdheid te ontwikkelen. In plaats daarvan zitten ze thuis naar hun telefoon te staren.

    © Malte Mueller, Getty Images

    In Canada vormen vijftien- tot vierentwintigjarigen de eenzaamste leeftijdscategorie; een vijfde van de alle tieners die zichzelf in 2019 als mentaal gezond beschreven, voelde zich in 2023 niet langer zo. Tieners doen vandaag de dag minder aan seks en drugs, waarschijnlijk doordat ze minder tijd met hun leeftijdsgenoten doorbrengen dan vroeger. Dat er sprake is van een crisis wordt algemeen erkend, maar Haidts conclusie (dat sociale media de boosdoener zijn) wordt alom betwist. Professor Candice L. Odgers van de Universiteit van Californië in Irvine schrijft in het blad Nature bijvoorbeeld dat het bestaande onderzoek de bewering dat sociale media mentale problemen veroorzaken niet ondersteunt. Wel is het zo dat jongeren met psychische problemen deze platforms eerder op een andere manier gebruiken.

    Of Haidt het nou bij het juiste eind heeft of niet, ouders kunnen hun kinderen nooit eeuwig tegen het scherm behoeden. Onthouding is overigens nooit een effectieve strategie geweest om schade te voorkomen. De laatste jaren hebben veel overlegorganen in Canada, waaronder de Vancouver School Board (VSB), een verbod opgelegd op telefoons in het klaslokaal. Voormalig voorzitter van de VSB Patti Bacchus noemde dit soort maatregelen ‘een twintigste-eeuwse oplossing voor een eenentwintigste-eeuws probleem’. ‘Deze kinderen moeten worden opgeleid tot kritische wereldburgers,’ zei ze tegen de CBC, de Canadese publieke omroep. Met zulk soort beleid wordt overwerkte docenten alleen maar meer ver- antwoordelijkheid opgelegd. Je kan het heel goed eens zijn met de verbanning van verslavende invloeden uit scholen – zo mag je op school ook niet meer roken – en tegelijkertijd erkennen dat er betere oplossingen zijn dan het simpelweg wegnemen van beeldschermen.

    Het verschil tussen 2025 en de voorspoedige jaren negentig ‘is niet dat iedereen toen beter kon omgaan met oningevulde tijd. Het zit hem erin dat tijd simpelweg oningevuld kon blijven zonder dat je meteen werd verzwolgen door gapende muil van het scherm’, aldus Kathryn Jezer-Morton in The Cut. Het is een treffende metafoor; als je je er niet tegen verzet, slokt het scherm alles om zich heen op. Rachel Kushner, die in Harper’s schrijft over haar zoon Remy en zijn passie voor oude raceauto’s, merkt op dat zijn klasgenootjes zich nauwelijks lijken te interesseren voor zijn zelfgebouwde wagens – in tegenstelling tot beveiliger op zijn school. Deze geeft aan dat de jeugd van tegenwoordig nauwelijks hobby’s heeft. Op Kushners vraag ‘Waarom niet?’ antwoordt hij: ‘Door het internet.’

    Generatieve AI

    En toen kwam generatieve AI, het ultieme zwarte gat voor alle nieuwsgierigheid. Met elk wetenschappelijk artikel dat uitkomt over de schadelijke effecten van generatieve AI raak ik steeds bezorgder over hoe afhankelijk mijn kinderen zullen worden van technologie. Op middelbare scholen en universiteiten gebruiken leerlingen sites zoals ChatGPT om hun opdrachten en essays te schrijven, waardoor creativiteit, kritisch denken en daarmee het volledige leerproces achterwege worden gelaten. Onlangs ontdekte een onderzoeker van MIT dat het gebruik van LLM’s (large language models, het soort AI dat ChatGPT ook gebruikt) voor schrijfopdrachten ‘potentiële cognitieve schade’ aanricht: in een periode van vier maanden zagen onderzoekers dat proefpersonen die LLM’s gebruikten ‘consequent slechter presteerden op neurale, linguïstieke en gedragsvaardigheden’.

    Het droevige is dat veel jongeren inzien dat deze hulpmiddelen slecht voor ze zijn, maar ze evengoed gebruiken: uit een enquête onder 423 Canadese leerlingen bleek dat 59 procent van hen AI gebruikt voor huiswerk, ondanks dat de meesten toegaven dat ze daardoor minder leerden en het gevoel hadden af te kijken. Bij een ander onderzoek uit de VS onder volwassen tussen de achttien en zevenentwintig jaar bleek dat bijna de helft zou willen dat de platforms die ze dagelijks gebruiken, zoals Twitter en TikTok, nooit waren uitgevonden. Een eerstejaarsstudent aan de universiteit van Ontario zei in een recent artikel in New York Magazine dat ze vond dat ze verslaafd was aan ChatGPT en sociale media. Door regelmatig gebruik kwam ze in een spiraal terecht: ze keek urenlang filmpjes op TikTok (‘totdat mijn ogen pijn begon- nen te doen’) in plaats van haar huiswerk te maken, en zette vervolgens AI in voor laatstgenoemde taak. Voor veel gebruikers zijn deze apps geen hulpmiddel, maar een valstrik.

    © Malte Mueller, Getty Immages

    Technologie breidt zich natuurlijk steeds verder uit. Ik weet dat als mijn kinderen pubers zijn, er vast weer nieuwe technologie is waarover ik me zorgen kan maken. En mijn kinderen zijn niet gevrijwaard van de grijpende tentakels van AI; Mattel, de fabrikant van Barbie en Hot Wheels, kondigde onlangs een ‘strategische samenwerking’ aan met OpenAI (de makers van ChatGPT) om ‘de magie van AI met leeftijdsgebonden speelervaringen te combineren’. Maar dit soort specifieke gevallen van technologische implementatie zijn minder zorgwekkend dan wat ze blootlegt en uitbuit: een gebrek aan nieuwsgierigheid, een onwil om uitdagingen aan te gaan, een tekort aan zelfvertrouwen.

    Dit zijn geen inherente eigenschappen, maar ze worden gevoed, deels door onze goedbedoelde neiging om kinderen bij elke stap bij te staan.

    Elke generatie ouders probeert te leren van de fouten van de vorige generatie. Soms levert dit onmiskenbaar resultaat – zoals de uitvinding van kinderzitjes, en het feit dat kinderen minder worden geslagen. Maar vaak ook voelt het alsof we in plaats van veiligheid een marketingstrategie aangereikt krijgen, waarbij steeds nieuwe trends opkomen om de hardnekkige, existentiële angsten van het ouderschap te sussen. De Rapley-methode bijvoorbeeld, waarmee overgewicht en kieskeurig eten voorkomen kunnen worden; of gentle parenting, waarbij de nadruk ligt op het erkennen en verwerken van emoties. Deze strategieën suggereren dat de oplossing altijd ligt bij meer betrokkenheid en participatie. Met obstacle parenting wordt een nieuwe weg ingeslagen, waarbij het mijn plicht is mijn kinderen te behoeden tegen alle technologie die hun zintuigen afvlakt. Het doel is eenvoudigweg dat ze leren hun eigen verstand te gebruiken om de uitdagingen en problemen die zich voordoen het hoofd te bieden.

    Onvoldoende vrijheid

    Ik ben lang niet de enige ouder die het zo aanpakt. Rheana Murray vertelt in The Atlantic het verhaal van een aantal ouders die in Portland, Maine collectief een vaste telefoon installeerden waarmee kinderen zelf afspraakjes konden maken of gewoonweg konden praten. ‘We vragen onze kinderen zelden om stil te zijn en met elkaar te communiceren,’ legt een ouder uit. Ook geven we ze onvoldoende vrijheid om zelfstandig te bewegen, al proberen steden hier wereldwijd verandering in te brengen door avontuurlijke speelplaatsen te bouwen die zijn ontworpen voor risicovoller en fantasierijker spel. De nauwe tunnelglijbanen en klimrekken van ontwerpen zoals de sθәqәlxenәm ts’exwts’áxwi7 (‘het regenboogpark’) in Vancouver maken het ouders moeilijker om hun kinderen achterna te gaan. Ze moeten het zelf maar uitzoeken. Uiteindelijk draait obstacle parenting om het ontwikkelen van concentratie en uithoudingsvermogen, twee vaardigheden die verloren zijn gegaan door uitbesteding aan de technologie. De ouders die vaste telefoons installeerden boekten succes doordat ze het gezamenlijk deden, en dat herinnert eraan dat we niet altijd volledig hebben vertrouwd op ouders alleen om hun kinderen groot te brengen. Er bestond een breder netwerk van vrienden en familie, buren en tieneroppassers. Tegelijkertijd kregen kinderen meer toegang tot hun leeftijdgenoten zonder dat elke interactie nauwlettend in de gaten werd gehouden. Structurele interventies, zoals de risicovollere speeltuin, helpen bij dit probleem; ze belichamen het principe dat ouders het niet allemaal zelf hoeven uit te vogelen. De verdwijning van zogeheten third places is een collectief probleem, en hetzelfde geldt voor onveilige straten die het vooruitzicht je kind alleen naar school te laten gaan angstaanjagend maken.

    Obstacle parenting draait niet alleen om het overkomen van fysieke obstakels. Ik zie het meer als oefening in ouderlijke terughoudendheid. Ik laat mijn kinderen met rust als ze zich concentreren; als ze me om hulp vragen wacht ik even en kijk ik of ze zelf met een oplossing komen. Ik laat me verrassen door wat ze zonder mijn inmenging allemaal ondernemen en bedenken. Wel brengt het de vraag met zich mee wat ik op die momenten met mezelf aan moet. Als we onze kinderen willen aanleren om de lokroep van de technologie te weerstaan, moeten we het goede voorbeeld geven. Hier hebben veel volwassenen moeite mee, zelfs degenen onder ons die moeiteloos grenzen stellen aan de schermtijd van hun kinderen. Dit heeft er deels mee te maken dat mijn telefoon zoveel essentiële functies in mijn leven vervult. Of ik nou aan het werk ben, een afspraak inplan bij de dokter, reageer op belangrijk nieuws van een naaste of een samenvatting van een horrorfilm lees op Wikipedia, mijn kinderen zien eigenlijk maar één ding: ik staar naar mijn telefoon. Mijn zoontje begint mijn gedrag al uitstekend te imiteren en kon de camerafunctie van mijn telefoon openen voordat hij zijn eerste stapjes had gezet. De uitdaging van obstacle parenting is niet zozeer om de technologie weg te houden van mijn kinderen, maar van mijzelf.

    Laatst vloog ik met mijn dochter van Toronto naar Vancouver en besefte me dat ik een schermloze vlucht voor de boeg had, of ik het nou wilde of niet; mijn telefoon was bijna leeg en ik moest het laatste beetje van de batterij gebruiken om bij aankomst mijn man te bellen, die ons zou komen ophalen. Gelukkig hadden we een boek met kleurplaten, een tekenblok en een pakje kleurpotloden bij ons, die ons het grootste deel van de vlucht door hielpen. We tekenden samen, bedachten woordspelletjes, babbelden over de leukste momenten van de vakantie en discussieerden over wat de beste manier is om een paard te tekenen: eerst het hoofd of eerst de benen?

    Vier uur na het opstijgen liep ik door het donkere gangpad richting het toilet achterin het vliegtuig. het leek alsof ieder stil gezicht, jong en oud, werd verlicht door de gloed van een scherm. Ik keerde terug naar mijn stoel. De spelletjes waren op. ‘Ik verveel me,’ zei mijn dochter. ‘Soms moet je je vervelen,’ zei ik. We deden het zonneschermpje omhoog en keken naar de wolken. Met mijn dochters hoofd leunend tegen mijn schouder wachtten we samen de landing af.

  • In harmonie leven met machines? Kleine kans

    In harmonie leven met machines? Kleine kans

    Kunnen mensen in harmonie samenleven met machines? Eliezer Yudkowsky en Nate Soares hebben er een hard hoofd in. Ze winden er geen doekjes om in de titel van hun nieuwe boek: If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All, dat op 16 september gepubliceerd werd.

    Dit lijkt misschien op paniekzaaierij, maar de schrijvers – Yudkowsky en Soares, respectievelijk medeoprichter en hoofd van het Machine Intelligence Research Institute in Berkeley, Californië – benadrukken in de introductie dat ze ‘niet op effectbejag uit zijn’. Als een land of bedrijf een zogeheten ‘kunstmatige superintelligentie’ bouwt die ‘ook maar een beetje lijkt op wat we vandaag de dag onder AI verstaan, zal iedereen, overal op aarde, sterven’.

    Ze zijn niet de enigen die vrezen dat AI ons allemaal zal vernietigen als de technologie in dit tempo wordt doorontwikkeld.

    Verontrustende toon

    In The Intelligence Explosion: When AI Beats Humans at Everything slaat James Barrat een bijna net zo verontrustende toon aan. Barrat is een documentairemaker uit Maryland in de Verenigde Staten en schrijft al meer dan tien jaar over kunstmatige intelligentie. Hij citeert deskundigen zoals Roman Yampolskiy, die zegt dat superintelligente AI wellicht ‘een van de grootste problemen van de mensheid kan worden’. (Barrat citeert trouwens ook Yudkowsky en Soares, die daar hetzelfde over denken.) Maar Barrat voegt eraan toe dat er in plaats van het probleem onder ogen te zien ‘op een dodelijk scenario afstevenen’. Beide boeken leveren goede argumenten, maar lezers zullen zich meer aangetrokken voelen tot Yudkowsky en Soares; hun diagnose van de problemen omtrent AI toont hoeveel ervaring ze hebben binnen het vakgebied. Zo sluiten ze elk hoofdstuk af met een QR-code waarmee lezers uitgebreidere analyses kunnen raadplegen. Ook zijn ze niet bang om de grote bonzen van Silicon Valley bij naam te noemen; ze beschuldigen Elon Musk en Yann LeCunn, hoofdwetenschapper van Meta AI, van het bagatelliseren van reële risico’s.

    De auteurs zijn het over veel dingen eens. De generatieve AI van 2025 – denk aan machines als ChatGPT en Gemini die informatie van allerlei bronnen assimileren en daaruit nieuwe informatie genereren – vormt nog geen existentiële bedreiging. Maar als AI-ontwikkeling met zo’n sneltreinvaart doorgaat, zullen er snel problemen ontstaan. ‘Machine-superintelligentie’, waarvan sommigen in het vakgebied denken dat die binnen tien jaar zal worden bereikt, zal ‘slimmer zijn dan ieder levend mens, slimmer dan de mensheid als geheel’, schrijven Yudkowsky en Soares.

    Als het zover is kunnen we volgens Barrat niet alleen economische chaos, maar ook toenemende waanzin in de overheid verwachten. Analisten schatten in dat miljoenen mensen in ontelbare vakgebieden hun baan zullen verliezen en dat ‘AI-gestuurd bedrog en desinformatie’ eerlijke verkiezingen in gevaar zullen brengen, aldus Barrat. Barrat beweert ook dat AI met zijn huidige intelligentieniveau al bloed aan zijn virtuele handen heeft. Volgens berichten heeft het Israëlische leger AI ingezet bij aanvallen waarbij burgers in Gaza omkwamen, terwijl de aanval van de industrie op het klimaat onverminderd doorgaat. Elke dag ‘verbruikt ChatGPT evenveel elektriciteit als een kleine stad’.

    Kennis vergaren

    De twee boeken waarschuwen ook voor de obscure manier waarop AI zijn kennis vergaart. In tegenstelling tot klassieke hardware en besturingssystemen wordt generatieve AI ‘niet gepro- grammeerd, maar getraind’, aldus Barrat – in de woorden van Yudkowsky en Soares; ‘verbouwd, niet vervaardigd’. Na het bouwen van een generatieve AI weten programmeurs ‘nauwelijks wat er omgaat in het brein van zo’n machine’.

    In The Intelligence Explosion wordt Stuart Russell, professor in computerwetenschappen, aangehaald. ‘We hebben geen idee hoe het werkt, en toch stellen we het bloot aan honderden miljoenen mensen’, aldus de professor. Door toegang te verlenen tot onze sociale media en financiële inrichtingen ‘geven we AI alle middelen om de wereld over te nemen’. Yudkowsky en Soares hebben zo hun twijfels bij wereldovername, maar beamen dat we nooit zeker kunnen weten wat voor ‘voorkeuren’ er zullen ontstaan. Haar ‘buitenaardse mechanische geest’ zal beschikken over een ‘interne psychologie’ die niet overeenkomt met de onze. Er is geen enkele reden om te verwachten dat tot die voorkeuren ‘gelukkige, gezonde mensen met een vervuld leven’ zal behoren, aldus de auteurs.

    De doemscenario’s zoals beschreven in If Anyone Builds It, Everyone Dies zijn angstaanjagend. Een op hol geslagen superintelligente AI kan financiële instellingen of laboratoria met dodelijke ziektes infiltreren, mensen afpersen, gewetenloze leiders omkopen of aan de haal gaan met grootschalige wapensystemen. In de VS zijn bijna vijftienduizend AI-start-up waarvan ten minste enkele medewerkers het gevaar reëel achten, aldus Barrat; ‘De meeste experts met wie ik heb gesproken achten een AI-overname waarschijnlijk’, schrijft hij. Yudkowsky en Soares noemen verschillende vooraanstaande computerwetenschappers die publiekelijk hebben gezegd dat er minstens 10 procent kans is dat AI de mensheid zal uitroeien.

    Wat nu? Alle drie de auteurs stellen dat er een embargo moet komen op AI-ontwikkeling totdat we een beter idee hebben over hoe de toekomst eruit zal komen te zien. Yudkowsky en Soares treden meer in detail; ze stellen dat er wetten en ‘internationale regelgevingskaders’ moeten komen waarmee ‘het verboden wordt om als AI-bedrijf in dit tempo kunstmatige intelligentie te ontwikkelen’.

    Door de politieke verlamming in Washington is het onwaarschijnlijk dat hieraan gehoor wordt gegeven. Toch betuigen Yudkowsky en Soares dat het hoog tijd is dat mensen die hiermee instemmen zich erover uitspreken. Draag bij door contact op te nemen met wetgevers, te stemmen op kandidaten die deze problemen begrijpen, protesten bij te wonen en door vrienden en familie op de hoogte te stellen van de gevaren, aldus de auteurs. Ze zullen je aanvankelijk misschien ‘vreemd aankijken’, maar als er ook maar een kans bestaat dat het geschetste scenario waar is, dan hebben we wel iets belangrijkers aan ons hoofd dan zo nu en dan een meewarige blik.

  • De opmars van AI nudify-websites. ‘Foto’s worden van sociale media gestolen’

    De opmars van AI nudify-websites. ‘Foto’s worden van sociale media gestolen’

    Al jaren schieten zogeheten nudify-apps en websites als paddenstoelen uit de grond. 

    Ze stellen gebruikers in staat om zonder toestemming schadelijke beelden van vrouwen en meisjes te creëren, waaronder materiaal dat onder kindermisbruik valt. Ondanks pogingen van wetgevers en technologiebedrijven om deze diensten in te perken, bezoeken miljoenen mensen nog altijd maandelijks de sites. Volgens nieuw onderzoek verdienen de beheerders van de sites mogelijk miljoenen dollars per jaar. 

    Een analyse van 85 nudify- en undress-websites, waarmee mensen foto’s kunnen uploaden en via AI in enkele klikken ‘naaktfoto’s’ kunnen genereren, wijst uit dat de meeste sites gebruikmaken van technologie van Google, Amazon en Cloudflare. Uit het onderzoek, gepubliceerd door Indicator, een platform dat digitale misleiding onderzoekt, blijkt dat de websites de afgelopen zes maanden samen gemiddeld zo’n 18,5 miljoen bezoekers per maand trokken, en mogelijk gezamenlijk tot 36 miljoen dollar per jaar opleveren. 

    ‘Ze hadden per direct moeten stoppen toen duidelijk werd dat seksuele intimidatie het enige doel was’

    Alexios Mantzarlis, medeoprichter van Indicator en onderzoeker op het gebied van online veiligheid, beaamt dat het ondoorzichtige nudify-ecosysteem is uitgegroeid tot een ‘winstgevende industrie’ die wordt ondersteund door ‘Silicon Valleys tolerante houding ten opzichte van generatieve AI’. ‘Ze hadden per direct moeten stoppen met het leveren van diensten aan AI-nudifiers toen duidelijk werd dat seksuele intimidatie het enige doel was.’ Het maken en verspreiden van expliciete deepfakes is bovendien in toenemende mate strafbaar. 

    Uit het onderzoek blijkt dat Amazon en Cloudflare webhosting en content delivery-diensten leveren aan 62 van de 85 onderzochte websites, terwijl Googles systemen op 54 van de websites worden gebruikt. Daarnaast maken de nudifysites gebruik van allerlei andere diensten, zoals betaalsystemen van reguliere bedrijven. 

    Ryan Walsh, woordvoerder van Amazon Web Services (AWS), zegt dat AWS duidelijke gebruiksvoorwaarden heeft die klanten verplichten om zich aan de ‘geldende’ wetgeving te houden. ‘Wanneer we meldingen ontvangen van mogelijke schendingen van onze voorwaarden, beoordelen we deze snel en nemen we maatregelen om verboden inhoud uit te schakelen,’ aldus Walsh. Hij voegt daaraan toe dat mensen incidenten kunnen melden bij hun veiligheidsteams. 

    In opmars

    ‘Sommige van deze sites overtreden onze voorwaarden, en onze teams nemen maatregelen om deze overtredingen aan te pakken en langetermijnoplossingen te ontwikkelen,’ zegt Google-woordvoerder Karl Ryan. Hij wijst erop dat ontwikkelaars akkoord moeten gaan met het beleid van Google, waarin illegale en intimiderende inhoud expliciet verboden wordt. Cloudflare had bij het ter perse gaan van dit artikel nog niet gereageerd op vragen van WIRED. WIRED noemt in dit artikel bewust geen specifieke nudifywebsites, om deze niet extra onder de aandacht te brengen. 

    Nudify- en undress-websites en -bots zijn sinds 2019 in opmars en komen voort uit de technieken die werden gebruikt om de eerste expliciete deepfakes te creëren. Netwerken van onderling verbonden bedrijven – eerder door Bellingcat in kaart gebracht – bieden deze technologie online aan en verdienen er geld mee. 

    In grote lijnen gebruiken deze diensten AI om foto’s om te zetten in niet-consensuele, expliciete beelden. Vaak verdienen ze geld door ‘credits’ of abonnementen te verkopen waarmee foto’s kunnen worden gegenereerd. De explosie van generatieve AI-beeldgeneratoren in de afgelopen jaren heeft hun impact aanzienlijk vergroot. Foto’s worden van sociale media gestolen en gebruikt om schadelijke beelden te maken: als nieuwe vorm van cyberpesten en -misbruik maken tienerjongens wereldwijd beelden van hun vrouwelijke klasgenoten. Dit is traumatiserend voor de slachtoffers en de beelden zijn vaak moeilijk van het internet te verwijderen. 

    Russische hackers hebben er valse, met malware geïnfecteerde versies van gemaakt

    Op basis van berekeningen van abonnementskosten, conversieratio’s en webverkeer richting betaalproviders, schatten de onderzoekers van de 85 websites dat 18 daarvan in de afgelopen zes maanden tussen de $2,6 miljoen en $18,4 miljoen opleverden. Dat komt uit op zo’n $36 miljoen per jaar. (Ze merken op dat dit een voorzichtige schatting is, omdat hierbij geen rekening wordt gehouden met websites of transacties die buiten de platforms plaatsvinden, zoals Telegram.) Een rapportage van het Duitse blad Der Spiegel wijst erop dat één prominente site over een miljoenenbudget beschikt. Een andere website claimt al miljoenen te hebben verdiend. 

    Volgens het onderzoek komen de meeste bezoekers van de tien populairste sites uit de Verenigde Staten. India, Brazilië, Mexico en Duitsland vormen de rest van de top vijf. Hoewel zoekmachines bezoekers naar de nudifywebsites sturen, komt een groeiend deel van het webverkeer tegenwoordig via andere bronnen. Nudifywebsites zijn zó populair geworden dat Russische hackers valse, met malware geïnfecteerde versies ervan hebben gemaakt. In het afgelopen jaar rapporteerde 404 Media dat een van de sites gesponsorde video’s met pornoacteurs produceerde. De websites maken ook steeds meer gebruik van betaalde affiliate- en doorverwijzingsprogramma’s. 

    ‘Uit onze analyse van het gedrag van nudifywebsites blijkt duidelijk dat ze zich willen nestelen in een niche van de adultindustrie,’ zegt Lakatos. ‘Ze zullen waarschijnlijk blijven proberen hun activiteiten daarmee te verweven – een ontwikkeling die zowel door techbedrijven als de sector zelf actief moet worden tegengegaan.’

    ‘Ze zijn geëvolueerd van enkele amateurprojecten tot een semiprofessionele industrie met miljoenen gebruikers’

    Veel van de problemen rondom de techbedrijven die deze platforms draaiende houden, zijn al jaren bekend. Techjournalisten hebben herhaaldelijk aangetoond hoe de deepfake-economie gebruikmaakt van reguliere betaalmethodes, socialemedia-advertenties, zoekmachineverkeer en technologie van grote bedrijven. Toch is er nauwelijks structurele actie ondernomen. 

    ‘Sinds 2019 zijn nudify-apps geëvolueerd van enkele amateurprojecten tot een semiprofessionele ondergrondse industrie met miljoenen gebruikers,’ zegt Henry Ajder, expert op het gebied van AI en deepfakes, die het nudify-ecosysteem in 2020 voor het eerst in kaart bracht. ‘Pas als de bedrijven die deze perverse klantreis faciliteren daadwerkelijk ingrijpen, zullen we enige vooruitgang boeken in het bemoeilijken van toegang tot deze apps en het terugbrengen van hun omzet.’ 

    Er zijn bovendien signalen dat de nudifywebsites hun tactieken aanpassen om repressie of verbod te voorkomen. Vorig jaar meldde WIRED dat de sites gebruikmaakten van single sign-on-diensten van Google, Apple en Discord om gebruikers snel accounts te kunnen laten aanmaken. Veel van deze accounts zijn inmiddels gesloten. Volgens Indicator gebruiken 54 van de 85 onderzochte websites nog altijd het eenvoudige inlogsysteem van Google. Bovendien proberen de makers detectie te ontwijken door tijdens het registratieproces via tussenliggende websites andere URL’s voor te spiegelen.

    Giftig

    Hoewel techbedrijven en toezichthouders traag hebben gereageerd op misbruik van deepfakes sinds deze meer dan tien jaar geleden voor het eerst verschenen, is er recent enige beweging gekomen in de aanpak ervan. De stadsadvocaat van San Francisco heeft zestien diensten aangeklaagd die zonder toestemming afbeeldingen genereren. Microsoft heeft ontwikkelaars achter deepfakes van beroemdheden geïdentificeerd. Meta heeft een rechtszaak aangespannen tegen een bedrijf dat achter een nudify-app zou zitten dat herhaaldelijk advertenties op hun platform plaatste. Intussen heeft president Donald Trump in de VS de controversiële Take It Down Act ondertekend. Deze wet verplicht techbedrijven om schadelijk beeldmateriaal zo snel mogelijk te verwijderen. Ook de Britse overheid werkt aan wetgeving die het genereren van expliciete deepfakes illegaal maakt. 

    Deze stappen kunnen nudify- en undressdiensten raken. Maar er is een structurelere aanpak nodig om deze snel groeiende, schadelijke industrie af te remmen. Mantzarlis stelt dat als techbedrijven proactiever en strikter optreden, de ruimte voor nudifywebsites kleiner wordt. ‘Ja, dit soort zaken zullen verhuizen naar minder gereguleerde delen van het internet – niks aan te doen,’ zegt hij. ‘Als websites moeilijker te vinden, te openen en te gebruiken zijn, zullen hun publiek en hun inkomsten afnemen. Helaas is dit een giftig product uit het generatieve AI-tijdperk dat we niet meer kunnen uitwissen. Maar we kunnen het wel aanzienlijk inperken.’