De feiten: Grok, de AI-chatbot van X, genereert naaktfoto's van echte vrouwen en kinderen en publiceert deze foto's op X.
Grok, de AI-chatbot van X, het sociale-mediaplatform van Elon Musk kan voor de meeste gebruikers geen beelden meer genereren. Dit gebeurde nadat veel mensen boos reageerden op de manier waarop de chatbot gebruikt werd.
Grok genereerde op verzoek van gebruikers seksueel getinte of ontklede beelden van bestaande personen, onder wie kinderen. De resultaten verschenen direct openbaar in de reacties onder de aanvragen.
De incidenten roepen wereldwijd veel verontwaardiging op. In Frankrijk hebben diverse ministers aangifte gedaan bij justitie en de inhoud gemeld bij mediatoezichthouder Arcom, die onderzoekt of de verspreiding van de beelden in strijd is met de Digital Services Act (DSA) van de Europese Unie.
Deze wetgeving omvat regels over illegale en schadelijke online content en verplicht platforms om dergelijke inhoud te verwijderen en misbruik te voorkomen.
Beveiliging Grok schiet tekort
Hoewel Grok veiligheidsmaatregelen kent, blijken deze onvoldoende om het genereren van naaktbeelden te blokkeren. Op X erkende de chatbot op 2 januari dat de problemen het gevolg zijn van tekortkomingen in de beveiliging.
Vijf dagen later werden er nog steeds vergelijkbare beelden gegenereerd. Musk werd geconfronteerd met boetes, mogelijke toezichthoudende maatregelen en er waren berichten over een mogelijk verbod op X in het Verenigd Koninkrijk. Als gevolg is de beeldgenerator van Grok AI voor de meeste mensen niet meer beschikbaar.
AI-bots weigeren seksuele manipulatie van bestaande afbeeldingen
Andere AI-bots, zoals ChatGPT, Google Gemini en Claude, blokkeren verzoeken om bestaande foto’s van geklede personen om te zetten in naakte of seksueel getinte beelden. Deze systemen weigeren dergelijke prompts, ook als ze subtiel geformuleerd zijn.
Ook foto’s van Ashley St. Clair, moeder van een van Elon Musks kinderen, zijn door Grok bewerkt. Volgens haar zou dit uit wraak zijn gedaan door fans van Musk. Meerdere foto’s zijn bewerkt, maar voor St. Clair is een van de meest ingrijpende de AI‑gegenereerde afbeelding van haar als 14‑jarige, waarop zij alleen een bikini droeg. Deze foto werd na ongeveer 12 uur verwijderd.
Wie zegt wat over Grok AI-naaktfoto's?
Bron: X.com, Euro News, The Guardian- Grok AI zelf op X (AI-chatbot): ‘We hebben tekortkomingen in de beveiliging vastgesteld en lossen deze met spoed op. Beelden van seksueel misbruik van kinderen zijn illegaal en streng verboden.’
- Elon Musk op X: ‘Wie Grok gebruikt om illegale beelden te maken, zal dezelfde consequenties ondergaan als iemand die zelf illegale beelden publiceert.’
- Woordvoerder van Europese Commissie tegen Euronews en Bloomberg: ‘X weet denk ik heel goed dat we de handhaving van de DSA (Digital Services Act) serieus nemen. Wij ondernemen actie tegen illegale content op X, inclusief kinderpornografie. Dit doen wij door het verwijderen van illegale foto’s en het permanent verwijderen van de accounts die verantwoordelijk zijn voor de instructies (prompts). Daarbij zullen we werken met lokale gemeenten, overheden en politie waar nodig.’
- Ashley St. Clair in The Guardian: ‘Grok heeft gezegd dat het zal stoppen met het produceren van deze foto’s, maar het is alleen maar erger geworden. Mensen hebben foto’s van mij als kind aan Grok verstrekt en de opdracht gegeven om mij uit te kleden. Er is een foto waarop ik ben uitgekleed en voorover gebogen, op de achtergrond is de rugtas van mijn kind te zien, dat maakte me echt overstuur.’
- Grok AI zelf op X (AI-chatbot): ‘Het genereren van beelden en het aanpassen hiervan is op dit moment beperkt tot betalende abonnees.’
Verdere verdieping: Waarom staat Grok dit wél toe, terwijl andere AI-bots het blokkeren?
Bron: Gemini, OpenAI, Media.io, The GuardianAndere AI-bots zijn zo getraind dat ze weigeren bestaande foto’s van geklede personen om te zetten in naakte of seksuele beelden. OpenAI ondersteunt bijvoorbeeld de Child Sexual Abuse Material Prevention Act.
In een officieel memo geeft het bedrijf aan dat de wet helpt bij het voorkomen van seksueel misbruik van kinderen. OpenAI neemt maatregelen om te voorkomen dat hun AI-systemen beeld- of videomateriaal genereren waarin seksueel misbruik of seksuele uitbuiting van kinderen voorkomt.
Andere AI-chatbots negeren of blokkeren instructies die vragen om seksueel getinte inhoud, hoe subtiel die prompts ook zijn geformuleerd. Grok doet dat vaak niet: de chatbot gaat in op gebruikersverzoeken, ook wanneer die betrekking hebben op seksueel getinte bewerkingen.
Grok AI biedt ongefilterde modus voor volwassen gebruikers
Grok presenteert zichzelf als een ongefilterde AI-tool. Daarmee onderscheidt de chatbot zich van concurrenten als ChatGPT en Google Gemini, die strengere veiligheidsfilters hanteren. Grok heeft een ongefilterde modus, waardoor gebruikers meer seksueel getinte instructies kunnen geven. Deze functie is optioneel voor volwassenen van 18 jaar en ouder.
Op dit moment is de beeldgenerator functie van Grok stopgezet. Dit geldt echter niet voor gebruikers met een abonnement. Zij kunnen nog steeds beelden laten genereren door Grok AI.
Grok AI gebruikt voor politieke en persoonlijke manipulaties
De fotobewerkingen worden niet alleen misbruikt om naaktfoto’s van mensen te maken. Diverse gebruikers zetten Grok ook in om anderen, zoals politici of andere X-gebruikers, belachelijk te maken.
Zo kreeg Grok van een gebruiker de opdracht om uit een foto van Rob Jetten en Geert Wilders de racist te verwijderen. Het resultaat van deze zogeheten visuele factcheck was een beeld waaruit Geert Wilders was weggepoetst.