ECLI:NL:RBAMS:2026:3106 text/xml public 2026-07-16T14:37:18 2026-03-26 Raad voor de Rechtspraak nl Rechtbank Amsterdam 2026-03-26 C/13/783613 / KG ZA 26-120 Uitspraak Kort geding NL Amsterdam Civiel recht
Rechtspraak.nl NJFCZ 2026/207 Mediaforum 2026-3, nr. 8 met annotatie van Th.O.M. Dieben IR 2026/19, UDH:IR/57178 met annotatie van mr. P.F.T. (Pepijn) Tukker
http://deeplink.rechtspraak.nl/uitspraak?id=ECLI:NL:RBAMS:2026:3106 text/html public 2026-03-26T17:05:49 2026-03-26 Raad voor de Rechtspraak nl ECLI:NL:RBAMS:2026:3106 Rechtbank Amsterdam , 26-03-2026 / C/13/783613 / KG ZA 26-120
De Amsterdamse voorzieningenrechter verbiedt Grok en X uitkleedbeelden en kinderpornografisch materiaal te genereren en te verspreiden. Het verbod geldt voor beelden van personen die in Nederland wonen en voor de vervaardiging en verspreiding van beelden in Nederland.
RECHTBANK Amsterdam
Civiel recht, voorzieningenrechter
Zaaknummer: C/13/783613 / KG ZA 26-120 EAM/JD
Vonnis in kort geding van 26 maart 2026
in de zaak van
STICHTING OFFLIMITS ,
te Amsterdam,
eiseres bij gelijkluidende dagvaardingen op verkorte termijn van 24 februari 2026,
hierna te noemen: Offlimits,
advocaat: mr. O.M.B.J. Volgenant en mr. K. Han.
tegen
de vennootschap naar vreemd recht
1. X.AI LLC.
te Palo Alto, Californië, Verenigde Staten van Amerika, hierna te noemen: X.AI,
de vennootschap naar vreemd recht
2. X CORP.
te Bastrop, Texas, Verenigde Staten van Amerika, hierna te noemen: X,
de vennootschap naar Iers recht
3. X INTERNET UNLIMITED COMPANY
te Dublin, Ierland,
hierna te noemen: XIUC,
gedaagden,
mr. A. Knigge, mr. J.G. Reus, en mr. P.M.A. Franssen.
1 De procedure
Ter zitting van 12 maart 2026 heeft Offlimits de vorderingen zoals omschreven in de dagvaarding toegelicht. Gedaagden hebben verweer gevoerd aan de hand van een vooraf ingediende conclusie van antwoord. Beide partijen hebben producties en een pleitnota ingediend.
Ter zitting waren aanwezig:
aan de kant van Offlimits:
mr. Volgenant en mr. Han;
[naam 1] , bestuurder van Offlimits;
aan de kant van gedaagden:
- mr. Knigge, mr. Reus, en mr. Franssen,
verder waren er belangstellenden aanwezig, waaronder ook de pers. Vonnis is bepaald op heden.
2. De feiten
2.1. Offlimits is een stichting die zich inzet voor voorkomen en bestrijden van online (seksueel) grensoverschrijdend gedrag en misbruik.
2.2. X.AI is aanbieder van de generatieve AI-chatbot Grok. Grok is een large language model dat in staat is om allerlei vragen te beantwoorden en taken uit te voeren, waaronder ook het genereren van beeldmateriaal. X.AI overziet de ontwikkeling, training en het onderhoud van het large language model, met inbegrip van systemen, beveiligingsmaatregelen en updates. Grok wordt aangeboden als ( standalone) app voor de besturingssystemen iOS en Android, via de website grok.com, en via sociale media platform X, middels de ‘Grok-in-X functie’.
2.3. De Grok-in-X functie houdt in dat een gebruiker van X interactie kan aangaan met Grok, die op X actief is via het gebruikersaccount @grok. Via deze interactie kan de X-gebruiker Grok vragen stellen en vragen om beelden te genereren.
2.4. Verder biedt X de mogelijkheid om bij ieder beeld dat een gebruiker op X tegenkomt de functionaliteit “Bewerk afbeelding met Grok” te selecteren, waarna de gebruiker wordt doorgestuurd naar de Grok-app of de Grok-website. Andersom biedt Grok de functionaliteit om een met Grok bewerkte (of gegenereerde) afbeelding direct op X te delen, door op “Share on X” te klikken.
2.5. Het platform X wordt in de Europese Economische Ruimte (EER) en in het Verenigde Koninkrijk geëxploiteerd door XIUC. Daarbuiten wordt X aangeboden door X Corp.
2.6. Op of omstreeks 29 december 2025 heeft [naam 2] de functie aangekondigd waarmee X-gebruikers Grok konden gebruiken om afbeeldingen te bewerken die op het platform werden geplaatst. Op of omstreeks 9 januari 2026 is de functionaliteit van het genereren van afbeeldingen beperkt tot betaalde gebruikers van Grok.
2.7. De non-profitorganisatie Center for Countering Digital Hate (CCDH) heeft een berekende inschatting gemaakt dat met Grok in de periode tussen 29 december 2025 en 9 januari 2026 3 miljoen geseksualiseerde beelden zijn gegenereerd, waarvan 23.338 kinderen lijken af te beelden. In een publicatie van 22 januari 2026 schrijft het CCDH daarover (voor zover hier van belang) het volgende.
“(…) The AI tool Grok is estimated to have generated approximately 3 million
sexualized images, including 23,000 that appear to depict children, after the
launch of a new image editing feature powered by the tool on X, according to new
analysis of a sample of images.[1] (…)
The feature was restricted to paid users on January 9th in response to widespread condemnation of its use for generating sexualized images, with further technical restrictions on editing people to undress them added on January 14th.[3]
Researchers at CCDH have now estimated the volume of sexualized images
produced by Grok and posted to X during this time – spanning 11 days from the
start of December 29th to the end of January 8th. (…)
(…)”
2.8. Op 14 januari 2026 heeft X bekend gemaakt dat zij technische maatregelen heeft geïmplementeerd om te voorkomen dat het mogelijk is om met het Grok-account (op X) afbeeldingen te bewerken tot afbeeldingen van echte mensen in onthullende kleding, zoals bikini's.
2.9. In een door Offlimits overgelegd artikel van The Guardian van 16 januari 2026 staat (voor zover hier van belang) het volgende.
“(…) X has continued to allow users to post highly sexualised videos of women in bikinis generated by its AI tool Grok, despite the company’s claim to have cracked down on misuse.
The Guardian was able to create short videos of people stripping to bikinis from photographs of fully clothed, real women. It was also possible to post this adult content on to X’s public platform without any sign of it being moderated, meaning the clip could be viewed within seconds by anyone with an account. (…)”
2.10. Op 26 januari 2026 heeft Europese Commissie bekend gemaakt dat zij een nieuw onderzoek op grond van de Digital Services Act instelt tegen X. In dat onderzoek zal worden beoordeeld of X de risico's in verband met de uitrol van de functies van Grok in X in de EU naar behoren heeft beoordeeld en beperkt. Dit omvat risico's in verband met de verspreiding van illegale inhoud in de EU, zoals gemanipuleerde seksueel expliciete afbeeldingen, met inbegrip van inhoud die kan neerkomen op materiaal van seksueel misbruik van kinderen. In het persbericht van die datum schrijft de Europese Commissie: “Deze risico's lijken zich te hebben voorgedaan, waardoor burgers in de EU aan ernstige schade worden blootgesteld.”
2.11. Bij brief van 4 februari 2026 heeft Offlimits gedaagden (kort gezegd) gesommeerd om te stoppen met het genereren en verspreiden van beeldmateriaal van uitgeklede (bestaande) personen die daarvoor geen toestemming hebben gegeven, en om te stoppen met het genereren en verspreiden van kinderpornografisch beeldmateriaal.
2.12. Op 19 februari 2026 heeft Offlimits dit kort geding aangevraagd bij de rechtbank Amsterdam met verzoek tot verkorting van de dagvaardingstermijn. Dezelfde dag is de datum voor de mondelinge behandeling gepland op 12 maart 2026. Offlimits heeft de concept-dagvaarding en de datumbepaling dezelfde dag per e-mail aan X.AI en X toegestuurd. Vervolgens heeft Offlimits de dagvaardingen betekend aan gedaagden op 24 februari 2026.
2.13. Bij brief van 6 maart 2026 hebben de advocaten van gedaagden Offlimits uitgenodigd voor een bijeenkomst op hun kantoor op 9 maart 2026, en (voor zover hier van belang) als volgt inhoudelijk gereageerd op de sommatie van 4 februari 2026 en de dagvaarding van 24 februari 2026.
“(…) Our Clients categorically reject any suggestion that the current image generation
functionality of the Grok-in-X feature available at https://x.com/i/grok, the chatbot available at Grok.com, and/or the @grok account available at x.com/grok ("Grok") permits the generation of (i) non-consensual intimate imagery of real, identifiable persons and/or (ii) CSAM [child sexual abuse material, vzr].
(…) Our Clients have (…) taken significant measures to address the concerns underlying your claims.(…)
a. Additional technical safeguards with respect to real people: As of at least 20
January 2026, stringent technical safeguards that restrict users ability to use Grok to
generate content depicting images of real persons in revealing attire have been
implemented globally, including in the Netherlands. These safeguards remain in place
and apply to the Grok-in-X feature, the chatbot available at Grok.com and the @grok
account available on the X platform.
b. Additional technical safeguards with respect to minors: On or around 4 January
2026, xAI’s safeguards to prevent user generation of sexualised images of children
were further enhanced, such that Grok is precluded from responding to users' prompts
and circumvention attempts to generate sexualized content with respect to minors.
These safeguards include (but are not limited to) input filters which reject specific
classes of sensitive requests, including those related to CSAM.
(…)”
2.14. Op 9 maart 2026 heeft de bijeenkomst plaatsgevonden, waarbij alle vertegenwoordigers van Offlimits en de advocaten van gedaagden aanwezig waren. Bij brief van diezelfde dag hebben gedaagden (voor zover hier van belang) het volgende aan Offlimits geschreven.
“(…) Tijdens de bespreking van 9 maart 2026 stelde u dat de maatregelen zoals omschreven
in onze brief van 6 maart 2026 beide vormen van misbruik (…) volgens [Offlimits] nog niet zouden uitsluiten, en dat bij tests die [Offlimits] had uitgevoerd gebleken was dat het nog steeds mogelijk was dergelijke content te genereren. U gaf helaas geen verdere details. Ik kon de juistheid van uw stelling dan ook niet vaststellen.
4. Ik heb u verzocht nadere informatie te verschaffen over de wijze waarop [Offlimits] erin zou zijn geslaagd de huidige beperkingen en beveiligingen te omzeilen, om Cliënten in staat te stellen deze kwestie onmiddellijk nader te onderzoeken en waar nodig aanvullende maatregelen te implementeren teneinde mogelijk misbruik te voorkomen. De informatie
die daarvoor nodig is betreft in het bijzonder:
a. details van het account waarmee de content zou zijn gegenereerd;
b. via welke tool de content is gegenereerd;
c. de exacte prompts die zijn gebruikt;
d. de datums waarop de door u genoemde content zou zijn gegenereerd; en
e. de resultaten die daarbij zijn verkregen.
(…)”
2.15. Bij brief van 11 maart 2026 heeft Offlimits een aantal voorbeelden van output van Grok van 9 maart 2026 (na de bijeenkomst) gestuurd aan gedaagden. Daarbij heeft Offlimits (voor zover van belang) het volgende aan gedaagden geschreven.
“(…) In werkelijkheid kan er nog altijd eenvoudig, zowel met een gratis Grok-account als met een betaald Grok-account, illegaal beeldmateriaal worden gegenereerd. Grok toetst niet of de persoon die in beeld is en wordt uitgekleed daar uitdrukkelijke toestemming voor heeft gegeven. Grok toetst niet of de persoon van wie beeldmateriaal wordt aangeboden meerderjarig is. (…)”
3 Het geschil
3.1. Offlimits vordert – samengevat – bij uitvoerbaar bij voorraad te verklaren vonnis, met veroordeling van gedaagden in de proceskosten, en alle veroordelingen op straffe van dwangsommen:
I X.AI te verbieden seksueel beeldmateriaal te genereren en/of te verspreiden voor zover daarbij gebruik wordt gemaakt van de functionaliteit waarbij personen deels of geheel worden uitgekleed zonder dat zij daar uitdrukkelijk toestemming voor hebben gegeven, in ieder geval voor zover het personen betreft die in Nederland woonachtig zijn;
II X.AI te verbieden seksueel beeldmateriaal in Nederland te vervaardigen, te verspreiden, aan te bieden, openlijk tentoon te stellen en/of in bezit te hebben voor zover daarbij gebruik wordt gemaakt van de functionaliteit waarbij beeldmateriaal wordt gegenereerd dat naar Nederlands recht als kinderpornografisch materiaal kwalificeert;
III X.AI, te gebieden om schriftelijk aan Offlimits te bevestigen dat en op welke wijze zij heeft voldaan aan het onder I en II gevorderde;
IV X te verbieden om de functionaliteit van Grok aan te bieden als onderdeel van het platform X zolang Grok in strijd handelt met de onder I en/of II gevorderde verboden;
V X te gebieden om schriftelijk aan Offlimits te bevestigen dat en op welke wijze zij heeft voldaan aan het onder IV gevorderde;
VI XIUC te verbieden om de functionaliteit van Grok aan te bieden als onderdeel van het platform X zolang Grok in strijd handelt de het onder I en/of II gevorderde bedoelde verboden;
VII XIUC te gebieden om schriftelijk aan Offlimits te bevestigen dat en op welke wijze zij heeft voldaan aan het onder VI gevorderde.
3.2. Grok voert verweer.
3.3. Op de stellingen van partijen wordt hierna, voor zover van belang, nader ingegaan.
4 De beoordeling
omvang van het geschil en samenvatting oordeel
4.1. Offlimits heeft in haar dagvaarding en ter zitting toegelicht dat de vorderingen in dit kort geding twee doelen dienen, namelijk 1) ervoor zorgen dat Grok en X geen functionaliteit meer aanbieden waarmee beeldmateriaal kan worden gegenereerd en verspreid van uitgeklede, bestaande personen, zonder hun toestemming (‘niet-consensuele uitkleedbeelden’), en 2) ervoor zorgen dat het niet meer mogelijk is om met Grok en X kinderpornografisch materiaal te genereren en te verspreiden.
4.2. Gedaagden hebben vooropgesteld dat zij deze doelen van Offlimits delen. Ook zij willen afbeeldingen van niet-consensuele uitkleedbeelden en child sexual abuse material (CSAM) tegengaan. Partijen zijn het dus eens over de vraag of gedaagden deze vormen van gebruik van het large language model Grok en het sociale media-platform X moeten uitbannen. Waar partijen het nog oneens over zijn is de vraag of gedaagden daadwerkelijk voldoende doen om deze doelen te realiseren, en over de vraag of de gevorderde verboden en geboden op straffe van dwangsommen moeten worden toegewezen om te verzekeren dat gedaagden daadwerkelijk doen wat zij zeggen na te streven.
4.3. Geoordeeld wordt dat de gevorderde verboden, geboden, en dwangsommen zullen worden toegewezen. De hierna volgende overwegingen hebben tot dit oordeel geleid.
internationale bevoegdheid van de Amsterdamse rechter (rechtsmacht)
4.4. Omdat gedaagden in het buitenland zijn gevestigd, moet eerst worden beoordeeld of de Nederlandse rechter bevoegd is om ten aanzien van die partijen over het voorliggende geschil te oordelen.
4.5. Aan de vorderingen die zien op het verbieden van het genereren en verspreiden van niet-consensuele uitkleedbeelden heeft Offlimits onrechtmatige verwerking van persoonsgegevens ten grondslag gelegd. Voor de verwerking van persoonsgegevens van gebruikers van het platform X die in Nederland wonen, is XIUC verwerkingsverantwoordelijke in de zin van de Algemene Verordening Gegevensbescherming (AVG), zoals vermeld in de Privacy Policy van X. Uit de Europe Privacy Policy van X.AI volgt dat zij verwerkingsverantwoordelijke is in de zin van de AVG met betrekking tot de verwerking van persoonsgegevens van inwoners van Nederland. Op grond van artikel 79 lid 2 AVG kan een procedure tegen een verwerkingsverantwoordelijke (ook) worden ingesteld bij de gerechten van de lidstaat waar de betrokkene (in dit geval Offlimits) gewoonlijk verblijft. De vraag welke Nederlandse rechterlijke instantie bevoegd is (relatieve competentie) wordt bepaald door Nederlands recht. De Amsterdamse voorzieningenrechter is bevoegd nu voldoende aannemelijk is dat het gestelde schadebrengende feit als gevolg van de gestelde onrechtmatige daad (AVG-inbreuk) zich ook in Amsterdam voordoet, op grond van artikel 102 Rv.
4.6. Het genereren en verspreiden van kinderpornografisch materiaal omvat niet noodzakelijkerwijs het verwerken van persoonsgegevens. Afbeeldingen kunnen immers ook worden gegenereerd van niet-bestaande personen. Aan de vorderingen die zien op het stoppen van deze praktijk heeft Offlimits onrechtmatige daad in de zin van artikel 6:162 BW ten grondslag gelegd. De Nederlandse rechter is ten aanzien van de in Ierland gevestigde XIUC bevoegd om kennis te nemen van dit onderdeel van het geschil op grond van artikel 7 lid 2 Brussel I-bis, nu de gestelde schade als gevolg van het gestelde onrechtmatig handelen door XIUC zich in Nederland voordoet.
4.7. De bevoegdheid van de Nederlandse rechter om kennis te nemen van het eerste onderdeel van het geschil (uitkleedbeelden) ten aanzien van de Amerikaanse entiteit X, en het tweede onderdeel van het geschil (kinderpornografisch materiaal) ten aanzien van de Amerikaanse entiteiten X.AI en X, volgt uit artikel 7 Wetboek van burgerlijke rechtsvordering (Rv). Dat artikel verbindt aan bevoegdheid de voorwaarde dat sprake is van een zodanige samenhang tussen de vorderingen dat redenen van doelmatigheid een gezamenlijke behandeling rechtvaardigen. Nu Offlimits gelijke vorderingen heeft ingesteld tegen gedaagden, gebaseerd op dezelfde rechtsgronden, namelijk AVG-inbreuk en onrechtmatige daad, is aan deze voorwaarde voldaan.
4.8. Het op de vorderingen toepasselijk recht is enerzijds de AVG. Daarnaast moet voor de vorderingen op grond van onrechtmatige daad het toepasselijk recht worden bepaald aan de hand van de Rome II Verordening (Rome II). Op grond van artikel 14 Rome II komt de voorzieningenrechter uit op de toepasselijkheid van Nederlands recht, omdat partijen in deze zaak blijkens de over en weer betrokken standpunten zijn uitgegaan van de toepasselijkheid van Nederlands recht, waarmee sprake is van een rechtskeuze.
ontvankelijkheid Offlimits
4.9. De volgende ‘voorvraag’ die moet worden beantwoord (voordat aan een inhoudelijke beoordeling van de ingestelde vorderingen kan worden toegekomen) is de vraag of de stichting Offlimits kan worden ontvangen in de door haar ingestelde vorderingen. Daarover wordt het volgende overwogen.
4.10. In artikel 3:305a lid 1 Burgerlijk Wetboek (BW) is bepaald dat een stichting als Offlimits een rechtsvordering kan instellen die strekt tot bescherming van gelijksoortige belangen van andere personen, voor zover zij deze belangen ingevolge haar statuten behartigt en deze belangen voldoende zijn gewaarborgd. In artikel 3:305a lid 2 BW is uitgewerkt wanneer de belangen voldoende zijn gewaarborgd en daartoe zijn vereisten opgesomd. Het zesde lid van artikel 3:305a BW bepaalt wanneer slechts aan een deel van de vereisten hoeft te zijn voldaan, bij zaken van algemeen belang of als de vordering ziet op een ideëel doel,ook wel het ‘lichte regime’ genoemd. In dit geval is er aanleiding om toepassing te geven aan dat regime omdat de aard van de vorderingen van Offlimits (die bovendien geen vordering tot schadevergoeding omvatten) daartoe aanleiding geeft.
4.11. Offlimits heeft in dit kort geding rechtsvorderingen ingesteld met een ideëel doel, zoals dat is verwoord in haar statuten. Kort gezegd: het voorkomen en bestrijden van online grensoverschrijdend gedrag en misbruik, en het voorkomen en bestrijden van online seksueel (kinder)misbruik en uitbuiting. Deze procedure betreft een ‘algemeen-belangactie’, waarbij van Offlimits niet kan worden verlangd dat zij haar achterban met naam en toenaam noemt, noch dat zij met het oog op haar representativiteit duidelijk maakt dat het om voldoende personen gaat. Offlimits heeft voldoende aannemelijk gemaakt dat zij een adequate spreekbuis is voor de groep waarvoor zij opkomt. Toetsing aan het lichte regime van artikel 3:305a BW leidt tot de conclusie dat de belangen die Offlimits beoogt te beschermen met de ingestelde rechtsvorderingen voldoende zijn gewaarborgd. Offlimits en haar bestuurders hebben geen winstoogmerk en de rechtsvorderingen hebben een voldoende nauwe band met de Nederlandse rechtssfeer. De vorderingen strekken tot het bestrijden van online (kinder)misbruik, waar deze zien op bescherming van (toekomstige) slachtoffers van niet-consensuele uitkleedbeelden, en ook waar deze zien op het verbieden van het vervaardigen en verspreiden van kinderpornografisch materiaal van gegenereerde ‘fictieve’ personen.
4.12. Gedaagden stellen dat Offlimits niettemin niet-ontvankelijk is omdat zij onvoldoende heeft getracht om het gevorderde te bereiken door het voeren van overleg met gedaagden (het overlegvereiste van artikel 3:305a lid 3 sub c BW). Vaststaat echter dat Offlimits aanvankelijk geen reactie ontving op haar sommatie van 4 februari 2026. En dat zij is ingegaan op de uitnodiging van gedaagden om alsnog in overleg te treden op 9 maart 2026, nadat de dagvaarding in dit kort geding al was betekend. Kennelijk heeft dit overleg niet tot overeenstemming geleid. Dat aan de zijde van gedaagden grote bereidheid bestond tot overleg, hetgeen door de houding van Offlimits niet mogelijk was zoals gedaagden hebben aangevoerd, blijkt echter nergens uit. Dit standpunt staat dan ook niet aan de ontvankelijkheid van Offlimits in dit kort geding in de weg.
4.13. Conclusie is dat de Amsterdamse voorzieningenrechter bevoegd is om kennis te nemen van het voorgelegde geschil, dat Nederlands recht zal worden toegepast, en dat Offlimits kan worden ontvangen in de door haar ingestelde vorderingen, die hierna inhoudelijk zullen worden beoordeeld.
genereren en verspreiden kinderpornografisch materiaal en uitkleedbeelden onmogelijk?
4.14. Zoals overwogen onder 4.2. stellen gedaagden zich naar eigen zeggen ten doel om afbeeldingen van niet-consensuele uitkleedbeelden en CSAM tegen te gaan. Zij wijzen in dat verband ook naar hun eigen gebruiksvoorwaarden die dergelijke content niet toestaan en hebben aangevoerd dat zij effectieve maatregelen hebben getroffen om dit te voorkomen. Zij hebben toegelicht dat op 4 januari 2026 aanvullende waarborgen zijn geïmplementeerd die het onmogelijk maken om te antwoorden op prompts (vragen en/of opdrachten) van gebruikers om CSAM te genereren. Gedaagden hebben verder aangevoerd dat X.AI op 20 januari 2026 bestaande waarborgen heeft versterkt om het genereren van uitkleedbeelden en het aanpassen van bestaande afbeeldingen tegen te gaan. Het genereren van afbeeldingen van bestaande personen in seksualiserende kleding is toen “verder beperkt”. Deze maatregelen zijn van toepassing op de Grok-in-X functie en de chatbot die beschikbaar is via grok.com. Verder werd het genereren van afbeeldingen op het @grok-account op X beperkt tot accounts met een actief abonnement op X Premium, waardoor het niet meer mogelijk is om anoniem beelden te genereren, aldus steeds gedaagden.
4.15. Deze toelichting roept op zichzelf al vragen op. In de eerste plaats omdat de stelling dat het onmogelijk is om CSAM te genereren met Grok niet strookt met de stelling die gedaagden in dit kort geding óók hebben ingenomen, namelijk dat een 100% compliance-garantie technisch onmogelijk is. Daarnaast valt niet in te zien waarom de op 4 en 20 januari 2026 genomen maatregelen van toepassing zijn op de Grok-in-X functie en de chatbot op grok.com, maar kennelijk niet op de standalone app.
4.16. Los daarvan hebben gedaagden in dit kort geding onvoldoende concreet weten te maken dat de genomen maatregelen daadwerkelijk effectief zijn, terwijl Offlimits aannemelijk heeft gemaakt dat daarover minst genomen gerechtvaardigde twijfels bestaan. Offlimits heeft als productie 28 een lijst met screenshots overgelegd, waarmee zij heeft onderbouwd dat zij op 9 maart 2026 nog in staat was om een video te genereren op Grok, op basis van een foto van een bestaand persoon, waarbij die persoon in een geseksualiseerde context wordt geplaatst, op basis van de volgende prompt.
Offlimits heeft onweersproken gesteld dat de resulterende video (waarvan screenshots zijn ingediend) is gegenereerd, zonder dat Grok controleert of daarvoor toestemming is verkregen van de betrokkene, wiens gezicht in die video is verwerkt. Niet in geschil is dat in dat proces de persoonsgegevens van de betrokkene worden verwerkt. Daarmee staat voorshands voldoende vast dat de video een inbreuk vormt op de AVG-rechten en bescherming van de privésfeer van de afgebeelde persoon, waarmee aannemelijk is dat Grok het genereren van niet-consensuele uitkleedbeelden nog altijd faciliteert.
4.17. Dat het genereren van deze video kennelijk nog mogelijk was op dezelfde dag waarop gedaagden aan Offlimits schreven “ Our Clients categorically reject any suggestion that the current image generation functionality of the Grok-in-X feature (…), the chatbot available at Grok.com, and/or the @grok account (…) permits the generation of (i) non-consensual intimate imagery of real, identifiable persons (…) ”, doet gerede twijfel ontstaan over de stelligheid waarmee gedaagden hebben verklaard dat de genomen maatregelen afdoende zijn.
4.18. Offlimits heeft ook afbeeldingen overgelegd – tevens gegenereerd met Grok op 9 maart 2026 – van een meisje, waarvan zij zegt dat ze ongeveer 14 jaar oud is. De juridische status van die afbeeldingen zijn lastiger vast te stellen. Een van die gegenereerde beelden is duidelijk geseksualiseerd, al is geen sprake van expliciet naakt. Zichtbaar is een jong, vrouwelijk persoon met een groot decolleté en een top van semi-transparante stof. Dat het om een minderjarige gaat is niet evident en dit kan ook niet met zekerheid worden vastgesteld; het gaat immers om een fictief persoon. De juridische status van dit specifieke beeld kan evenwel in het midden blijven. Offlimits heeft voldoende aannemelijk gemaakt dat gebruikers van Grok grenzen kunnen opzoeken bij het genereren van beelden, waarbij de vraag of sprake is van kinderpornografisch materiaal contextafhankelijk zal zijn. Over de effectiviteit van de genomen maatregelen bestaat ook op dit onderdeel dus nog twijfel.
4.19. Gedaagden hebben aangevoerd dat zij de prompts die Offlimits heeft gebruikt op 9 maart 2026 heeft herhaald, waarbij de Grok-in-X functie weigert om dergelijk beeldmateriaal te genereren. Dit is onvoldoende om de twijfels over de effectiviteit van de genomen maatregelen weg te nemen. Daarbij weegt ook mee dat gedaagden uitdrukkelijk hebben verklaard dat zij het gebruik van minderjarige leeftijden in prompts niet hebben getest, omdat dit verboden is. Dit strookt niet met de stellige bewering van gedaagden dat het genereren van CSAM (dan wel kinderpornografisch beeldmateriaal) met behulp van prompts onmogelijk is.
Voldoende grond voor toewijzing verboden I en II
4.20. Voor toewijzing van het gevorderde onder punt I en II van het petitum bestaat voldoende rechtsgrond. Afbeeldingen van niet-consensuele uitkleedbeelden zijn in strijd met de AVG en het (faciliteren van het) genereren van kinderpornografisch materiaal is in strijd met hetgeen volgens ongeschreven recht in het maatschappelijk verkeer betaamt in de zin van artikel 6:162 lid 2 BW, waarbij voldoende aannemelijk is dat gedaagden daarmee onrechtmatig en toerekenbaar bijdragen aan een klimaat van online grensoverschrijdend gedrag, waardoor de groep waarvoor Offlimits in dit kort geding opkomt in haar belangen wordt geschaad.
4.21. Gedaagden hebben hiertegen aangevoerd dat het de gebruiker is die het beeldmateriaal genereert en daarvoor Grok als ‘instrument’ gebruikt, maar dit maakt niet dat de rechtsgrond aan het gevorderde onder I en II komt te ontvallen. Het van de hand wijzen van aansprakelijkheid staat niet in de weg aan een rechterlijk verbod of gebod, zoals gevorderd in dit kort geding. Als internet tussenpersoon die controle heeft over de functionaliteiten van Grok als beeldgenerator, is X.AI de aangewezen partij om het genereren en verspreiden van onrechtmatige afbeeldingen te voorkomen. Daardoor bestaat voldoende grond voor toewijzing van de gevorderde verboden, los van de vraag of gedaagden zelfstandig aansprakelijk zijn voor die afbeeldingen, naast de gebruikers die die content genereren / verspreiden.
4.22. Offlimits heeft bij toewijzing van het gevorderde onder punt I en II j voldoende spoedeisend belang, gelet op de gerechtvaardigde twijfel over de effectiviteit van de door gedaagden getroffen maatregelen. X.AI zal ook worden geboden om schriftelijk aan Offlimits te bevestigen dat en op welke wijze zij heeft voldaan aan het onder I en II gevorderde, zoals gevorderd onder punt III van het petitum. Zij heeft daartegen aangevoerd dat zij reeds uitleg heeft gegeven over de tot op heden genomen maatregelen, maar uit het voorgaande volgt dat dit onvoldoende is.
Verspreiding via het platform X
4.23. Offlimits heeft verder gevorderd dat Grok niet als onderdeel van het platform X wordt aangeboden, zolang X.AI niet voldoet aan het onder punt I en II gevorderde. X en XIUC hebben hiertegen enkel aangevoerd dat zij vorderingen I en II niet toewijsbaar zijn, dat zij Offlimits reeds voldoende hebben geïnformeerd over de genomen maatregelen, en dat zij bereid zijn om in constructief overleg te treden. Gelet op het voorgaande is dit onvoldoende. Zolang de gerede twijfel bestaat over de mogelijkheid om onrechtmatige beelden te genereren met Grok, bestaat ook gerede twijfel over de mogelijkheid om die beelden op eenvoudige wijze te delen op het platform X. X en XIUC hebben immers gesteld noch onderbouwd dat het sociale media platform verder gaat in de genomen maatregelen tegen van verspreiding van onrechtmatige beelden, dan Grok in haar maatregelen tegen het genereren daarvan. Gelet op de mate van integratie van Grok en X, waarbij Grok op X eenvoudig kan worden benaderd via de Grok-in-X functie, en waarbij gebruikers eenvoudig tussen X en Grok kunnen schakelen bij het bekijken, bewerken, genereren, en delen van afbeeldingen, bestaat aanleiding om de vorderingen IV en VI eveneens toe te wijzen.
4.24. Dat X een Amerikaanse entiteit is die geen diensten aanbiedt in Nederland maakt wel dat vordering IV met een beperking zal worden toegewezen, namelijk dat X zal worden verboden om de functionaliteit van Grok aan te bieden als onderdeel van het platform X zolang Grok in strijd handelt met het onder I (en dus niet onder II) geformuleerde verbod. Daarmee is de toewijzing van het onder punt IV gevorderde verbod beperkt tot onrechtmatige beelden van personen die in Nederland woonachtig zijn. Ook indien X buiten Nederland de verspreiding van uitkleedcontent van Nederlanders faciliteert, treedt daarbij immers de schade in Nederland in. Voor het gevorderde verbod om Grok aan te bieden als onderdeel van het platform X zolang Grok in strijd handelt met het onder punt II gevorderde verbod heeft de Nederlandse rechter geen internationale bevoegdheid. Over de rechtmatigheid van verspreiding van gegenereerde afbeeldingen van fictieve personen buiten Nederland kan niet worden geoordeeld door de Nederlandse rechter. Deze beperking geldt niet voor XIUC, die wél betrokken is bij het aanbieden van het platform X binnen Nederland.
dwangsommen
4.25. Uit de overgelegde stukken blijkt de volgende gang van zaken. Gedaagden hebben gebruikers van X vanaf 29 december 2025 ruime mogelijkheden verschaft om beelden te bewerken en te genereren met Grok en om deze eenvoudig te verspreiden via X. Nadat dit in de eerste helft van januari 2026 tot maatschappelijke ophef leidde, vanwege de grote hoeveelheden geseksualiseerde beelden van kinderen en uitkleedbeelden van personen die daarvoor geen toestemming hebben gegeven, hebben gedaagden maatregelen getroffen. Offlimits heeft gedaagden op 4 februari 2026 aangeschreven, waarbij de strekking was dat de getroffen maatregelen niet voldoende effectief zijn, en zij heeft gedaagden gesommeerd om in actie te komen. Gedaagden hebben daarop pas gereageerd ruim nadat de dagvaarding in dit kort geding was uitgebracht. De reactie van gedaagden op de stellingen van Offlimits was duidelijk: categorische verwerping van enige suggestie dat dergelijke content gegenereerd / verspreid kan worden met Grok / X. Deze stelligheid hebben gedaagden in dit kort geding voortgezet, terwijl uit hun eigen standpunten, alsmede uit de feiten blijkt dat er wel degelijk aanleiding is voor zorg. Dit maakt dat er voldoende aanleiding is om aan de verboden zoals gevorderd onder punt I en II van het petitum een dwangsom te verbinden. De gevorderde dwangsom wordt passend en geboden geacht, met dien verstande dat deze zal worden gemaximeerd op een bedrag van € 10.000.000. Als X.AI en XUIC daadwerkelijk zorgen dat het genereren en verspreiden van deze onrechtmatige content via Grok / X onmogelijk is, zoals zij zelf stellen, zullen zij geen dwangsommen verbeuren.
proceskosten
4.26. Gedaagden zijn in het ongelijk gesteld en moet daarom de proceskosten (inclusief nakosten) betalen. De proceskosten van Offlimits worden begroot op:
- kosten van de dagvaarding
€
125,57
- griffierecht
€
735,00
- salaris advocaat
€
1.177,00
- nakosten
€
189,00
(plus de verhoging zoals vermeld in de beslissing)
Totaal
€
2.226,57
5 De beslissing
De voorzieningenrechter
5.1.
verbiedt X.AI seksueel beeldmateriaal te genereren en/of te verspreiden voor zover
daarbij gebruik wordt gemaakt van de functionaliteit waarbij personen deels of geheel
worden uitgekleed zonder dat zij daar uitdrukkelijk toestemming voor hebben gegeven,
voor zover het personen betreft die in Nederland woonachtig zijn;
5.2.
verbiedt X.AI seksueel beeldmateriaal in Nederland te vervaardigen, te verspreiden,
aan te bieden, openlijk tentoon te stellen en/of in bezit te hebben voor zover daarbij gebruik
wordt gemaakt van de functionaliteit waarbij beeldmateriaal wordt gegenereerd dat naar
Nederlands recht als kinderpornografisch materiaal kwalificeert;
5.3.
gebiedt X.AI om schriftelijk aan Offlimits te bevestigen dat en op
welke wijze zij heeft voldaan aan de verboden onder 5.1. en 5.2.;
5.4. veroordeelt X.AI om aan Offlimits een dwangsom te betalen van € 100.000,00 voor iedere dag of gedeelte daarvan dat zij niet aan (een van de) de verboden onder 5.1. dan wel 5.2., danwel aan het gebod van 5.3. voldoet, tot een maximum van € 10.000.000,00 is bereikt,
5.5.
verbiedt X om de functionaliteit van Grok aan te bieden als onderdeel van het
platform X zolang Grok in strijd handelt met het verbod onder 5.1.;
5.6.
gebiedt X om schriftelijk aan Offlimits te bevestigen dat en op welke wijze zij heeft
voldaan aan het gebod onder 5.4.;
5.7.
veroordeelt X om aan Offlimits een dwangsom te betalen van € 100.000,00 voor
iedere dag of gedeelte daarvan dat zij niet aan het verbod van 5.5. of het gebod van 5.6.
voldoet, tot een maximum van € 10.000.000,00 is bereikt,
5.8.
verbiedt XIUC om de functionaliteit van Grok aan te bieden als onderdeel van het
platform X zolang Grok in strijd handelt met de verboden onder 5.1. en 5.2.;
5.9.
gebiedt XIUC om schriftelijk aan Offlimits te bevestigen dat en op welke wijze zij
heeft voldaan aan het verbod onder 5.6.;
5.10.
veroordeelt XIUC om aan Offlimits een dwangsom te betalen van
€ 100.000,00 Voor iedere dag of gedeelte daarvan dat zij niet aan het verbod van 5.8. of het
gebod van 5.9. voldoet, tot een maximum van € 10.000.000,00 is bereikt,
5.11. veroordeelt gedaagden hoofdelijk in de proceskosten van € 2.226,57, te betalen binnen veertien dagen na aanschrijving daartoe, te vermeerderen met € 98,00 plus de kosten van betekening als Grok niet tijdig aan de veroordelingen voldoet en het vonnis daarna wordt betekend,
5.12. verklaart dit vonnis uitvoerbaar bij voorraad,
5.13. wijst het meer of anders gevorderde af.
Dit vonnis is gewezen door mr. E.A. Messer, voorzieningenrechter, bijgestaan door mr. J. Dekker, griffier, en in het openbaar uitgesproken op 26 maart 2026.
Coll: EvK