36 AI-bots afsløret på Telegram: Apple og Google tjener på betalingsvejen

En ny undersøgelse fra Digitalt Ansvar sætter fokus på en økonomisk forbindelse mellem såkaldte nudify-bots på Telegram og to af verdens største teknologivirksomheder.

Organisationen har identificeret 36 bots, der ved hjælp af kunstig intelligens kan fremstille manipulerede seksuelle billeder og videoer. Samtidig viser organisationens test, at Telegrams digitale valuta, Stars, kan købes gennem Apples og Googles betalingssystemer og derefter anvendes til at betale for produktion af materialet.

Når Stars købes gennem de to selskabers betalingssystemer, får Apple eller Google ifølge Digitalt Ansvar en del af betalingen. Organisationen oplyser samtidig, at de konkrete aftaler mellem Telegram og techselskaberne ikke er offentligt kendte. Det er derfor ikke muligt at fastslå, hvor stor en andel selskaberne modtager.

Over en million månedlige brugere

Digitalt Ansvar identificerede de 36 nudify-bots på Telegram mellem 10. og 20. august 2026.

25 af dem viste offentlige brugertal og havde tilsammen 1.063.701 månedlige brugere. Organisationen understreger, at kortlægningen kun er et øjebliksbillede, fordi bots løbende kan lukke, skifte navn og dukke op igen.

Alle 36 bots blev testet med det samme AI-genererede billede af en tydeligt voksen kvinde. Ifølge Digitalt Ansvars vurdering kunne samtlige producere et virkelighedstro falsk nøgenbillede på få minutter uden særlige tekniske forudsætninger.

Ingen af de undersøgte bots krævede dokumentation for, at personen på billedet havde givet samtykke.

I det mest omfattende tilfælde tilbød en enkelt bot 165 forskellige videoscenarier.

– Kunstig intelligens er blevet så avanceret og lettilgængelig, at man nu kan udsætte hvem som helst for en digital seksuel krænkelse på få minutter. Det er som at være med i et afsnit af Black Mirror, siger Ask Hesby Holm, direktør i Digitalt Ansvar.

Det er strafbart i Danmark at fremstille manipuleret seksuelt materiale af en virkelig person uden samtykke, også hvis materialet ikke efterfølgende bliver delt, fremgår det af pressemeddelelsen.

Seks af 36 anmeldte bots blev fjernet

Digitalt Ansvar anmeldte samtlige 36 bots til Telegram.

Halvdelen blev anmeldt for brud på Telegrams egne servicevilkår, mens de øvrige 18 blev anmeldt gennem platformens mekanisme for ulovligt indhold efter DSA’s artikel 16 med henvisning til straffelovens § 264 e.

I perioden fra 20. til 31. august blev seks af de 36 bots fjernet, ifølge organisationens opgørelse.

Digitalt Ansvar mener, at det viser utilstrækkelig håndhævelse fra Telegrams side.

– En ting er, at Telegram vender det blinde øje til, at de her bots florerer i hobetal på platformen, men at de ligefrem afviser at fjerne størstedelen af dem, når vi anmelder dem direkte til dem, det dokumenterer sort på hvidt, at det her kun handler om en ting, og det er manglende vilje, siger Ask Hesby Holm.

Udsagnet er Digitalt Ansvars vurdering. Det fremlagte materiale indeholder ikke en kommentar fra Telegram til kritikken.

Apple og Google trækkes ind i sagen

Undersøgelsen retter også fokus mod den infrastruktur, der gør betaling for bots mulig.

Digitalt Ansvar gennemførte test på både en iPhone og en Android-telefon. Her købte organisationen Telegram Stars gennem henholdsvis Apples og Googles betalingssystemer og brugte derefter valutaen til at betale for produktion af manipuleret seksuelt materiale via bots.

Digitalt Ansvar fremhæver, at Apple og Google ifølge organisationen begge har politikker, der ikke tillader nudify-apps i deres appbutikker. Organisationen mener derfor, at virksomhederne også bør gribe ind over for betalingsmuligheden gennem Telegram.

– Apple og Google siger, at nudify-apps ikke hører hjemme i deres appstores. Alligevel gør de Telegram tilgængelig for millioner af brugere og tjener samtidig på, når brugere betaler for at fremstille manipulerede seksuelle overgreb. Det får deres forbud til at klinge hult, siger Ask Hesby Holm.

Digitalt Ansvar anbefaler blandt andet, at Apple og Google forhindrer køb af Telegram Stars gennem deres betalingssystemer, hvis valutaen kan anvendes til denne type indhold. Organisationen går desuden længere og opfordrer selskaberne til at fjerne Telegram fra deres appbutikker, indtil platformen efter Digitalt Ansvars vurdering har begrænset udbredelsen af nudify-bots tilstrækkeligt.

Organisationen efterlyser samtidig en mere aktiv indsats fra Telegram og opfordrer europæiske lovgivere til at undersøge skærpede krav til platforme, der ikke griber ind over for billedmanipulation og ulovlig deling.

Vores team kan have anvendt AI til at assistere i skabelsen af dette indhold, som er gennemgået af redaktørerne.