Efter larmen: Så kan den AI-genererade förnedringsporren stoppas

I en ledare i Dagens Nyheter lyfter Max Hjelm upp en av vår tids stora baksidor med AI-utvecklingen, vilken är den explosionsartade ökningen av så kallad AI-genererad barnpornografi, eller deepfake-porr. Förövarna bakom brottsformen är många, samtidigt som offren oftast är helt försvarslösa. Dock finns det lösningar på problemet.

Så kallad deepfake-porr, där bilder eller filmer av en riktig persons ansikte klipps ihop med AI-genererat nakenmaterial, har exploderat på senare år. I synnerhet AI-material där barn är offer har sett den största ökningen, vilket beror på att förövarna är många fler än vid mer vanliga barnpornografibrott.

Förövarna som skapat AI-bilderna/filmerna är i dessa fall ofta klasskamrater som sedan sprider dem. Bland annat i krypterade chattappar som Telgram. I Sydkorea har det gått så långt att förövarna använder bilder på grannar, vänner och bekanta, och manipulerar dem till sexuellt innehåll. I dagsläget rör det sig om tusentals fall (( Där har över 6000 kvinnor bara i år, ansökt om hjälp för att ta ned innehåll där deras identitet har manipulerats. Skadorna som bilderna har orsakat offren och deras privatliv, är i många fall omöjliga att reparera. )), bara i år.

Hela poängen (hos förövarna) är att tvinga till sig nakenmaterial utan samtyckte, i syfte att förnedra eller utpressa. Fenomenet har även börjat sprida sig till Sverige där Polisen larmat om att allt fler, särskilt unga pojkar, utpressats genom sexuella AI-bilder av dem.