AI har redan börjat användas för att skapa pornografiska bilder och filmer. På ytan kan det verka som något positivt: ingen människa behöver utnyttjas eller hamna på nätet i situationer de inte vill vara med om. Men ju mer man tänker på det, desto fler frågor väcks.

Vad som talar för

• Mindre exploatering: Om AI-material blir vanligare kanske färre behöver arbeta i en bransch som ofta är kantad av tvång, missbruk och dåliga villkor.
• Integritet: Ingen verklig person behöver riskera att en film eller bild sprids för alltid på nätet.
• Anpassning: AI kan skapa material utifrån individuella önskemål, utan att någon annan behöver vara inblandad.

Vad som talar emot

• Fantasier som går för långt: AI kan redan idag producera våldsamma eller farliga scenarier. Risken finns att någon som konsumerar detta blir lockad att testa i verkligheten.
• Förskjutna normer: Om extremt innehåll blir lättillgängligt kan det påverka vad vi uppfattar som normalt eller acceptabelt.
• Oändlig produktion: AI har inga naturliga begränsningar. Det går att pumpa ut obegränsade mängder material, vilket gör det svårt att hålla tillbaka det som faktiskt är skadligt.
• Deep fakes: Redan idag ser man exempel på när någon placerar en verklig persons ansikte, på en genererad pornografisk bild.

Öppna frågor

Är AI-porr ett steg mot en säkrare värld där färre människor behöver utnyttjas? Eller riskerar det snarare att normalisera beteenden som i värsta fall spiller över i verkligheten?
Hur bör vi egentligen se på skillnaden mellan en fantasi som hålls digital och en fantasi som någon vill omsätta i praktiken?
Var går gränsen för vad man får fantisera om helt och hållet i sitt eget huvud?

Det här är ett område fullt av gråzoner, och kanske just därför viktigt att prata om.