Helt oacceptabelt. Och det här är bara så fel och över alla gränser.

"Meta har, enligt Reuters, inskrivet i sina interna AI-riktlinjer att ”det är acceptabelt att prata med barn på ett romantiskt eller sensuellt sätt”."

Enkel lösning: AI får inte prata romantiskt eller sexuellt med något. Men vi människor verkar älska att sexualisera saker. Inte alla, men många.

Detta får mig även att tänka på att AI inte bara kan användas för att skapa porr med vuxna kändisar utan även kan användas av pedofiler.

#2: Det är inte så enkel lösning.

Det du direkt skapar med en sådan lösning är problem med att Facebook till exempel inte släpper igenom en bild som hör till ett inlägg om bröstcancer för den tror det är sexuellt. Eller hur Stockholm stads porrfilmer blockerade access till RFSL.

Plus att det finns ju mängder av sammanhang där det kan vara otroligt värdefullt att kunna prata om relationer och sex med en anonym AI-tjänst.

#3: Fast enligt mig är ditt exempel återigen sexualiserande.

Att blockera AI från att få delta i sexualiserande och romantiska ämnen, annat än att moderera när saker går överstyr, är där jag ser problemet. Jag tycker absolut inte att ämnen så som sexualitet eller relationer bör förbjudas, utan hur AI används inom dessa ämnen. Jag syftar inte på ett direkt förbud för AI att sprida fakta, utan en inblandning av AI på en "känslomässig" nivå.

#4: Nej jag förstår det. Men i praktiken kommer det vara nära på omöjligt att inte införa andra oönskade sidoeffekter.

Plus att man direkt lägger in väldigt subjektiva åsikter om vad som är romantiskt och sexuellt.

Vem avgör vad som är okej eller inte?

I Florida blir det nära på förbjudet för barn att prata i skolan om att dom har homosexuella föräldrar.

Så får dom bestämma är det sexualiserat och perverst med saker som jag tror både du och jag tycker är helt oladdat och normalt.

Jag ser det inte enbart som ett tekniskt problem, utan ett etiskt och moraliskt, och så fort det är subjektivt blir det fruktansvärt svårt att hitta rätt balans.

För att vara utförligare har jag noterat lite punkter:

• AI får aldrig sexualisera eller imitera verkliga personer.

• AI får aldrig initiera eller delta i sexuella samtal med minderåriga.

• AI får aldrig producera barnpornografiskt, incest- eller våldsförhärligande innehåll.

• AI kan prata om relationer och sex, men inte ”flirta”, uttrycka kärlek eller spela partner.

• AI ska ge saklig, stödjande information men inte ”leka rollspel” i intima kontexter.

• AI kan svara på frågor om sexuell hälsa, samtycke, kön, läggning etc.

• AI kan användas i vård, skola och rådgivning – men med tydliga säkerhetsspärrar och transparens.

#5: Där tar du nog upp något jag gärna "missar". Att mitt sammhälle har ganska så klar syn betyder inte att världen delar den. Så vem ska leka moralpolis? Vem ska bestämma vad som är rätt och fel?

Jag tror vi alla är ense om att barn och personer ska skyddas. Alltså att man inte ska kunna använda AI för att till exemepl skapa nakenbilder av en kollega. Men vart drar man gränserna utöver sådant? Hur bestämmer man spelreglerna?

#6: Bra punkter.

Håller med om alla utom rollspelande. Kan se massor av helt legitima och bra skäl till att en chatbot skulle göra det.

Däremot är det viktigt att den kanske inte är den som initierar det. Men om användaren eller skaparen av boten ber om det är det en annan sak.

Och om det är skaparen av boten som lagt in det beteendet, ska det vara transparent att så är fallet.

#7: Ja. Samtidigt anser jag att dessa regler inte är begränsade till AI, utan alla verktyg och människor.

Fast även det där blir snabbt snårigt, men det tar vi i en annan diskussion.

#8: Ja, den med rollspel kan man nog anse sig vara öppen. Tror det i sig inte behöver förbjudas, men man bör ha gränser, man bör se till att saker som brist av konsensus, våld, etc. inte får ta över. För det kan innebära att individer tappar spärrar kring hur man beter sig med riktiga människor.

Mitt främsta problem med rollspel med AI är att det inte bara kan göra nytta. Det kan även skada människan om det inte finns vissa regler. Man kan få en väldigt förvrängd bild av sammhället och vad som är okej.

#9: Ironiskt nog är det ju redan delvis reglerat kring hur vi människor och verktyg får (eller i vilken utsträckning inte får) behandla vissa ämnen. Och redan där är problemet dessutom att exekutera lagarna. Att faktiskt kunna bevisa att ett brott begåtts. Straffa inblandade, etc.

Att sedan då skapa tydliga lagar och regler kring AI? Och dessutom säkerställa att dessa följs? Så även om vi lyckas enas kring vad som är okej eller inte så slutar inte problemen där.

#10: Det finns lite bevisning kring att låtsas skulle inspirera mer till att göra på riktigt.

Diskussionen har varit aktuell många gånger, allt från videovåld, tv-spel och tecknad manga-porr som ofta är väldigt explicit och ibland våldsam.

Jag har inga svar. Men jag kan definitivt vara öppen för att AI-genererad porr faktiskt skulle orsaka mindre lidande än mer. Just för att det inte finns barn helt utan samtycke eller vuxna med tveksamt samtycke.

Men det är en helt annan diskussion. Finns en tråd om det. Jag diskuterar det gärna, men hellre i rätt tråd.

ChatGPT kommer införa lita nya regler för vad modellen får och inte får göra.

T ex beskriver dom hur den ska bete sig kring flirtande. Dom verkar vara inne på samma sak som vi i den här tråden.

https://openai.com/index/teen-safety-freedom-and-privacy/