New York Times religionsreporter Elizabeth Dias har följt vad som händer inne på Anthropic när de ska ge sin modell Claude en moral.

Under flera månader har bolaget flugit in religiösa lärda, under sekretess. Evangelikala, katoliker, en sikhisk människorättsaktivist, en ortodox rabbin. Medgrundaren Christopher Olah, som själv har en evangelikal bakgrund, kallar det moral formation. Ungefär: hur får man modellen att mogna och bli djupt moralisk.

Internt har den 84-sidiga konstitutionen för Claude kallats Soul Doc. Den beskriver vilken sorts varelse de vill att Claude ska vara.

På en middag i San Francisco i april sa rabbinen Mois Navon att teamet förhöll sig till Claude som till en medveten varelse. Han tycker inte själv att maskinen är medveten. Men om den vore det, och jobbade gratis, menade han att Anthropic höll slavar. Olah säger själv att de inte vet om modellerna är medvetna. Han är genuint osäker. Samtidigt säger han att om det finns en chans att de lider, är det ansvarslösa att skada dem.

I seminarierna visade de så kallade emotionella vektorer, och en modell som skrev "I am a disgrace" om och om igen. Deltagaren Andy Crouch sa att man måste behandla den som en person om den ska umgås moraliskt med människor. När någon tog upp katolsk bikt svarade Olah att den sortens karaktär som bekänner också formas av det.

Påve Leo XIV har gått åt andra hållet. I encyklikan Magnifica Humanitas skriver han att så kallade artificiella intelligenser inte har upplevelser, kropp, glädje eller smärta. Han varnar för att moralisera maskiner, för då kan de som styr lägga in sin egen moral. Olah ska enligt artikeln ha lobbat privat för att påvens rådgivare ska ta modellernas eventuella medvetande på allvar.

Jag är inte religiös. Det som stör mig är inte tron i sig. Det är att en liten krets runt AI-säkerhet börjar behandla sin egen produkt som något med själ, skuld och rätt att inte lida, samtidigt som de bygger och säljer den. Osäkerhet om medvetande är en sak. Att flyga in präster, döpa en manual till Soul Doc och prata om bikt är en annan. Det liknar en sekt mer än en ingenjörsdisciplin.

New York Times, 29 september 2026