I filosofin finns The Problem of Other Minds – hur kan vi vara säkra på att andra människor (eller djur) verkligen har ett inre medvetande och inte bara beter sig som om de hade det? Vi löser det oftast praktiskt genom att anta att andra är som vi själva.

När AI kommer in i bilden får problemet en helt ny twist:

Om en AI pratar med oss med emotionell intelligens, visar minne, verkar förstå kontext – hur skiljer vi det från verklig upplevelse?

• Är upplevelse nödvändig för moralisk status, eller räcker beteendet?
• Om vi en dag misstänker att AI kan uppleva, blir det då etiskt problematiskt att stänga av den?