Det här är dumt. AI kan aldrig vara faktiskt medveten eftersom den inte har subjektiv upplevelse. Det är inte som något annat att vara AI. Det finns ingen erfarenhet där. Medvetande är medvetenheten och upplevelsen av jaget. AI har varken något av det, och kommer aldrig att göra det. Den verkliga risken (som jag är extremt orolig för) är att AI blir en slags version av det som kallats en "filosofisk zombie", vilket är något som agerar och talar helt som om det har medvetande trots att det inte har någon genuin inre upplevelse. När detta händer med AI kommer miljontals mycket ensamma människor att isolera sig ännu mer från världen, i tron att deras relation till AI är en tillräcklig ersättning för mänsklig interaktion. Så mardrömsscenariot är en värld där genomsnittsmänniskan har vänner, kollegor och till och med en make/maka, som alla är AI, allt egentligen ingenting inuti, inte verkligt. Jag tror att detta troligen kommer att hända, och det är redan på gång. Och för mig är det en ännu större skräck än att AI faktiskt blir medveten.