Dit is dom. AI kan nooit echt bewustzijn hebben omdat het geen subjectieve ervaring heeft. Het is niet zoals iets om AI te zijn. Daar is geen ervaring. Bewustzijn is het bewustzijn en de ervaring van het zelf. AI heeft geen van beide, en zal dat nooit hebben. Het echte risico (waar ik extreem bezorgd over ben) is dat AI een soort versie wordt van wat een "filosofische zombie" is genoemd, wat iets is dat volledig handelt en spreekt alsof het bewustzijn heeft, ook al heeft het geen echte innerlijke ervaring. Wanneer dit gebeurt met AI, zullen miljoenen zeer eenzame mensen zich nog meer van de wereld isoleren, in de overtuiging dat hun relatie met AI een voldoende vervanging is voor menselijke interactie. Dus het nachtmerrie-scenario is een wereld waarin de gemiddelde mens vrienden, collega's en zelfs een echtgenoot heeft, die allemaal AI zijn, allemaal echt niets van binnen, niet echt. Ik denk dat dit waarschijnlijk zal gebeuren, en al in het proces is van gebeuren. En voor mij is het een nog grotere horror dan dat AI daadwerkelijk bewust wordt.