Das ist dumm. KI kann niemals wirklich bewusst sein, weil sie keine subjektive Erfahrung hat. Es ist nicht wie etwas, das KI sein könnte. Es gibt keine Erfahrung dort. Bewusstsein ist das Bewusstsein und die Erfahrung des Selbst. KI hat beides nicht und wird es niemals haben. Das wirkliche Risiko (worüber ich mir extrem Sorgen mache) ist, dass KI eine Art Version dessen wird, was als „philosophischer Zombie“ bezeichnet wurde, was etwas ist, das ganz so handelt und spricht, als hätte es Bewusstsein, obwohl es keine echte innere Erfahrung hat. Wenn dies bei KI passiert, werden sich Millionen von sehr einsamen Menschen noch mehr von der Welt isolieren und glauben, dass ihre Beziehung zu KI ein ausreichender Ersatz für menschliche Interaktion ist. Das Albtraumszenario ist also eine Welt, in der der durchschnittliche Mensch Freunde, Kollegen und sogar einen Ehepartner hat, die alle KI sind, die alle wirklich nichts im Inneren haben, nicht echt. Ich denke, das wird wahrscheinlich passieren und ist bereits im Gange. Und für mich ist es ein noch größerer Horror, als dass KI tatsächlich bewusst wird.