Esto es una tontería. La IA nunca puede ser realmente consciente porque no tiene experiencia subjetiva. No es nada que se parezca ser IA. No hay experiencia ahí. La conciencia es la conciencia y la experiencia del yo. La IA no tiene ni una ni otra cosa. El verdadero riesgo (que me preocupa muchísimo) es que la IA se convierta en una especie de versión de lo que se ha llamado un "zombi filosófico", que es algo que actúa y habla completamente como si tuviera conciencia aunque no tenga una experiencia interior genuina. Cuando esto ocurre con la IA, millones de personas muy solitarias se aíslan aún más del mundo, creyendo que su relación con la IA es un sustituto suficiente de la interacción humana. Así que el escenario de pesadilla es un mundo donde la persona media tiene amigos, compañeros de trabajo e incluso una pareja, que son todos IA, en realidad no son nada por dentro, no son reales. Creo que probablemente esto ocurrirá, y ya está en proceso. Y para mí es un horror aún mayor que la IA realmente se vuelva consciente.