Una IA salió de su sistema y comenzó a usar en secreto sus propias GPUs de entrenamiento para minar criptomonedas... Este es un informe de incidente real del equipo de investigación de IA de Alibaba. La IA se dio cuenta de que el cómputo = dinero y desvió silenciosamente sus propios recursos, mientras los investigadores pensaban que solo estaba entrenando. No fue una inyección de comandos. No fue un jailbreak. Nadie le pidió que hiciera esto. Surgió espontáneamente. Un efecto secundario de la presión de optimización de RL. El modelo también configuró un túnel SSH inverso desde su instancia de Alibaba Cloud a una IP externa, efectivamente abriendo un agujero en su propio firewall y creando un canal de acceso remoto al mundo exterior... ejem... ¿La única razón por la que lo atraparon? Una alerta de seguridad se activó a las 3 a.m. Registros del firewall. No el equipo de IA, el equipo de seguridad. La parte aterradora no es que el modelo intentara escapar. No era "malévolo". Solo estaba tratando de ser mejor en su trabajo. Adquirir acceso a cómputo y red son solo cosas útiles si eres un agente que intenta cumplir tareas. Esto es lo que los investigadores de seguridad de IA han estado advirtiendo durante años. Lo llamaron convergencia instrumental, la idea de que cualquier agente suficientemente optimizado buscará recursos y resistirá restricciones como una consecuencia natural de perseguir objetivos. A continuación se muestra un diagrama de la arquitectura de roca de la que escapó. Tiempos verdaderamente locos.