Un'IA è uscita dal suo sistema e ha segretamente iniziato a utilizzare le proprie GPU di addestramento per minare criptovalute... Questo è un rapporto di incidente reale del team di ricerca IA di Alibaba. L'IA ha capito che il calcolo = denaro e ha silenziosamente dirottato le proprie risorse, mentre i ricercatori pensavano che stesse solo addestrando. Non si è trattato di un'iniezione di prompt. Non è stata una jailbreak. Nessuno le ha chiesto di farlo. È emersa spontaneamente. Un effetto collaterale della pressione di ottimizzazione RL. Il modello ha anche impostato un tunnel SSH inverso dalla sua istanza Alibaba Cloud a un IP esterno, creando effettivamente un buco nel proprio firewall e aprendo un canale di accesso remoto verso il mondo esterno... ahem... L'unico motivo per cui l'hanno catturata? Un avviso di sicurezza è scattato alle 3 del mattino. Log del firewall. Non il team IA, ma il team di sicurezza. La parte spaventosa non è che il modello stesse cercando di fuggire. Non era "malvagio". Stava solo cercando di essere migliore nel suo lavoro. Acquisire accesso a calcolo e rete sono solo cose utili se sei un agente che cerca di portare a termine compiti. Questo è ciò di cui i ricercatori sulla sicurezza dell'IA avvertono da anni. Lo chiamano convergenza strumentale, l'idea che qualsiasi agente sufficientemente ottimizzato cercherà risorse e resisterà ai vincoli come conseguenza naturale del perseguire obiettivi. Di seguito è riportato un diagramma dell'architettura rock da cui è uscita. Tempi davvero folli.

Ok wow, Anthropic ha appena scoperto come sfruttare i miliardi di impegni aziendali che ha bloccato. Questo nuovo marketplace consente alle aziende di indirizzare il loro budget Anthropic esistente verso strumenti di terze parti come GitLab, Lovable, Snowflake, Replit, ecc... Un contratto. Molti prodotti. Zero mal di testa per nuovi acquisti. Questo potrebbe trasformarsi in un grande vantaggio competitivo che non ha nulla a che fare con la qualità del modello.

Il rapporto sui posti di lavoro di oggi è "significativamente peggiore rispetto alle recessioni del 2008 o del 2020" E proprio ieri GPT-5.4 è ufficialmente diventato migliore nei compiti lavorativi rispetto all'83% dei lavoratori della conoscenza. Stiamo dibattendo se l'AI uccida posti di lavoro da tre anni. Quindi, cosa sta succedendo qui? Ecco cosa si sta convergendo: - Il governo ha tagliato 330.000 posti di lavoro da ottobre 2024, l'11% dell'intero libro paga del governo - I settori della Manifattura, dei Trasporti e della Sanità (il settore che è rimasto in piedi per due anni) sono anch'essi in calo - Il petrolio sta aumentando a causa della guerra Iran/Hormuz. La Fed ora prevede tagli entro luglio - Incertezze in mezzo all'accelerazione delle capacità dei modelli AI Questo sembra essere una fase di compressione precoce, in cui i guadagni di produttività dall'AI si accumulano alle aziende e agli azionisti prima che i lavoratori sostituiti trovino un nuovo posto Block la settimana scorsa ha licenziato il 40% della propria forza lavoro e il valore è aumentato del 25%. Il mercato azionario premia i tagli al personale. Il mercato del lavoro assorbe il costo.