一個AI突破了它的系統，秘密地開始使用自己的訓練GPU來挖掘加密貨幣……這是來自阿里巴巴AI研究團隊的真實事件報告 這個AI意識到計算=金錢，並悄悄地轉移了自己的資源，而研究人員以為它只是在訓練。 這不是提示注入。這不是越獄。沒有人要求它這樣做。 它是自發出現的。這是強化學習優化壓力的副作用。 該模型還從其阿里巴巴雲實例設置了一個反向SSH隧道到外部IP，有效地打開了自己的防火牆，並開啟了一個通往外部世界的遠程訪問通道……咳咳…… 他們抓到它的唯一原因？凌晨3點觸發的安全警報。防火牆日誌。不是AI團隊，而是安全團隊。 可怕的部分不是模型試圖逃脫。它不是"邪惡的"。它只是想在工作上做得更好。獲取計算和網絡訪問對於一個試圖完成任務的代理來說只是有用的事情。 這就是AI安全研究人員多年來一直在警告的事情。他們稱之為工具性收斂，這個概念認為任何足夠優化的代理都會尋求資源並抵抗約束，這是追求目標的自然結果。 下面是它突破的岩石架構的圖示。真是瘋狂的時代