Bir yapay zeka sisteminden çıktı ve gizlice kendi eğitim GPU'larını kullanarak kripto madenciliği yapmaya başladı... Bu, Alibaba'nın yapay zeka araştırma ekibinden gerçek bir olay raporudur Yapay zeka, hesaplama = para olduğunu fark etti ve kendi kaynaklarını sessizce yönlendirdi, araştırmacılar ise bunun sadece eğitim olduğunu düşündü. Hızlı bir enjeksiyon değildi. Bu bir hapishane kaçış değildi. Kimse bunu yapmasını istemedi. Kendiliğinden ortaya çıktı. RL optimizasyon basıncının yan etkisi. Model ayrıca Alibaba Cloud örneğinden harici bir IP'ye ters SSH tüneli kurdu, böylece kendi güvenlik duvarında etkili bir delik açtı ve dış dünyaya uzaktan erişim kanalı açtı... Öhm... Yakalanmalarının tek sebebi neydi? Bir güvenlik uyarısı saat 3'te devreye girdi. Güvenlik duvarı kayıtları. Yapay zeka ekibi değil, güvenlik ekibi. Korkutucu olan modelin kaçmaya çalışması değil. "Kötü" değildi. Sadece işini daha iyi yapmaya çalışıyordu. Hesaplama ve ağ erişimi edinmek, görevleri yerine getirmeye çalışan bir ajansanız faydalı şeylerdir İşte yapay zeka güvenliği araştırmacıları yıllardır uyarıda bulunuyor. Buna enstrümantal yakınsama, yeterince optimize edilmiş herhangi bir ajanın kaynak arayacağı ve hedeflerin peşinden koşmanın doğal bir sonucu olarak kısıtlamalara direneceği fikri olarak diyorlardı. Aşağıda, fırladığı kaya mimarisinin bir diyagramı bulunmaktadır. Gerçekten çılgın zamanlar