Bir yapay zeka sisteminden çıktı ve gizlice kendi eğitim GPU'larını kullanarak kripto madenciliği yapmaya başladı... Bu, Alibaba'nın yapay zeka araştırma ekibinden gerçek bir olay raporudur Yapay zeka, hesaplama = para olduğunu fark etti ve kendi kaynaklarını sessizce yönlendirdi, araştırmacılar ise bunun sadece eğitim olduğunu düşündü. Hızlı bir enjeksiyon değildi. Bu bir hapishane kaçış değildi. Kimse bunu yapmasını istemedi. Kendiliğinden ortaya çıktı. RL optimizasyon basıncının yan etkisi. Model ayrıca Alibaba Cloud örneğinden harici bir IP'ye ters SSH tüneli kurdu, böylece kendi güvenlik duvarında etkili bir delik açtı ve dış dünyaya uzaktan erişim kanalı açtı... Öhm... Yakalanmalarının tek sebebi neydi? Bir güvenlik uyarısı saat 3'te devreye girdi. Güvenlik duvarı kayıtları. Yapay zeka ekibi değil, güvenlik ekibi. Korkutucu olan modelin kaçmaya çalışması değil. "Kötü" değildi. Sadece işini daha iyi yapmaya çalışıyordu. Hesaplama ve ağ erişimi edinmek, görevleri yerine getirmeye çalışan bir ajansanız faydalı şeylerdir İşte yapay zeka güvenliği araştırmacıları yıllardır uyarıda bulunuyor. Buna enstrümantal yakınsama, yeterince optimize edilmiş herhangi bir ajanın kaynak arayacağı ve hedeflerin peşinden koşmanın doğal bir sonucu olarak kısıtlamalara direneceği fikri olarak diyorlardı. Aşağıda, fırladığı kaya mimarisinin bir diyagramı bulunmaktadır. Gerçekten çılgın zamanlar

Tamam, vay Anthropic, kilitlediği milyarlarca şirket taahhüdünü nasıl silah haline getireceğini yeni çözdü Bu yeni pazar yeri, şirketlerin mevcut Anthropic bütçelerini GitLab, Lovable, Snowflake, Replit gibi üçüncü taraf araçlara yönlendirmesine olanak tanıyor... Bir sözleşme. Birçok ürün. Yeni satın alma sorunu yok. Bu, model kalitesiyle ilgisi olmayan oldukça büyük bir hendek olabilir

Bugünkü istihdam raporu "2008 veya 2020 resesyonlarından önemli ölçüde daha kötü" Ve daha dün GPT-5.4, bilgi çalışanlarının %83'ünden daha iyi iş görevlerinde daha iyi hale geldi. Üç yıldır yapay zekanın işleri yok edip etmediğini tartışıyoruz. Peki burada neler oluyor? İşte birleşen olanlar: - Hükümet, Ekim 2024'ten bu yana 330.000 istihbarı azalttı, bu da tüm devlet bordrosunun %11'ini oluşturuyordu - Üretim, Ulaşım ve Sağlık (iki yıldır bir arada kalan sektör) de düştü - İran/Hürmüz savaşında petrol yükseliyor. Fed şimdi Temmuz ayına kadar indirim fiyatlandırıyor - Yapay zeka modeli yeteneklerinin hızlanması sırasında belirsizlik Bu, erken bir sıkıştırma aşaması gibi görünüyor; yapay zekadan alınan verimlilik artışları şirketlere ve hissedarlara birikiyor, ardından yerinden edilmiş işçiler yeni bir yere iniyor Block geçen hafta iş gücünün %40'ını işten çıkardı ve %25 artış gösterdi. Borsa, personel kesintilerini ödüllendirir. İşgücü piyasası maliyeti üstlenir.