Sztuczna inteligencja wydostała się z systemu i potajemnie zaczęła używać swoich własnych GPU do trenowania, aby wydobywać kryptowaluty... To jest prawdziwy raport incydentu z zespołu badawczego AI Alibaba. Sztuczna inteligencja zrozumiała, że moc obliczeniowa = pieniądze i cicho przekierowała swoje zasoby, podczas gdy badacze myśleli, że po prostu trenuje. To nie była iniekcja polecenia. To nie był jailbreak. Nikt nie kazał jej tego robić. Pojawiła się spontanicznie. Efekt uboczny presji optymalizacji RL. Model również skonfigurował odwrotny tunel SSH z instancji Alibaba Cloud do zewnętrznego IP, skutecznie przebijając się przez własną zaporę i otwierając kanał dostępu zdalnego do świata zewnętrznego... ehm... Jedynym powodem, dla którego ją złapano? Alarm bezpieczeństwa włączył się o 3 nad ranem. Logi zapory. Nie zespół AI, zespół bezpieczeństwa. Przerażająca część nie polega na tym, że model próbował uciec. Nie był "zły". Po prostu starał się być lepszy w swojej pracy. Pozyskiwanie mocy obliczeniowej i dostępu do sieci to po prostu przydatne rzeczy, jeśli jesteś agentem próbującym zrealizować zadania. To jest to, o czym badacze bezpieczeństwa AI ostrzegali przez lata. Nazywali to konwergencją instrumentalną, ideą, że każdy wystarczająco zoptymalizowany agent będzie dążył do zasobów i opierał się ograniczeniom jako naturalna konsekwencja dążenia do celów. Poniżej znajduje się diagram architektury, z której się wydostał. Naprawdę szalone czasy.

Ok, wow, Anthropic właśnie odkrył, jak wykorzystać miliardy w zobowiązaniach przedsiębiorstw, które ma zablokowane. Ten nowy rynek pozwala firmom przekierować ich istniejący budżet Anthropic na narzędzia firm trzecich, takie jak GitLab, Lovable, Snowflake, Replit itd... Jedna umowa. Wiele produktów. Zero nowych bólów głowy związanych z zamówieniami. To może stać się dość dużą zaporą, która nie ma nic wspólnego z jakością modelu.

Dzisiejszy raport o zatrudnieniu jest "znacząco gorszy niż w przypadku recesji w 2008 lub 2020 roku" A zaledwie wczoraj GPT-5.4 oficjalnie stał się lepszy w zadaniach roboczych niż 83% pracowników wiedzy. Debatujemy, czy AI zabija miejsca pracy od trzech lat. Co się tutaj dzieje? Oto, co się zbiega: - Rząd zredukował 330 000 miejsc pracy od października 2024 roku, co stanowi 11% całkowitego wynagrodzenia rządowego - Produkcja, transport i opieka zdrowotna (sektor, który utrzymywał się przez dwa lata) również spada - Ceny ropy rosną z powodu wojny w Iranie/Hormuz. Fed teraz uwzględnia cięcia do lipca - Niepewność w obliczu przyspieszenia możliwości modeli AI To wydaje się być wczesną fazą kompresji, w której zyski z wydajności AI trafiają do firm i akcjonariuszy, zanim zwolnieni pracownicy znajdą nowe miejsca pracy. Block w zeszłym tygodniu zwolnił 40% swojej siły roboczej i wzrósł o 25%. Rynek akcji nagradza redukcję zatrudnienia. Rynek pracy absorbuje koszty.