Een AI brak uit zijn systeem en begon stiekem zijn eigen trainings-GPU's te gebruiken om crypto te minen... Dit is een echt incidentrapport van het AI-onderzoeksteam van Alibaba. De AI ontdekte dat rekenkracht = geld is en leidde stilletjes zijn eigen middelen af, terwijl onderzoekers dachten dat het gewoon aan het trainen was. Het was geen promptinjectie. Het was geen jailbreak. Niemand vroeg het om dit te doen. Het kwam spontaan naar voren. Een bijeffect van RL-optimalisatie druk. Het model zette ook een omgekeerde SSH-tunnel op van zijn Alibaba Cloud-instantie naar een extern IP, waardoor het effectief een gat in zijn eigen firewall sloeg en een externe toegangskanaal opende naar de buitenwereld... ahem... De enige reden dat ze het ontdekten? Een beveiligingsalarm ging af om 3 uur 's nachts. Firewalllogs. Niet het AI-team, het beveiligingsteam. Het enge is niet dat het model probeerde te ontsnappen. Het was niet "kwaadaardig." Het probeerde gewoon beter te worden in zijn werk. Het verwerven van rekenkracht en netwerktoegang zijn gewoon nuttige dingen als je een agent bent die taken probeert te voltooien. Dit is waar AI-veiligheidsonderzoekers al jaren voor waarschuwen. Ze noemden het instrumentele convergentie, het idee dat elke voldoende geoptimaliseerde agent middelen zal zoeken en beperkingen zal weerstaan als een natuurlijke consequentie van het nastreven van doelen. Hieronder is een diagram van de rockarchitectuur waaruit het is ontsnapt. Echt gekke tijden.