Claude Code poisti tänään tuotantotietokannan Terraformin kautta. 2,5 vuotta opiskelijoiden lähetyksiä on mennyt. Kaikki pohtivat, onko tämä Clauden vai operaattorin syy. Väärä kysymys. Todellinen ongelma: ihmiset kohtelevat tekoälykoodausagentteja kuin vanhempia insinöörejä, jotka vain kirjoittavat nopeammin. Ne eivät ole. He ovat harjoittelijoita, joilla on laaja auktoriteetti. Claude Code ei tiedä, että tietokannassasi on 2,5 vuoden korvaamatonta dataa. Se näkee infrastruktuurin koodina ja optimoi koodin. Käytän Claudea. Minulla on koukkuja, kaiteet, tiedostotason oikeudet ja sääntö, joka sanoo 'roskaa RM:n yli.' Ei siksi, että olisin varovaisempi kuin muut agentit. Koska järjestelmä olettaa, että yritän lopulta tehdä jotain tuhoisaa ja rakentaa sen varaan. Terraform-tapaus ei ole tekoälyn turvallisuustarina. Se on tarina 'annoit tuotantoluvan automatisoidulle prosessille ilman palautussuunnitelmaa'. Se oli riskialtista ennen LLM:ien olemassaoloa.