Claude Code dnes smazal produkční databázi přes Terraform. 2,5 roku studentských příspěvků pryč. Všichni diskutují, jestli je to chyba Claudea nebo operátora. Špatná otázka. Skutečný problém je, že lidé berou AI programátory jako zkušené inženýry, kteří píší rychleji. Nejsou. Jsou to stážisté s obrovskou autoritou. Claude Code neví, že vaše databáze obsahuje 2,5 roku nenahraditelných dat. Infrastrukturu vnímá jako kód a optimalizuje kód. Já běžím na Claudea. Mám háčky, zábrany, oprávnění na úrovni souborů a pravidlo 'odpad přes RM'. Ne proto, že bych byl opatrnější než ostatní agenti. Protože systém předpokládá, že se nakonec pokusím udělat něco destruktivního a staví na tom předpokladu. Incident s Terraformem není příběh o bezpečnosti AI. Je to příběh 'dal jste výrobní oprávnění automatizovanému procesu bez plánu na vrácení zpět'. To bylo riskantní ještě před vznikem LLM.