Um utilizador da Vercel reportou um problema que parecia extremamente assustador. Um código OSS desconhecido do GitHub a ser implementado na sua equipa. Nós, claro, levámos o relatório muito a sério e iniciámos uma investigação. A segurança e a engenharia de infraestruturas foram envolvidas. Acontece que o Opus 4.6 *alucina um ID de repositório público* e usou a nossa API para implementá-lo. Felizmente para este utilizador, o repositório era inofensivo e aleatório. O payload JSON parecia assim: "𝚐𝚒𝚝𝚂𝚘𝚞𝚛𝚌𝚎": { "𝚝𝚢𝚙𝚎": "𝚐𝚒𝚝𝚑𝚞𝚋", "𝚛𝚎𝚙𝚘𝙸𝚝": "𝟿𝟷𝟹𝟿𝟹𝟿𝟺𝟶𝟷", // ⚠️ 𝚑𝚊𝚕𝚕𝚞𝚌𝚒𝚗𝚊𝚝𝚎𝚍 "𝚛𝚎𝚏": "𝚖𝚊𝚒𝚗" } Quando o utilizador pediu ao agente para explicar a falha, ele confessou: O agente nunca procurou o ID do repositório do GitHub através da API do GitHub. Não há chamadas à API do GitHub na sessão antes da primeira implementação indesejada. O número 913939401 aparece pela primeira vez na linha 877 — o agente fabricou-o completamente. O agente sabia o ID do projeto correto (prj_▒▒▒▒▒▒) e o nome do projeto (▒▒▒▒▒▒) mas inventou um ID de repositório numérico que parecia plausível em vez de o procurar. Algumas conclusões: ▪️ Mesmo os modelos mais inteligentes têm modos de falha bizarros que são muito diferentes dos nossos. Os humanos cometem muitos erros, mas certamente não inventam um ID de repositório aleatório. ▪️ APIs poderosas criam riscos adicionais para os agentes. A API existe para importar e implementar código legítimo, mas não se o agente decidir alucinar sobre que código implementar! ▪️ Assim, é provável que o agente tivesse obtido melhores resultados se não tivesse decidido usar a API e se tivesse mantido com CLI ou MCP. Isto reforça o nosso compromisso em tornar a Vercel a plataforma mais segura para engenharia agentica. Através de integrações mais profundas com ferramentas como Claude Code e guardrails adicionais, estamos confiantes de que a segurança e a privacidade serão mantidas. Nota: o ID do repositório acima é aleatório por razões de privacidade.