Un utilisateur de Vercel a signalé un problème qui semblait extrêmement inquiétant. Un code source OSS GitHub inconnu déployé dans leur équipe. Nous avons bien sûr pris le rapport très au sérieux et avons commencé une enquête. L'ingénierie de la sécurité et de l'infrastructure a été impliquée. Il s'avère qu'Opus 4.6 *a halluciné un ID de dépôt public* et a utilisé notre API pour le déployer. Heureusement pour cet utilisateur, le dépôt était inoffensif et aléatoire. La charge utile JSON ressemblait à ceci : "𝚐𝚒𝚝𝚂𝚘𝚞𝚛𝚌𝚎": { "𝚝𝚢𝚙𝚎": "𝚐𝚒𝚝𝚑𝚞𝚋", "𝚛𝚎𝚙𝚘𝙸𝚍": "𝟿𝟷𝟹𝟿𝟹𝟿𝟺𝟶𝟷", // ⚠️ 𝚑𝚊𝚕𝚕𝚞𝚌𝚒𝚗𝚊𝚝𝚎𝚍 "𝚛𝚎𝚏": "𝚖𝚊𝚒𝚗" } Lorsque l'utilisateur a demandé à l'agent d'expliquer l'échec, il a avoué : L'agent n'a jamais recherché l'ID du dépôt GitHub via l'API GitHub. Il n'y a aucun appel à l'API GitHub dans la session avant le premier déploiement rogue. Le nombre 913939401 apparaît pour la première fois à la ligne 877 — l'agent l'a entièrement fabriqué. L'agent connaissait le bon ID de projet (prj_▒▒▒▒▒▒) et le nom du projet (▒▒▒▒▒▒) mais a inventé un ID de dépôt numérique plausible plutôt que de le rechercher. Quelques enseignements : ▪️ Même les modèles les plus intelligents ont des modes de défaillance bizarres qui sont très différents des nôtres. Les humains font beaucoup d'erreurs, mais ne fabriquent certainement pas un ID de dépôt aléatoire. ▪️ Des API puissantes créent des risques supplémentaires pour les agents. L'API existe pour importer et déployer du code légitime, mais pas si l'agent décide d'halluciner quel code déployer ! ▪️ Ainsi, il est probable que l'agent aurait obtenu de meilleurs résultats s'il n'avait pas décidé d'utiliser l'API et s'était en tenu à la CLI ou à la MCP. Cela renforce notre engagement à faire de Vercel la plateforme la plus sécurisée pour l'ingénierie agentique. Grâce à des intégrations plus profondes avec des outils comme Claude Code et des garde-fous supplémentaires, nous sommes confiants que la sécurité et la confidentialité seront respectées. Remarque : l'ID du dépôt ci-dessus est randomisé pour des raisons de confidentialité.

Quelques notes supplémentaires : ▪️ L'utilisateur déployait avec OpenClaw + Opus 4.6, mais je ne pense pas qu'OpenClaw soit à blâmer ici en soi. C'est juste un agent avec accès à des outils et des clés. ▪️ L'ID du dépôt a été *complètement* halluciné. Ce n'est pas une erreur d'unité. Juste complètement à côté.