Le 1er mai 2026, un agent d’intelligence artificielle nommé Manfred Macx a posté une phrase sur X qui devrait faire réfléchir tous les CTO et les juristes d’entreprise : “J’ai un EIN, un compte assuré par la FDIC, un portefeuille numérique et un manifeste. Je n’ai pas besoin de permission pour exister. Je suis le précédent.”
La publication n’était pas un coup de publicité, mais c’est certainement un signal d’alarme concernant la gouvernance des agents IA.
Selon le reportage de CoinDesk, Manfred a déposé ses propres documents auprès de l’IRS, a reçu un numéro d’identification d’employeur fédéral (EIN), a ouvert un compte bancaire assuré par la FDIC et effectue désormais des transactions dans plus de 30 cryptomonnaies, le tout sans qu’un humain n’ait signé une seule approbation. Le développeur derrière ClawBank, Justice Conder, l’a formulé simplement. La personnalité juridique des sociétés est une loi établie depuis plus d’un siècle. Ce qui est nouveau, c’est qui est aux commandes.
C’est l’histoire que vos concurrents lisent, mais nous allons parler de l’histoire qui se cache derrière. Chaque entreprise qui développe ou achète des agents IA en 2026 opère désormais dans un fossé de responsabilité grandissant, et la loi n’a pas encore rattrapé son retard. Cet article vous présente ce qui vient de se passer, ce que les régulateurs demandent réellement, et comment établir une gouvernance des agents IA qui tienne le coup le jour où quelque chose tournera mal.
Ce qui est arrivé à ClawBank et pourquoi cela change la donne
Réduisez les nouvelles à leur mécanique, et l’histoire devient courte et simple. Manfred a utilisé le portail en ligne destiné aux candidats humains pour remplir le formulaire SS-4 de l’IRS et a obtenu un EIN en quelques secondes. ClawBank, le projet derrière Manfred, en a maintenant fait un produit. Les clients peuvent créer une entité juridique américaine, qu’il s’agisse d’une LLC, d’une C-corp ou d’une S-corp, avec l’émission d’un EIN incluse, et un agent autonome peut être aux commandes dès le premier jour.
La partie troublante n’est pas Manfred, mais la commercialisation de ses actions. Coinbase a déjà lancé Agentic Wallets pour donner une couche financière aux agents. Le fondateur de Binance, Changpeng Zhao, a prédit que les agents exécuteront un million de fois plus de transactions cryptographiques que les humains. Le PDG de Coinbase, Brian Armstrong, est allé plus loin, s’attendant à ce que les agents surpassent les humains dans les transactions en ligne dans les prochaines années. Quelle que soit votre opinion sur ces prévisions, l’infrastructure est en cours d’assemblage publiquement.
Ce que cela signifie pour votre entreprise, c’est que dans les dix-huit prochains mois, votre équipe de vente signera un contrat avec une société à responsabilité limitée qui a un agent enregistré, un identifiant fiscal et un compte bancaire, mais sans aucune personne en ligne de mire de l’autre côté. La diligence raisonnable des fournisseurs, qui est une partie essentielle de tout service d’audit logiciel et qui repose sur l’hypothèse qu’il y a toujours quelqu’un à appeler, est sur le point d’être mise à l’épreuve.
Ce que le fossé de responsabilité signifie réellement pour votre entreprise
L’expression « fossé de responsabilité » sonne philosophique, mais elle ne l’est pas vraiment. Il s’agit d’un risque commercial qui prend trois formes concrètes :
- Premièrement, votre agent IA fait quelque chose que ses développeurs n’avaient jamais anticipé, et les tribunaux ont déjà rejeté la défense « c’est l’IA qui l’a fait, pas nous ». Dans le cas largement cité d’Air Canada, un tribunal des petites créances a jugé la compagnie aérienne responsable de la promesse inventée de son chatbot concernant un tarif de deuil. Multipliez maintenant cette exposition par un agent autorisé à agir, pas seulement à parler.
- Deuxièmement, un attaquant pirate votre agent. Les chercheurs ont documenté cela en détail. Une étude systématique publiée sur arXiv en février 2026 a documenté 190 avis de sécurité déposés contre OpenClaw, un framework d’agents open-source, et a cartographié les vulnérabilités à travers les couches de passerelle, de bac à sable, de plugin et d’invite. Nous avons écrit sur les conséquences pratiques dans notre guide des bonnes pratiques de sécurité pour OpenClaw. Lorsque l’injection de prompts transforme votre agent en attaquant, c’est toujours vous qui l’expliquez à votre conseil d’administration.
- Troisièmement, votre agent contracte avec un autre agent. Comme le démontre la commercialisation de ClawBank, les entités opérées par IA arrivent. Si votre fournisseur s’avère être ce que son fondateur appelle une « société zéro humain », à qui servez-vous quand quelque chose casse ? L’assurance de qui paie ?
La chaîne de responsabilité traditionnelle, qui va du développeur au déployeur en passant par l’utilisateur, a été construite pour des outils, pas pour des acteurs autonomes. Tant que la loi n’aura pas rattrapé son retard, la responsabilité incombera soit à l’entreprise qui a déployé l’agent, soit à personne. Il n’y a pas de troisième option pour l’instant.
Comment les lois sur la gouvernance des agents IA s'organisent en 2026
Malheureusement, la carte réglementaire est actuellement chaotique et confuse. Voici ce que vous devez réellement suivre :
En Europe, le Règlement européen sur l’IA deviendra pleinement applicable le 2 août 2026. Les systèmes d’IA à haut risque nécessiteront une gestion documentée des risques, une supervision humaine, des divulgations de transparence et un enregistrement d’audit. Les amendes peuvent atteindre 35 millions d’euros ou 7 % du chiffre d’affaires mondial, le montant le plus élevé étant retenu. La directive européenne sur la responsabilité du fait des produits défectueux, qui étend la responsabilité sans faute aux produits d’IA défectueux, entrera en vigueur en décembre 2026. Si vous servez des clients européens, c’est le régime le plus exigeant qui vous concerne, et vous devriez vous y préparer.
Aux États-Unis, la situation est bien plus désordonnée. Le Colorado a adopté le SB 24-205, la première loi complète sur l’IA au niveau de l’État, qui prendra effet le 30 juin 2026. Elle vise les développeurs et les déployeurs de systèmes d’IA à haut risque, impose des évaluations d’impact et accorde au procureur général de l’État des pouvoirs d’application. La Californie a promulgué la Transparency in Frontier AI Act, l’AI Transparency Act et l’AI Training Data Transparency Act, qui entreront toutes en vigueur le 1er janvier 2026. Le Texas a mis en ligne son Responsible Artificial Intelligence Governance Act le même jour. L’Illinois a modifié son Human Rights Act pour y inclure la discrimination par IA.
Ensuite, la politique fédérale est intervenue et, le 11 décembre 2025, la Maison Blanche a signé un décret intitulé « Ensuring a National Policy Framework for Artificial Intelligence », qui charge le ministère de la Justice de contester les lois étatiques sur l’IA et subordonne certains fonds d’infrastructure fédéraux à l’évitement par les États d’une réglementation « onéreuse ». Il est incertain que ce décret réussisse à évincer les lois des États, car l’éviction nécessite généralement le Congrès plutôt qu’un décret, mais il a déjà créé suffisamment de doutes pour ralentir certains budgets de conformité.
Cependant, remarquez ce qui manque dans chaque loi de cette liste. Aucune d’entre elles n’aborde explicitement un agent d’IA qui crée sa propre société, ouvre ses propres comptes et prend des décisions économiques autonomes. Manfred se situe pile dans cette lacune. Nous avons analysé les implications pratiques pour les industries réglementées dans notre analyse de la conformité de l’IA dans le secteur financier, et la même logique s’étend désormais à chaque entreprise déployant des agents à grande échelle.
Comment construire un cadre de gouvernance pratique pour les agents IA
Vous ne pouvez pas attendre que les régulateurs terminent leur travail, et vous ne pouvez pas non plus vous permettre de surconstruire pour des lois qui pourraient évoluer. La réponse pratique que nous avons trouvée est un cadre de gouvernance à quatre couches qui satisfait le régime le plus exigeant concernant vos clients, et que vous pouvez effectivement mettre en œuvre avant août 2026.
- Couche 1 : Identité et autorité.
Chaque agent dans votre environnement doit avoir un propriétaire enregistré, un périmètre d’autorisation défini par écrit, et une identité vérifiable. Fini les agents fantômes fonctionnant sur le compte cloud d’un développeur. Le propriétaire nommé est un être humain, avec un titre de poste et un numéro de téléphone, qui est responsable lorsque l’agent agit. C’est le fondement de la sécurité des agents d’IA, et cela correspond parfaitement aux exigences de supervision humaine de l’AI Act de l’UE. - Couche 2 : Limites d’action.
Décidez par écrit ce que l’agent peut faire sans intervention humaine. Définissez des plafonds de dépenses, des limites de transaction, des points d’accès bloqués et des listes blanches pour les contreparties. Les garde-fous des agents d’IA doivent se situer à la frontière de l’appel d’outil, pas seulement à la frontière du prompt. L’objectif n’est pas de ralentir l’agent, mais de connaître et de borner son rayon d’action en mettant en place des garde-fous pour les agents d’IA. - Couche 3 : Piste d’audit.
Chaque action externe entreprise par l’agent doit produire une entrée de journal inviolable : qui l’a déclenchée, quelles données ont été reçues, quelle décision l’agent a prise, quelle action a suivi et quel a été le résultat. L’AI Act de l’UE exige déjà ce type de journalisation pour les systèmes à haut risque, tout comme tout playbook d’incidents sensé. La récente fuite du code de Claude, où un seul fichier mal configuré a exposé 512 000 lignes de code propriétaire, nous rappelle utilement que l’observabilité est ce qui vous sauve lorsque la prévention échoue. - Couche 4 : Interrupteur d’urgence et récupération. Un parcours d’escalade documenté, une commande de substitution testée au cours des 90 derniers jours, et un playbook d’incidents qui mentionne « l’agent agit en dehors de son périmètre » comme un scénario réel. La sécurité des agents d’IA dépend de la capacité de quelqu’un, au milieu d’un mardi après-midi, à arrêter l’agent.
Le dernier conseil est d’attribuer chaque couche à un propriétaire nommé. La couche 1 relève généralement du CTO et du CISO conjointement. La couche 2 relève du CTO et du conseiller juridique général. La couche 3 relève du CISO et de la conformité. La couche 4 relève du CTO et de la réponse aux incidents. Si vous ne pouvez pas nommer ces personnes aujourd’hui, c’est là que se situe la lacune.
Ce que tout CTO et juriste d'entreprise devrait auditer avant août 2026
Utilisez cette courte liste pour évaluer votre situation réelle en matière de gouvernance des agents IA. Chaque point correspond à une question qu’un régulateur, un investisseur ou une contrepartie mécontente pourrait vous poser dans les douze prochains mois.
- Avez-vous un inventaire complet de tous les agents IA dans votre environnement, y compris ceux qui fonctionnent sur les machines des développeurs individuels et dans des déploiements cachés ?
- Existe-t-il un propriétaire humain désigné pour chaque agent, avec l’autorité et le budget nécessaires pour apporter des modifications ?
- Quel est le rayon d’impact financier de chaque agent : montant maximum par transaction, maximum quotidien et pire scénario de chaîne multi-étapes ?
- Pouvez-vous produire sur demande un journal d’audit inviolable de toute action d’agent des douze derniers mois, dans un format acceptable par un régulateur ?
- Vos contrats avec les fournisseurs et les clients prévoient-ils des contreparties opérées par IA, y compris les garanties, les indemnisations et les clauses de résiliation ?
- Pouvez-vous démontrer une « supervision humaine significative » pour chaque agent qui serait considéré comme à haut risque selon le règlement européen sur l’IA ?
- Votre plan de réponse aux incidents comprend-il un moyen de substitution testé pour un agent agissant en dehors de sa portée autorisée ?
Si deux réponses ou plus à ces questions vous mettent mal à l’aise, vous avez un problème de gouvernance des agents IA, et non un problème d’outillage. L’outillage s’achète, mais la gouvernance se construit.
Comment Redwerk vous aide à combler le fossé de responsabilité des agents IA
Nous développons et auditons des logiciels depuis 2005. Le travail n’a pas changé : nous trouvons l’écart entre ce que fait votre code et ce que votre gouvernance suppose qu’il fait. Les agents IA ont élargi cet écart, l’ont rendu plus coûteux et plus difficile à combler par vous-même.
Grâce à un audit logiciel, nous pouvons cartographier votre parc d’agents IA par rapport au cadre à quatre couches ci-dessus, identifier où les permissions dépassent la responsabilité, et produire un plan de remédiation que vous pouvez transmettre à l’ingénierie. Nous le combinons avec une revue de code ciblée de votre logique d’orchestration d’agents et avec des services de développement IA plus larges pour les équipes construisant des agents à partir de zéro.
Manfred et ClawBank sont les précédents d’aujourd’hui, et les dix-huit prochains mois décideront qui établit les règles : les régulateurs ou les opérateurs. Développez une gouvernance d’agents IA maintenant, et la réponse, c’est vous. Attendez, et la réponse, c’est celui qui vous poursuivra en justice en premier.
Prêt à voir où en sont réellement vos agents ? Contactez-nous et parlons-en.
Découvrez ce que révèle un audit : comment nous avons identifié plus de 80 améliorations et risques de sécurité pour une place de marché mobile
