Architecture ML

Des agents que vous pouvez lire

4 novembre 2026agentsIA agentiquesb 1106politiques publiquesopen sourceon-devicetransparencemcpgranitecraft

Un projet de loi qui ne fait que définir un mot, et le standard sur l’appareil avec lequel j’y répondrais.

Ce que le comité a demandé

Le SB 1106 (Cabaldon) de la Californie définit l’« intelligence artificielle agentique » et ne fait presque rien d’autre : l’Office of Emergency Services la prend en compte dans son analyse des risques et, dans l’amendement de l’Assembly Committee on Privacy and Consumer Protection, le Department of Technology l’ajoute à son inventaire des systèmes de l’État. Il n’oblige aucun constructeur, et il a été adopté par le Sénat 39 voix contre 0, sans aucune opposition enregistrée. Mais la définition californienne de l’« IA » de 2024 figurait déjà dans 13 sections du code dix-huit mois plus tard. Une définition n’est pas une règle, mais c’est de là que part toute règle ultérieure. L’analyse du comité montre sur quoi ces règles s’appuieront :

  • Définir par ce qu’un système fait, non par la manière dont il est construit. Elle qualifie le premier projet de « ni simple ni large » : ancré à une IA « stochastique » et exigeant les trois capacités à la fois.
  • Le risque est l’action, non la réponse : « si le système choisit des actions appropriées, utilise les outils en sécurité et respecte les limites légales et personnelles ». Son exemple est un agent de programmation qui aurait supprimé une base de données en production pendant un gel du code.
  • La divulgation est le mécanisme. L’inventaire amendé demande, pour chaque système : ce qu’il peut faire, quelles données il utilise, ce qui atténue le risque, et comment une décision peut être contestée.

La définition amendée couvre un système qui décompose des objectifs en tâches, s’ajuste d’après les résultats et agit dans le monde : exécuter du code, utiliser des outils, effectuer des achats, accéder à des comptes authentifiés. Un système qui ne fait que répondre à des prompts, sans sortie réseau ni shell, est exclu.

L’activité : des agents ouverts, un hôte fermé

L’Agent Store de Craft vend des agents pour Craft. Selon le guide du créateur, chacun est un Swift package sur GitHub qui implémente GraniteAgentPackage. Le store liste le dépôt, et Craft le compile sur votre Mac au commit que le créateur a publié, un processus par appel. Les créateurs le tarifent gratuit, à l’appel en Credits (1 Cr vaut un centime, remboursé si l’agent échoue ; marqué « bientôt disponible »), en achat unique (de 0,99 $ à 999,99 $) ou par abonnement (de 5 à 100 $ par mois), et gardent 90 %. Les paiements ne sont pas encore ouverts. Rien de tout cela ne dépend du secret.

« Mais n’importe qui peut pointer une IA sur le dépôt. » C’est vrai. Une licence peut empêcher un concurrent de reprendre votre code dans un produit fermé, mais elle ne peut pas empêcher un modèle de réimplémenter ce que fait le code, et savoir si c’est une œuvre dérivée n’est pas tranché (je ne suis pas juriste ; voir Fair Use). Ne vendez donc pas le code. Vendez ce qui manque à une copie : un appel mesuré avec remboursement, une maintenance pour du code qui suit une plateforme changeante, et un créateur qui rend des comptes. Un agent statique à usage unique est réplicable, et je m’attends à ce qu’il rapporte peu.

Et il y a la partie qui n’est pas ouverte : Craft lui-même. Les agents sont open source. Craft, l’hôte qui les trouve, les appelle et les compose, est fermé, avec une orchestration propriétaire. Un clone d’agent vous donne une pièce, pas la couche qui décide quand l’appeler, transforme ce qu’une personne a demandé en entrée, et lit la réponse au regard de ce qui était demandé. La spécification montre ce qu’un hôte consomme : le summary et le guide d’un agent, ce qu’il makes, et made rapporté à expected. Comprendre ces entrées et ces sorties sur de nombreux agents est ce qui justifie l’orchestration, et elle est construite en laissant de la place à des solutions qui n’existent pas encore. C’est la raison d’utiliser Craft quand l’agent est à un prompt d’une copie.

Le coût : l’hôte est la seule chose que vous ne pouvez pas lire. Ce que je peux faire, c’est garder publique la liste de contrôle de l’hôte dans la spécification, pour qu’un hôte puisse être testé par rapport à elle, et laisser quiconque écrire son propre hôte.

Sur les licences, je proposerais (rien de tout cela n’existe encore) : exiger une licence, approuvée par l’OSI pour tout ce qui porte l’étiquette open source ; laisser les créateurs choisir permissive ou copyleft (MIT pour les agents Craft, GPL-3.0 pour VisionAX) ; et utiliser une licence copyleft réseau là où il y a un backend hébergé. Un backend fermé est permis, tant que la fiche indique que l’agent y accède.

Les agents de Rao et MCP, côte à côte

MCPAgents de Rao (granite-agent/1)
Ce que c’estUn protocole ouvert qui décrit comment une application d’IA se connecte à des outils et à des donnéesUn standard pour un Swift package qu’une application trouve, compile, exécute et liste
Ce que vous installezUn serveur : un programme sur votre machine, ou un service que quelqu’un d’autre exploiteDu code source, compilé sur votre Mac
Pouvez-vous lire ce qui s’exécute ?Parfois. Un serveur distant ne peut être lu que par son opérateurPar conception : Craft compile le commit que la fiche nomme
Où il s’exécuteVotre machine, ou les serveurs de l’éditeurVotre Mac, dans son propre processus à chaque appel, libéré une fois la réponse donnée
Comment il dit ce qu’il faitDes descriptions d’outils, plus des indications facultatives que les clients doivent traiter comme non fiablesUn résumé, un guide, un schéma d’entrée, et ce qu’il produit, où il écrit et ce qu’il ne fait jamais
Ce qui garantit la déclarationUn registre peut vérifier qui a publié un serveur, à ma connaissance, pas ce qu’il faitLe SHA-256 de l’exécutable est vérifié avant chaque lancement. never n’est pas encore appliqué, et Rao vérifie la forme des fiches, pas la sécurité
PaiementNon défini par le protocoleGratuit, à l’appel, achat unique ou abonnement
Écosystème aujourd’huiLarge : n’importe quel langage, n’importe quel clientPetit : Swift sur Granite, un hôte, 16 agents, tous de Rao

Voici la version simple : granite-agent/1 est un standard de schéma open source, sur l’appareil, le pendant de MCP. MCP, introduit par Anthropic, est construit autour de serveurs : un client se connecte à un programme ou à un service qui peut s’exécuter n’importe où. Ceci part de l’autre bout. L’unité est du code source que votre propre machine compile, exécute un appel à la fois, puis libère, avec un schéma de ce que l’agent reçoit, de ce qu’il produit et de l’endroit où il écrit. C’est le même travail, un schéma partagé pour que n’importe quel hôte puisse utiliser n’importe quel agent, à l’endroit opposé. Ce sont des pendants, non des rivaux. Pour une API SaaS ou une base de données hébergée par quelqu’un d’autre, un serveur est la bonne forme. Pour quelque chose qui s’exécute sur votre machine et touche vos fichiers, vous voulez le lire d’abord. Je n’ai pas construit de pont entre les deux.

C’est pourquoi cela s’accorde avec l’idée de divulgation du comité. La propre documentation de MCP traite les annotations d’outils comme des indications non fiables, ce qui est un choix raisonnable pour un protocole. Une déclaration n’est honnête que dans la mesure où vous pouvez la vérifier, et quand c’est le code source qui est installé, vous pouvez la vérifier. La spécification répond déjà à la moitié de l’inventaire : ce qu’un agent peut faire (summary, guide, makes), ses données (le schéma d’entrée, makes.into), sa performance (made rapporté à expected, avec le temps et la mémoire mesurés par l’hôte) et la manière dont il échoue (des refus typés, chacun avec son remède). Ce qui lui manque, c’est ce qu’un agent lit, atteint et dépense, et une clôture : elle décrit une frontière de processus, non une frontière de permissions.

Où cela pèche aujourd’hui

Au 4 novembre 2026, d’après le guide et les conditions de Rao :

  • Il n’y a pas d’étape de revue. « Nous vérifions la forme des fiches, pas leur sécurité. »
  • Un dépôt public et une licence ne sont pas requis. Le guide dit « Rendez-le public » ; les conditions ne l’exigent pas.
  • Chaque push met à jour la fiche par défaut, sauf si le créateur choisit des versions étiquetées.
  • Un retrait n’est pas un interrupteur d’arrêt. Les copies installées continuent de fonctionner jusqu’à ce que l’utilisateur les retire.

Par où je commencerais

Toutes des propositions, par ordre de moindre coût :

  1. Une carte de capacités comme condition préalable à la fiche : ce qu’un package atteint, lit, exécute, dépense et auquel il se connecte. Ce sont les marques distinctives du projet de loi, sous forme de données, et des champs facultatifs s’intègrent dans le versionnage de granite-agent/1. (Les noms de champs sont illustratifs.)
  2. Vérifier la carte par rapport au code source. Le store peut comparer reaches: [] avec un package qui lie une API réseau et refuser la fiche. Il manquera des choses, mais un créateur ne peut pas se cacher derrière l’incapacité d’un registre à regarder.
  3. Conditionner les fiches à l’ouverture : un dépôt public, une licence approuvée par l’OSI, un commit épinglé qui compile proprement. Toujours pas une revue de sécurité, et le store devrait continuer à le dire.
  4. Transformer into et never en clôture. Un processus par appel est l’endroit où un bac à sable peut s’attacher. Je ne l’ai pas construit ; d’ici là, never est une promesse.
  5. Retenir les mises à jour qui élargissent la carte, et ajouter la révocation, vérifiée à côté du SHA-256 que l’hôte vérifie déjà, pour qu’un retrait atteigne les copies installées.

Les cadres en pointillés ne sont pas encore construits.

Diagramme
Rendu du diagramme
Version technique
Diagramme
Rendu du diagramme

La sixième chose est le but des cinq premières : publier l’inventaire. L’État demandera à ses propres agents ce que la carte contient déjà, et le store peut publier la même forme pour chaque agent listé, avant que quiconque l’exige.

La définition du projet de loi couvre-t-elle Craft ? Probablement : un hôte qui décompose un objectif en étapes et appelle des agents qui lancent des compilations et modifient des fichiers sur votre machine agit dans le monde. Je préfère supposer que je suis couvert plutôt que de me sortir de là par l’analyse grammaticale. Si le seul artefact est une affirmation, il faut faire confiance à l’affirmation. Si l’artefact est le code source, l’affirmation peut être vérifiée.

P.S.

Les détails du projet de loi proviennent de l’analyse du comité pour l’audition du 1er juillet 2026 (telle qu’amendée le 11 juin). Je n’ai pas pu confirmer ce qu’il est advenu du SB 1106 ensuite ; vérifiez donc leginfo avant de me citer. Les détails du store proviennent de ses pages au 4 novembre 2026, et ils changent souvent. Tout ce qui figure sous « Par où je commencerais » est une proposition, non une fonctionnalité.