ML-Architektur

Agenten, die Sie lesen können

4. November 2026Agentenagentische KIsb 1106Regulierungopen sourceon-deviceTransparenzmcpgranitecraft

Ein Gesetzentwurf, der nur ein Wort definiert, und der On-Device-Standard, mit dem ich ihm antworten würde.

Was der Ausschuss gefragt hat

Kaliforniens SB 1106 (Cabaldon) definiert „agentic artificial intelligence“ und tut sonst wenig: Das Office of Emergency Services berücksichtigt sie in seiner Risikoanalyse, und in der Änderung des Assembly Committee on Privacy and Consumer Protection nimmt das Department of Technology sie in sein Inventar staatlicher Systeme auf. Der Entwurf bindet keinen Entwickler, und er passierte den Senat mit 39:0 ohne aktenkundige Gegenstimme. Aber Kaliforniens Definition von „KI“ aus dem Jahr 2024 tauchte achtzehn Monate später bereits in 13 Gesetzesabschnitten auf. Eine Definition ist keine Regel, aber hier beginnt jede spätere Regel. Die Analyse des Ausschusses zeigt, worauf sich diese Regeln stützen werden:

  • Nach dem definieren, was ein System tut, nicht danach, wie es gebaut ist. Sie nennt den ersten Entwurf „weder einfach noch breit“: an „stochastische“ KI geknüpft und mit der Forderung, dass alle drei Fähigkeiten gleichzeitig vorliegen.
  • Das Risiko ist die Handlung, nicht die Antwort: „whether the system chooses appropriate actions, uses tools safely, and respects legal and personal boundaries.“ Ihr Beispiel ist ein Coding-Agent, der während eines Code-Freeze angeblich eine Live-Datenbank gelöscht hat.
  • Offenlegung ist der Mechanismus. Das geänderte Inventar fragt pro System: was es kann, welche Daten es nutzt, was das Risiko mindert und wie eine Entscheidung angefochten werden kann.

Die geänderte Definition erfasst ein System, das Ziele in Aufgaben zerlegt, sich anhand von Ergebnissen anpasst und in der Welt handelt: Code ausführt, Werkzeuge nutzt, Käufe tätigt, auf authentifizierte Konten zugreift. Ein System, das nur Prompts beantwortet, ohne Netzwerkzugang oder Shell, ist ausgenommen.

Das Geschäft: offene Agenten, geschlossener Host

Der Agent Store von Craft verkauft Agenten für Craft. Laut Creator-Leitfaden ist jeder ein Swift-Package auf GitHub, das GraniteAgentPackage implementiert. Der Store listet das Repository, und Craft baut es auf Ihrem Mac an dem Commit, den der Creator veröffentlicht hat, ein Prozess pro Aufruf. Creator setzen den Preis auf kostenlos, pro Aufruf in Credits (1 Cr ist ein Cent, erstattet, wenn der Agent scheitert; als „demnächst“ markiert), einmalig (0,99 $ bis 999,99 $) oder im Abo (5 bis 100 $ im Monat) und behalten 90 %. Auszahlungen sind noch nicht offen. Nichts davon hängt von Geheimhaltung ab.

„Aber jeder kann eine KI auf das Repo ansetzen.“ Das kann er. Eine Lizenz kann einen Konkurrenten daran hindern, Ihren Code in ein geschlossenes Produkt zu übernehmen, aber sie kann ein Modell nicht daran hindern, nachzubauen, was der Code tut, und ob das ein abgeleitetes Werk ist, ist ungeklärt (ich bin kein Jurist; siehe Fair Use). Verkaufen Sie also nicht den Code. Verkaufen Sie, was einer Kopie fehlt: einen abgerechneten Aufruf mit Erstattung, Wartung für Code, der eine sich ändernde Plattform nachführt, und einen Creator, der haftbar ist. Ein statischer Einmal-Agent ist replizierbar, und ich erwarte, dass er wenig einbringt.

Und dann gibt es den Teil, der nicht offen ist: Craft selbst. Die Agenten sind Open Source. Craft, der Host, der sie findet, aufruft und zusammensetzt, ist geschlossen, mit proprietärer Orchestrierung. Ein Klon eines Agenten gibt Ihnen ein Stück, nicht die Schicht, die entscheidet, wann er aufgerufen wird, die das, was ein Mensch gefragt hat, in seine Eingabe übersetzt und die Antwort an dem misst, was verlangt wurde. Die Spezifikation zeigt, was ein Host verarbeitet: summary und guide eines Agenten, was er makes, und made im Vergleich zu expected. Diese Ein- und Ausgaben über viele Agenten hinweg zu verstehen, ist es, wo sich die Orchestrierung ihren Unterhalt verdient, und sie ist mit Raum für Lösungen gebaut, die es noch nicht gibt. Das ist der Grund, Craft zu nutzen, wenn der Agent nur einen Prompt von einer Kopie entfernt ist.

Der Preis: Der Host ist das Einzige, was Sie nicht lesen können. Ich kann die Host-Checkliste der Spezifikation öffentlich halten, damit sich ein Host daran testen lässt, und jedem erlauben, einen eigenen Host zu schreiben.

Zu Lizenzen würde ich vorschlagen (nichts davon existiert bisher): eine Lizenz verlangen, OSI-anerkannt für alles, was das Open-Source-Etikett trägt; Creator zwischen permissiv und Copyleft wählen lassen (MIT für die Craft-Agenten, GPL-3.0 für VisionAX); und eine Netzwerk-Copyleft-Lizenz verwenden, wo es ein gehostetes Backend gibt. Ein geschlossenes Backend ist erlaubt, solange der Eintrag angibt, dass der Agent es erreicht.

Raos Agenten und MCP im Vergleich

MCPRaos Agenten (granite-agent/1)
Was es istEin offenes Protokoll dafür, wie eine KI-App sich mit Werkzeugen und Daten verbindetEin Standard für ein Swift-Package, das eine App findet, baut, ausführt und listet
Was Sie installierenEinen Server: ein Programm auf Ihrem Rechner oder einen Dienst, den jemand anderes betreibtQuellcode, auf Ihrem Mac gebaut
Können Sie lesen, was läuft?Manchmal. Ein Remote-Server ist für niemanden außer seinen Betreiber lesbarVon Anfang an: Craft baut den Commit, den der Eintrag nennt
Wo es läuftAuf Ihrem Rechner oder auf den Servern des HerausgebersAuf Ihrem Mac, pro Aufruf in einem eigenen Prozess, freigegeben, sobald er geantwortet hat
Wie es sagt, was es tutWerkzeugbeschreibungen plus optionale Hinweise, die Clients als nicht vertrauenswürdig behandeln sollenEine Zusammenfassung, ein Leitfaden, ein Eingabeschema und was es erzeugt, wohin es schreibt und was es nie tut
Was die Angabe stütztEine Registry kann, soweit ich es verstehe, verifizieren, wer einen Server veröffentlicht hat, nicht was er tutDer SHA-256 der ausführbaren Datei wird vor jedem Start geprüft. never wird noch nicht durchgesetzt, und Rao prüft Einträge auf Form, nicht auf Sicherheit
BezahlungVom Protokoll nicht definiertKostenlos, pro Aufruf, einmalig oder im Abo
Ökosystem heuteBreit: jede Sprache, jeder ClientKlein: Swift auf Granite, ein Host, 16 Agenten, alle von Rao

Hier die einfache Fassung: granite-agent/1 ist ein quelloffener On-Device-Schema-Standard, das Gegenstück zu MCP. MCP, von Anthropic eingeführt, ist um Server herum gebaut: Ein Client verbindet sich mit einem Programm oder Dienst, der überall laufen kann. Dies beginnt am anderen Ende. Die Einheit ist Quellcode, den Ihr eigener Rechner baut, einen Aufruf nach dem anderen ausführt und wieder freigibt, mit einem Schema dafür, was der Agent aufnimmt, was er erzeugt und wohin er schreibt. Es ist dieselbe Aufgabe, ein gemeinsames Schema, damit jeder Host jeden Agenten nutzen kann, am entgegengesetzten Ort. Sie sind Gegenstücke, keine Rivalen. Für eine SaaS-API oder eine Datenbank, die jemand anderes hostet, ist ein Server die richtige Form. Für etwas, das auf Ihrem Rechner läuft und Ihre Dateien berührt, wollen Sie es vorher lesen. Eine Brücke zwischen beiden habe ich nicht gebaut.

Deshalb passt es zur Offenlegungsidee des Ausschusses. Die eigenen Dokumente von MCP behandeln Tool-Annotationen als nicht vertrauenswürdige Hinweise, was für ein Protokoll eine vernünftige Entscheidung ist. Eine Angabe ist nur so ehrlich, wie Ihre Möglichkeit, sie zu prüfen, und wenn der Quellcode das ist, was installiert wird, können Sie sie prüfen. Die Spezifikation beantwortet bereits die Hälfte des Inventars: was ein Agent kann (summary, guide, makes), seine Daten (das Eingabeschema, makes.into), seine Leistung (made gegenüber expected, Zeit und Speicher vom Host gemessen) und wie er scheitert (typisierte Ablehnungen, jeweils mit ihrer Behebung). Was fehlt, ist, was ein Agent liest, erreicht und ausgibt, sowie ein Zaun: Sie beschreibt eine Prozessgrenze, keine Berechtigungsgrenze.

Wo es heute zu kurz greift

Stand 4. November 2026, aus Raos eigenem Leitfaden und den Bedingungen:

  • Es gibt keinen Prüfschritt. „We check listings for form, not for safety.“
  • Ein öffentliches Repo und eine Lizenz sind nicht vorgeschrieben. Der Leitfaden sagt „Make it public“; die Bedingungen verlangen es nicht.
  • Jeder Push aktualisiert den Eintrag standardmäßig, es sei denn, der Creator wählt getaggte Releases.
  • Ein Takedown ist kein Notausschalter. Installierte Kopien funktionieren weiter, bis der Nutzer sie entfernt.

Wo ich anfangen würde

Alles Vorschläge, nach Aufwand geordnet:

  1. Eine Capability Card als Voraussetzung für einen Eintrag: was ein Package erreicht, liest, ausführt, ausgibt und wobei es sich anmeldet. Das sind die Kennzeichen des Gesetzentwurfs als Daten, und optionale Felder passen in die Versionierung von granite-agent/1. (Die Feldnamen sind beispielhaft.)
  2. Die Karte gegen den Quellcode prüfen. Der Store kann reaches: [] mit einem Package vergleichen, das eine Netzwerk-API einbindet, und den Eintrag ablehnen. Er wird Dinge übersehen, aber ein Creator kann sich nicht hinter der Unfähigkeit einer Registry verstecken, hinzusehen.
  3. Einträge an Offenheit knüpfen: ein öffentliches Repo, eine OSI-anerkannte Lizenz, ein fixierter Commit, der sauber baut. Immer noch keine Sicherheitsprüfung, und der Store sollte das weiter sagen.
  4. into und never zu einem Zaun machen. Ein Prozess pro Aufruf ist die Stelle, an der eine Sandbox ansetzen kann. Ich habe sie nicht gebaut, bis dahin ist never also ein Versprechen.
  5. Updates zurückhalten, die die Karte erweitern, und einen Widerruf ergänzen, der neben dem SHA-256 geprüft wird, den der Host ohnehin verifiziert, damit ein Takedown installierte Kopien erreicht.

Gestrichelte Kästen sind noch nicht gebaut.

Diagramm
Diagramm wird gezeichnet
Technische Fassung
Diagramm
Diagramm wird gezeichnet

Das sechste Ding ist der Sinn der ersten fünf: das Inventar veröffentlichen. Der Staat wird von seinen eigenen Agenten verlangen, was die Karte bereits enthält, und der Store kann dieselbe Form für jeden gelisteten Agenten veröffentlichen, bevor es jemand verlangt.

Deckt die Definition des Gesetzentwurfs Craft ab? Wahrscheinlich: Ein Host, der ein Ziel in Schritte zerlegt und Agenten aufruft, die auf Ihrem Rechner Builds ausführen und Dateien bearbeiten, handelt in der Welt. Ich nehme lieber an, dass ich erfasst bin, als mich herauszuwinden. Wenn das einzige Artefakt eine Behauptung ist, muss man der Behauptung vertrauen. Wenn das Artefakt der Quellcode ist, lässt sich die Behauptung prüfen.

P.S.

Die Details zum Gesetzentwurf stammen aus der Analyse des Ausschusses für die Anhörung am 1. Juli 2026 (in der Fassung vom 11. Juni). Ich konnte nicht bestätigen, was danach mit SB 1106 geschah, prüfen Sie also leginfo, bevor Sie mich zitieren. Die Details zum Store stammen von seinen Seiten am 4. November 2026 und ändern sich oft. Alles unter „Wo ich anfangen würde“ ist ein Vorschlag, kein Feature.