Zentrale Forschung · ML-Architektur

Ein verteiltes Sprachmodell nach „Fair Use“

23. Oktober 2026rao-studios/AIISprachmodellemambaFair UseZitateHerkunftsnachweisverteilte Inferenzbraid

Dies ist eine vierteilige Serie, die der Idee nachgeht, dass persönliche Sprachmodelle auf unseren eigenen Rechnern existieren und zu einem größeren Modell beitragen können, wodurch der Bedarf an Rechenzentren sinkt, während sie Zitate erzeugen und personalisierte Erfahrungen bieten, die unseren Alltag ambient unterstützen. Klingt zu schön, um wahr zu sein … als würde es die meisten Probleme des Status quo einfach auf magische Weise lösen.

Vielleicht tut es das, vielleicht nicht, vielleicht ist es naiv, aber jemand muss es versuchen und zumindest schnell genug scheitern, damit andere zu der Lösung weiterziehen können, die das Gleichgewicht tatsächlich erreicht. Eines weiß ich sicher: Ein Gleichgewicht kommt tatsächlich, und es ist nur die Frage, wo, wann und wie.

Das wird eine vierteilige Serie.

  1. Der Weg zu „Fair Use“ in der generativen KI
  2. Ablationen: Mamba, Falcon H1 und mehr — demnächst
  3. Ein Rahmenwerk rund um Fair Use — demnächst
  4. Ein Protokoll zur Dezentralisierung der Inferenz — demnächst

In Teil 4 der Serie will ich eine interessante Komponente aus Anthropics S-1-Einreichung ansprechen, Multi-Chip Compute, indem ich verteiltes Training und verteilte Inferenz aus der Perspektive der Föderation untersuche. Der Auszug steht unten. Braid mit AII wird ein wichtiges OSS-Projekt, um Methoden zu testen, die die Token-Effizienz beim Training verbessern, insbesondere rund um das Konzept eines „Commons Model“ und der kleineren Thread-Modelle, die auf dessen Gewichten trainiert werden, was Teil 1 auf höherer Ebene behandelt.

Multi-Chip Compute Approach. We train and serve Claude natively across four major chip families (AWS Trainium, Google TPUs, NVIDIA GPUs, and AMD GPUs) using a proprietary orchestration layer that enables us to optimize workloads for price and performance. This flexibility, which took years and significant investment to build and we believe is difficult to replicate at scale, expands our available compute, reduces dependence on any single vendor, and enables us to continuously route workloads to the most optimal hardware for those workloads. This foundation, paired with Claude’s increasing understanding of chip and model architectures, allows us to onboard new chip platforms in a fraction of the time this once required.

Der erste Teil dieser Serie ist ein Überblick auf hoher Ebene über Braid, die Ausgangsarchitektur: ein Mamba-Sprachmodell, das auf Token-Ebene zitiert und Knoten auf ein Paradigma verteilter Sprachmodelle vorbereitet. Es wird derzeit auf Vollständigkeit getestet, noch vor den Q/A-Fähigkeiten, und verankert das Verständnis von Fair Use in einer Praxis, die vor Gericht verteidigt werden kann.

Also … hier ist der erste Teil: Der Weg zu „Fair Use“ in der generativen KI

Inhalt