Zentrale Forschung · ML-Architektur

Ein System für KI-Sicherheit

27. Oktober 2026rao-studios/AIIrao-studios/Blessrao-studios/Veilriteshpakala/Veil8riteshpakala/VeilGardeKI-SicherheitdeepfakesHerkunftsnachweisHalluzinationenHuman in the LoopWearablesveil

Ich habe Jahre damit verbracht, meine Fähigkeiten zu erforschen und zu verfeinern, um umsetzbare Lösungen für KI-Sicherheit für die Branche zu bauen. Es sind mehrere Vögel im Spiel, also haben Sie bitte Geduld. Zuallererst wollte ich immer ein Wearable bauen. Bald erkannte ich, dass KI in Verbindung mit physischer Mensch-Computer-Interaktion, wie bei Wearables, der wahre Endpunkt ist. Als ich über diese Brücke nachdachte, fiel mir auf, dass Wearables die ultimative Form der Sicherheitsumsetzung sind und die Person schützen, die die Intelligenz nutzt — „wear intelligence“ war der erste Slogan, den ich für Rao wollte.

Ein Hardwareunternehmen zu gründen ist aber schwer. Es erfordert entweder das Kapital, persönlich zu investieren, oder einen Raum voller Investoren, die bereit sind, Ihnen zuzutrauen, dass Sie liefern, ohne dass Sie die Referenzen dafür vorweisen können. Ohne beides ist es sinnvoll, Hardware als langfristige Vision für ein Unternehmen zu behandeln und mit Software zu beginnen oder mit etwas, das weniger Overhead hat. Außerdem beginnt KI-Sicherheit bei Software und Systemen, also mussten diese ohnehin gebaut werden, und sie zuerst zu bauen, auf dem Weg zu dem Kapital, das das Wearable-Endziel erfordert, ist am sinnvollsten. So begann Rao Studios, mit den ersten Angeboten Ambient, Veil und Craft.

Diese Serie behandelt, wie ich über jede Komponente denke, die KI-Sicherheit erfordert, und wie man sie zu einer einzigen Lösung kombiniert, die die meisten, wenn nicht alle Angriffsvektoren abdeckt, mit klaren Signalen dafür, wo die Haftung liegen sollte. Diese Sichtweise kommt aus Jahren der Beobachtung der Branche als Ingenieur in ihr, zuletzt bei der Arbeit als freiberuflicher iOS-Ingenieur bei Apple, Inc. im Jahr 2025: wie Sicherheit im Feld im großen Maßstab angegangen wird und wo das Feld als Ganzes noch offene Probleme hat.

Diese Beobachtungen waren höchst wertvoll, denn zu sehen, wo die Branche steht, ist der beste Weg zu beurteilen, ob der Ansatz, den ich verfolge, im Branchenmaßstab trägt. Also … habe ich 2026 in meiner eigenen Zeit die Lösungen gebaut.

Das wird eine fünfteilige Serie.

  1. Mediensicherheit via Veil, Veil8, VeilGarde
  2. Text- und Codesicherheit via AII, Braid — demnächst
  3. Halluzinationen mit einem Harness reduzieren — demnächst
  4. Verifikation in Human-in-the-Loop-Systemen — demnächst
  5. 1 System, alle Domänen, sicher abgesichert durch Rao — demnächst

Ich habe im vergangenen Jahrzehnt viele Projekte gebaut und unzählige Sektoren getestet und was Nutzer in jeder Nischenzielgruppe brauchen, auf die ich stieß. Von Hand zu bauen und Muster mit der Zeit natürlich zu lernen, formte eine bestimmte Sicht auf generative Technologien. Mein Lernprozess wurde zu einer eigenen Kunstform. Ein Textfeld, das in Sekunden Code oder Werke erzeugen kann, deren „Warum“ mich einen ganzen Prozess zu verstehen kostete, löschte aus, wer ich war, eine Generierung nach der anderen. Ich lernte, mich anzupassen und damit zu leben, 2025–2026, weil es offensichtlich als Produkt darauf gebaut war, zu überholen, und man sich seine Kämpfe im Leben aussuchen muss. Und es zeigt sich, dass ich es ziemlich gut zu nutzen weiß, gut genug, um über das hinauszuwachsen, wo, wer und was meine Fähigkeiten früher waren.

Hier gibt es noch ein offenes Problem, einen Schmerzpunkt, den ich 2023–2024 zutiefst spürte, als generative KI, die Arbeitswelt, die bildende Kunst und Identität zu einer Auslöschung zusammenliefen, durch die ich zufällig hindurchkam. In diesem Prozess fehlen weiterhin Lösungen, und Sicherheit bedeutet für mich nicht nur die offensichtlichen Gründe, die auf der Policy-Seite von Veil aufgeführt sind. Sicherheit heißt, andere vor genau dieser Erfahrung zu schützen. Der gesamte Prozess der Wertschöpfung im eigenen Leben wird durch Handwerk und die Gewerke definiert: was wir von Mentoren lernen und wie wir es im echten Leben anwenden, auf der Suche nach einer Belohnung, sei es Kapital oder irgendeine Form persönlichen Fortschritts (ins Fitnessstudio zu gehen, um sofortigen körperlichen Fortschritt zu sehen, ist ein gutes Beispiel). Generative Technologien können diese Anker auslöschen. Ein System zu bauen, das Richtlinien informiert und zugleich einen sichtbaren Maßstab dafür liefert, diese Anker zurückzugewinnen, ist mir wichtig.

Große Unternehmen arbeiten bereits daran, diese Risiken zu mindern, und es hat Wert, dieselbe Art von Systemen offen zu bauen, wo Gemeinschaften wie Open Source Ideen beitragen können. Veil, Veil8 und VeilGarde sind darauf ausgelegt, dieses Denken in geschlossenen Kreisläufen rund um ein Machine-Learning-System transparent zu vermitteln, einschließlich der Tantiemen-Attributionssysteme, die breitere Aufmerksamkeit verdienen. Hätte es ein solches System im Maßstab einer Organisation wie Google gegeben, hätte es dem Aufwand entsprochen, den ich bis Ende zwanzig in meine Fähigkeiten gesteckt hatte: ein System, das manuelle Arbeit aufnehmen, bewerten, beurteilen und dann zum Selbstkostenpreis verteilen kann. Ich hätte Generierung nutzen können, wenn ich Tempo und Effizienz brauchte, zu einem Preis, der die Quellen direkt finanziert, ohne Schuldgefühl, im Wissen, dass meine eigene Arbeit genauso gewürdigt werden könnte.

Der erste Teil dieser Serie behandelt Medien, beginnend mit Bildern und dem heutigen Bedarf an Deepfake-Schutz. Die Bedrohung wird sich zu anderen Angriffsvektoren weiterentwickeln, aber sobald die Grundlagen stehen, sollte die Erweiterung darauf deutlich reibungsloser gehen.

Inhalt