← Ein System für KI-Sicherheit

Mediensicherheit via Veil, Veil8, VeilGarde

Teil 1 von 5

Ein sicheres System zur Bilderzeugung und -verbreitung erfordert Prüfungen bei jedem Generierungsschritt und in jeder Phase gegen urheberrechtlich geschützte Werke, Gesichter und Eigentum, bevor irgendetwas ein Publikum erreicht. Ich begann mit der Erkennung, mit bereits erledigter Vorarbeit zum Wasserzeichnen visueller Werke. Zusammen bilden Veil, Veil8 und VeilGarde ein Trio, das den größten Teil des Risikos beim Ausspielen generativer Medien beseitigen soll. Das Ziel ist eine Branche, die Manipulationen erkennbar macht, in der Missbrauch zurückverfolgt und auf eine kleine Menge bewusst handelnder Akteure eingegrenzt werden kann, gegen die die Rechtsdurchsetzung wirksam vorgehen kann. Ohne diese Systeme haben generative Bildmodelle, ob Open Source oder geschlossen, noch Lücken, die sich schließen müssen, bevor sie sich in einem Umfeld sicher anfühlen, das sich in einem Tempo bewegt, mit dem man schwer Schritt hält. Und ich glaube fest daran, dass wir auf eine Welt zusteuern, die das Fehlen von Herkunftsnachweisen in Medien als Risikosignal behandeln wird.

„Wenn ein Künstler ein Foto macht, hat er entweder ein Bauchgefühl oder gewichtet eine komplexe Matrix von Kompositionen. So oder so ist es eine einzigartige Aufnahme. Millionen davon, zusammengeschmolzen, mögen aussehen wie eine Brücke, werden aber nie dasselbe sein.“ — KI-Sicherheit und Deepfakes

Veil

Veil ist eine Pipeline, die mit einer Thread-Datenbank arbeitet, die Teil des Ambient Intelligence Index ist. Bilder, die bei der Nutzung einer Anwendung wie Ambient gesammelt werden und als authentisch Ihre verifiziert sind, sowie Bilder, die Sie manuell über Veil hochladen, werden in einem Veil-Thread gespeichert. Das Speichersystem legt Bilder in einer Veil8-Kodierung ab, wodurch Ihre Datenbank eine übersetzte Form des Bildes hält, die verstanden werden kann, ohne visuell rekonstruiert zu werden, und so die Privatsphäre des eigenen visuellen Lebens schützt, während genug Bedeutung erhalten bleibt, um Generierungen auf Abbildähnlichkeit zu prüfen. Veil selbst ist ein Harness, ein System, das mit jeder Bilderzeugungsarchitektur arbeiten soll, Veil8 nutzt, um Generierungen bei jedem Schritt zu kodieren, Ergebnisse aus einer Thread-Datenbank abruft und die Generierung anhält, wenn eine geschützte Person oder Identität erkannt wird. Veil ist außerdem eine Pipeline, die es leicht machen soll, Bilderzeugungsmodelle lokal oder in der eigenen Hosting-Lösung auszuführen. Es ist als Toolkit zur Bilderzeugung gedacht, in das Herkunftssignierung, Nachverfolgung und Schutz eingebaut sind. Es soll das Befolgen von Richtlinien und das Risikomanagement automatisch machen, ohne dass man jedes Detail durcharbeiten muss: ein Sicherheitsstandard mit einfacher Installation, damit Ihre Nutzer von Anfang an geschützt sind.

VeilGarde

VeilGarde ist das System zur Herkunftssignierung und -nachverfolgung für den Fall, dass eine Generierung das Halt-Gate passiert. Eine Generierung, die Ihr System liefert, wird mit einem Veil-Wasserzeichen signiert. Es ähnelt SynthID, aber ich entwerfe es robuster. Ein Nutzer sollte ein Foto hochladen und prüfen können, ob es ein Veil-Wasserzeichen trägt, um zu belegen, ob ein Bild echt oder generiert ist. Es gibt zwei Formen dieses Wasserzeichens: eine, die echte Bilder signiert, um Authentizität zu belegen, und eine andere, die Generierungen signiert, um zu belegen, dass eine Generierung speziell mit Veil erzeugt wurde. Die zweite belegt, dass die Generierung aus einem System stammt, das bereits Abbildschutz hatte und dass sie auch richtlinienkonform freigegeben ist: gegen urheberrechtlich geschützte Werke geprüft und lizenzgebührenfrei.

VeilGarde hat außerdem einen Erkennungsmechanismus, gebaut, um zu analysieren, ob eine echte Kamera oder ein generatives Modell ein Bild erzeugt hat, ohne nach Wasserzeichen-Artefakten zu suchen. Seine Zuverlässigkeit wächst noch, und er muss ständig auf dem neuesten Stand der in freier Wildbahn vorkommenden Stile generativer Medien gehalten werden, aber er steht heute zur Verfügung, um jedes Bild forensisch zu analysieren, das eine Autopsie erfordern würde.

Das Hauptanliegen ist der Aufbau einer richtlinienvalidierten Bilderzeugungs-Pipeline, Veil, die mit jedem generativen Modell der Open-Source-Welt kompatibel ist oder sich direkt in Enterprise-Plattformen wie Midjourney integriert, und dabei zwei Wasserzeichen-Technologien bietet, um eine verifizierte Realität zu schaffen. Das Veil-Wasserzeichen hat derzeit den Status eines vorläufigen Patents, zum Signieren von Audio- und visuellen Werken durch eine eigene Methode, die tatsächlich aus der Deepfake-Erkennungsforschung abgeleitet wurde. Extrem schwere Probleme zu lösen hat manchmal seine Vorteile: Man entdeckt andere Anwendungsfälle, die auf unerwartete Weise helfen. Deepfake-Erkennung innerhalb der Beschränkungen der Modellagnostik zu positionieren, statt von Anfang an Fingerabdrücke der Modellgenerierung zu erkennen, ermöglichte diese Denkweise. Eine übliche Ingenieurspraxis von mir ist, absichtlich harte Bedingungen zu schaffen. Denn nur innerhalb von Beschränkungen innovieren wir wirklich.

Veil8

Zurück zur Aufnahmephase: Visuelle Medien werden in einer Thread-Datenbank gespeichert, sei es eine persönliche oder eine kuratierte in der Cloud, die im großen Maßstab schützen soll, eine Art Abbild-Register. Das Problem bei der Datenspeicherung ist, dass sie Datenschutzbedenken und Haftung mit sich bringt. Wenn man die Schöpfungen oder die visuelle Identität anderer auf einer Festplatte speichert, ist das ziemlich heikel, und man haftet dafür. Ich meine, ich vergesse sogar generell, meine iCloud-Fotos aufzuräumen …

Als iOS-Entwickler, der sich auf Computer Vision spezialisiert hatte und nur für Apple-Plattformen baute, behandelte ich meine iCloud als dauerhafte Testfläche, und was ich dabei lernte, führte mich zu den datenschutzwahrenden Ideen, die jetzt in Veil8 stecken. Kamera-Interaktionen zu bauen, bei denen eine Maschine „etwas sehen“ und dann „etwas tun“ kann, fühlte sich für mich immer wie Magie an, aber den Punkt zu erreichen, an dem man an einem solchen Produkt iterieren kann, ist schwer und mühsam. Ein Modell zu trainieren bedeutet, Daten zu beschaffen, zu trainieren, Parameter abzustimmen und Lauf für Lauf anzupassen, bis die Genauigkeit ihr Ziel erreicht. Manchmal ist die Herausforderung, wie viele Daten man braucht, aber öfter geht es darum, die richtige Menge zu finden, mit genau den Merkmalen, die das Modell braucht.

Ich bevorzuge einen Burst-Ansatz: im großen Maßstab scrapen, dann auf einen feinkörnigen Datensatz zurechtstutzen. Das sicher zu tun erfordert Sorgfalt, denn ein großflächiger Scraper, der Google-Ergebnisse nach passenden Bildern durchblättert, kann am Ende von Instagram, X und ähnlichen Seiten ziehen, wenn sie versehentlich zugelassen sind. Ohne die Ressourcen eines Unternehmens wie Google habe ich gelernt, improvisierte Systeme zu bauen, die konkurrenzfähige On-Device-Modelle möglich machen.

Veil8 speichert nur die Merkmale, die wir für eine Ähnlichkeitssuche brauchen. Ein Bild ist eine visuelle Darstellung durch diese Sprache aus Rot-, Grün- und Blauwerten. Eine Maschine sieht nicht, was wir sehen; eine Maschine sieht eine Liste von Tupeln und manchmal den Alphakanal dazu. Wir sehen Geschichten. Zum Glück brauchen wir im Bereich Computer Vision nur die Zahlen, also kodiert Veil8 Bilder in ein Format, das ein Computer versteht, kein Mensch, und wahrt so die Privatsphäre auf der Ebene der Übersetzung von Mensch zu Mensch. Es ist eine Methode, die nur Veils Pipeline versteht, genutzt, um Regionen mit Abbildähnlichkeit zu finden, Attributionsbedenken zu melden und die Generierung früh anzuhalten, und sogar Einzelne vor Deepfakes zu schützen.

Ein geschlossener Kreislauf

Die Pipeline, der Speicher, der das Risiko verringert und die Privatsphäre der Internetnutzer wahrt, und ein Werkzeug, um Realität zu erkennen und zu signieren, bilden zusammen ein System mit geschlossenem Kreislauf, um Computer-Vision-Lösungen in diesem neuen Zeitalter der künstlichen Intelligenz zu bauen. Entwickler können sich auf großartige Produkte konzentrieren, ohne unverwaltete Haftung zu tragen, und Verbraucher können darauf vertrauen, dass ihre Rechte respektiert werden. Ich nenne das Balance, und es ist ein solides Fundament, um in diesem Feld zu innovieren und die Branche voranzubringen. Ich bin fest überzeugt, dass echte Innovation in Open-Source-Gemeinschaften geschieht, wo die Verrückten leben. Was sie brauchen, ist die richtige Infrastruktur: Systeme, die es sicher machen, zu bauen, zu experimentieren und den Status quo infrage zu stellen. Das war schon immer das Silicon Valley in Bestform … das offene.