Seer beginnt mit Text, einem wichtigen Einstiegsmedium, um zu erforschen, wie wir die Tantiemen-Engine angehen werden. Als der Medientyp mit dem geringsten Rechen- und Speicherbedarf ließen sich Gesamtarchitektur, Ansatz und Vision von Seer leicht veranschaulichen. Visuelle Bilddaten werden die größte Herausforderung sein, doch wenn sie gemeistert ist, führt sie zu vielen Anwendungsfällen, die Menschen vor Deepfakes und vor Wirklichkeiten schützen können, die von Automaten statt von Menschen entworfen werden. Wo es als Anfang genügen sollte, Wahrheit in einem Bild klar erkennen zu können, um unsere Perspektiven hinter einer Zukunft zu verankern, der wir vertrauen können.
Der Beginn dieser technischen Reise war ein erkanntes Problem im Jahr 2024, während der Wahlsaison. Die klare Diffamierung gewählter Amtsträger, um Glaubwürdigkeit und/oder Einfluss im Wahlkampf zu mindern, durch realistische Generierungen, die Personen geschmacklos in erniedrigende Umgebungen und Situationen versetzten. Für manche mag es nur ein Bild sein, für andere ein Witz, doch unterschätzen Sie nicht die psychologische Wirkung, die es haben kann, besonders auf weibliche Führungspersönlichkeiten. Visuelle Bilder sind mächtig, soziale Netzwerke haben uns die Geschwindigkeit gezeigt, mit der sich Informationen über Kurzvideo- und Bild-Feeds verbreiten. Sie übertragen mental weit mehr Daten als Text, und den Schutz der Wirklichkeit in diesem Raum zu sichern ist für eine sicherere Zukunft von höchster Bedeutung, sonst kann Propaganda verbreitet werden, um das Denken in einem Maßstab zu verzerren, auf den wir nicht wirklich vorbereitet sind. Wären wir es, hätten wir die Probleme, die soziale Netzwerke aufwarfen, schon vor dem Boom der generativen KI gelöst, doch an entsprechenden Sicherheitsprotokollen fehlt es uns an dieser Front noch immer.
Die erste Schutzmethode, die Seer und Rao erkunden wollen, ist die Verhinderung von Generierungen. Proaktiver Schutz des Abbilds von Einzelpersonen, bevor es in sozialen Medien oder im Internet auftaucht. Dazu ist eine Datenbank nötig, die ein wirksames Register von Merkmalen führt, die sich auf das Abbild einer Person beziehen. Generierungen von Modellanbietern müssen visuelle Daten an diesen Endpunkt übermitteln, und der Server führt eine Prüfung durch und liefert eine Antwort. In dieser Antwort steckt ein einfaches Signal, das anzeigt, ob ein generiertes Foto eine identifizierte geschützte Person enthält oder nicht. Wenn ja, darf der Modellanbieter den Inhalt nicht auf öffentlich zugänglichen Domains veröffentlichen oder in irgendeiner Form speichern. Zunächst wollen wir die Endpunkte für diese Funktion sowie den gehosteten Dienst zum Aufbau eines Registers geschützter Personen bereitstellen; die Durchsetzung erfordert Gesetzgebung, und die braucht Zeit. Doch wenn ein „Seer Certified“-Siegel über die Jahre eine neue Form von Wert für KI-Dienste vermitteln kann, fühlen sich mit der Zeit vielleicht mehr Nutzer sicher, diese Dienste beim Generieren von Medien zu nutzen.
Mit der Zeit wird ein Team gebildet, das alle erreichbaren Open-Source-Modelle sammelt und LoRAs und ähnliche Methoden vorbereitet, die ein Modell durch eine Form der Subtraktion zu fokussierten Ergebnissen von Referenzbildern bringen. In Kombination mit den privaten hauseigenen Modellen eines Modellanbieters können wir versprechen, den Großteil der Sicherheitsstandards abzudecken, um etwas Sichtbares und Greifbares in der Sicherheitsbranche zu erreichen. Dies wird ständig aktualisiert, damit uns nie ein öffentlich veröffentlichtes Modell entgeht, das öffentlichen Kommunikationsplattformen schaden könnte. Uns ist bewusst, dass sich mit den Fortschritten der Foundation Models auch abtrünnige unabhängige Projekte beschleunigen können. Adversariale Communities zu säen wird wichtig sein, um eine Art Checks and Balances aufrechtzuerhalten. Das wurde schon einmal gemacht, und es kann wieder gemacht werden, im großen Maßstab, professionell und monetarisiert. Böswillige Akteure lassen sich nicht beseitigen, aber man kann sie überholen.
Der Wert generativer Technologien ist groß, die Geschwindigkeit, mit der sie Entwicklung, kreatives Denken und das Ausliefern von Produkten verbessern, ist nicht zu übersehen. Dieses Tempo halten zu können und dabei ein reines Gewissen zu haben, ist eine Beschleunigungsvariable, die uns fehlt. Autos müssen einen Sicherheitsstandard erfüllen, um der Öffentlichkeit übergeben zu werden, es ist sogar eine Form von Wettbewerb. KI wie Autos zu behandeln heißt, dafür zu sorgen, dass unsere Prozesse und „Fabriken“ einen hohen Standard halten können. Dafür zu sorgen, dass wir unsere Grenzen gegenüber den Werken, Identitäten und dem Wert anderer Menschen nicht überschreiten, während wir unsere eigene Zukunft beschleunigen. Ein individualistisches Mantra funktioniert nur, wenn wir andere mitnehmen, während wir unsere Ziele erreichen. Diffamierung, Schädigung von Konkurrenz (im Scherz oder gezielt) oder bloßes Schädigen um des Schädigens willen ist eine Kultur, die nun der Vergangenheit angehört. Eine natürliche Folge davon ist, Generierungen gegen eine tantiemenverfolgte Vergütung zuzulassen, wenn die geschützte Person oder ihre geschützten Werke dem zustimmen.
Das Candidate Likeness Registry und Seer sind die ersten Schritte, diesen Ton für Rao und unsere künftigen Projekte zu setzen.
P.S.
Ich habe das lange nicht gemacht … Aber hier ist Raos Song der Woche.