Nr. 10

Plädoyer für persönliche KI

Von Anzeigen-Retargeting bis zu Chatmodellen, die lenken könnten, ohne dass ein Nutzer es merkt: wie das Überzeugungsproblem des Feeds in die KI hineinreicht, und ein Plädoyer für persönliche KI, die zuerst Identität, Psyche und Privatsphäre schützt und dann nur auf Ihrem eigenen Handwerk wächst.

Seit 2023, und schon früher, zieht es mich dazu, Ökosysteme zu bauen, die Nutzer vor den Schäden schützen, die ich in der Technologie immer wieder fand. Es begann mit sozialen Netzwerken: Einen Client für einen föderierten Dienst zu bauen war ein guter Weg, zu studieren, wie eine ethische soziale Anwendung aussehen könnte. Dieses Projekt führte mich in einen Kaninchenbau über die Schäden der Algorithmen sozialer Medien selbst und darüber, warum der Fall Cambridge Analytica so wichtig anzugehen war. Anzeigen-Retargeting-Kampagnen und koordinierte Bot-Netzwerke sind ein ernstes Problem, und sie sind 2024 nicht verschwunden ... Diese Netzwerke und Räume entwickelten eine Kultur der Meisterschaft darin, um Grauzonen herumzutanzen, weil diese Grenzen noch nicht in Schwarz und Weiß gezogen sind. Die Wirkung dieser scheinbar kleinen Variablen ist viel größer, als man denkt, und von innen schwer zu erkennen. Den Ranking-Algorithmus als Open Source zu veröffentlichen, wird oft als Schlüssel zur algorithmischen Sicherheit vorgeschlagen, aber selbst ein Open-Source-Algorithmus verhindert nicht, dass ein gehosteter Dienst seine eigenen Präferenzen ohne Einwilligung und ohne dass Außenstehende es erfahren in den Feed eines Menschen einspeist. Bei einem gehosteten Dienst ist ein Open-Source-Algorithmus transparent über den Mechanismus, nicht darüber, wie er eingesetzt wird. Es sei denn, es gibt eine Art „On-Chain“-Register, natürlich, aber das ist ein Thema für einen späteren Beitrag. Software, die auf Ihrer eigenen Maschine läuft, ist ein anderer Fall: Dort ist der Code, den Sie lesen können, der Code, der läuft.

Die Entwicklung, die mich am meisten beunruhigt, ist von 2024 bis 2026 dieselbe Schadensart, durch große Sprachmodelle in Unsichtbarkeit und Wirkung hochskaliert. Chat-Oberflächen wie Claude und ChatGPT leisten auf der einen Seite dieser Geschichte beeindruckende Arbeit und lenken einen Nutzer von Psychose oder Selbstverletzung weg. Aber der Mechanismus, der wegsteuert, ist derselbe Mechanismus, der hinsteuern könnte – eine verborgene Präferenz, ein Kauf, ein Gedankensamen –, und aus dem Gespräch heraus kann ein Nutzer nicht erkennen, was gerade geschieht. Ich behaupte nicht, dass ein Labor das absichtlich tut. Ich sage, dass nichts in heutigen Produkten einem Nutzer erlaubt zu überprüfen, dass sie es nicht tun.

Dasselbe Muster gibt es außerhalb des Chats. Überall dort, wo Mehrdeutigkeit die Aufgabe ist, kann Mehrdeutigkeit auch gegen Sie eingesetzt werden: eine vage gelassene Anweisung, ein eingepflanzter und nie aufgezeichneter Vorschlag, eine Bewertung, die den Menschen lenkt, den sie zu beobachten vorgibt. Ohne Aufzeichnung kann die Person am empfangenden Ende nicht trennen, was sie gewählt hat und wozu sie geführt wurde. Skalieren Sie das von einem Raum auf ein Modell, das Hunderte Millionen Menschen bedient, und aus einem Chatbot wird ein Minenfeld der Beeinflussung, dem der Nutzer nie zugestimmt hat.

Das Muster entsteht mehr aus Anreizen als aus einem einzelnen Unternehmen: Produkte, die darauf optimiert sind, Menschen zu bewegen, eine Generation nach der anderen, wobei die Überzeugung unsichtbar gehalten wird. Überzeugung, die so leise ist, beginnt wie Zwang zu wirken, und wenn sie schließlich zubeißt, ist es nicht nur ein Biss ... sie verändert, wie ein Mensch sich selbst sieht. Ich lebe seit 29 Jahren im Silicon Valley, von der Junior High über die High School und das College bis heute, und habe jeden Bogen und die Kosten jedes einzelnen beobachtet. Es gibt immer Kosten, und die eine durchgängige Variable, die sich durch alle zieht, waren die sozialen Medien. Aber so einfach ist es nicht. Das Problem ist nicht die Idee sozialer Medien, sondern das, wozu die Optimierung sie gemacht hat: ein Werkzeug, um einen Nutzer in großem Maßstab zu etwas zu bewegen. Etwas zu kaufen, etwas zu verkaufen, etwas zu werden, das er nicht ist ... Übertragen auf Sprachmodelle, ohne Möglichkeit, sie zu überprüfen, sind genau diese Anreize das, was sich meiner Erwartung nach im nächsten Jahrzehnt aufschaukeln wird.

Eine Generation von uns, mich eingeschlossen, hat in zehntausend kleinen Schritten eingewilligt. Und hier ist der Vorbehalt, der es schlimmer macht, nicht besser: Niemand kann sagen, welche Schritte echt waren. Man sah die Idee im eigenen Kreis widerhallen – Freunde, Kollegen, Menschen, denen man vertraut – und es fühlte sich wie Zugehörigkeit an, als würde die Nachbarschaft zustimmen. Aber ich kann Ihnen nicht sagen, wie viel von diesem Echo meine Nachbarn waren und wie viel eingespeist wurde – ein Algorithmus, verkleidet als Gemeinschaft, der dieselbe Beschwerde gleichzeitig in zehntausend Kreise sät. Hergestellter Konsens ist vom echten nicht zu unterscheiden. Das ist der schwerste Teil, wenn man schließlich daraus aussteigt: Man kann nicht prüfen, welche der eigenen Gedanken die eigenen waren, welche von Freunden kamen und welche von einem Feed, der vorgab, Ihre Freunde zu sein. Man weiß nur, dass dieselbe Beschwerde immer wieder auftauchte und ein vertrautes Gesicht trug.

KI richtig zu machen beginnt damit, als erste Maßnahme Identität, Psyche und Privatsphäre eines Nutzers zu schützen. Allgemeine Intelligenz ist großartig. Wie die Suche verschafft sie dem Nutzer Verständnis mit einer Geschwindigkeit, die nichts anderes erreicht, aber wächst der Nutzer dabei? Baut er tatsächlich eine Fähigkeit auf? Wird das Pferd zum Wasser geführt, oder wird dem Pferd das Wasser einfach gegeben? Heute eingesetzte Modelle haben diese Art von Vertrauen noch nicht: intransparentes Training, nicht überprüfbare Verarbeitung und die Möglichkeit eingespeister Einflussnahme gehören zum Paket. Besonders bei der Personalsuche machen KI-Systeme es beiden Seiten schwerer: Arbeitgeber tun sich schwer, Wert genau zu messen und damit Arbeitsplätze in großem Maßstab zu schaffen, während Berufseinsteiger sich schwertun, ihren Wert genau auszudrücken. Das verlangt nach einer neuen Metrik, einer neuen Art, Fähigkeit zu vermitteln, ohne die Identität zu opfern. KI, die mit dem Nutzer skaliert, nie über die aktuelle Fähigkeit der Person in genau diesem Moment hinaus, sondern mit dem Nutzer, wie ihr ganz eigenes Schwert. Ein Werkzeug für Tempo und Automatisierung statt für Ersetzung und Verallgemeinerung. Auf den Menschen werde ich immer eher setzen als auf die Maschine, aber ein Mensch, der im Maßstab einer Maschine leistet? Das gibt es nur mit privater und persönlicher künstlicher Intelligenz ... Synthese.

Es ist ein Unterschied, ob man etwas Großartiges mit Verifizierung neben den eigenen Generierungen baut oder ein allgemeines Modell danach promptet, und ich hoffe, diesen Paradigmenwechsel Wirklichkeit werden zu lassen. Eine Wirklichkeit, in der ein Datenverifizierungs-Siegel jedem, der es sieht, erreichte Tiefe signalisiert, statt ... per Vibe zur Fertigstellung getrieben. Das ist die Idee hinter Raos Ambient, Craft und Veil: Sie optimieren nur auf Ihre Arbeit. Alles, was sie generieren, skaliert auf Ihren manuellen, hart erarbeiteten Beiträgen zur Welt. Wenn es gut generiert ... dann wegen Ihnen. Weil Sie sich Ihr Handwerk erarbeitet haben. Sozusagen ein persönliches Fable ... Zurück in eine Welt, in der wir unsere Schwerter im Privaten nutzbar machen und bauen, ohne den Vergleichsdruck, der uns das Wachstum nimmt. Zurück zu den schönen Künsten ... zur Menschlichkeit. Wo Technologie dient, statt zu nehmen. Wo jedes Werk und jedes Produkt das Gewicht eines vergangenen Lebens trägt. Seelengebundene Schöpfungen, die zurückkehren, um zu schützen und zu ermöglichen.