← Systèmes intelligents ambiants

Totem : la mémoire devient un nœud

Partie II — Le nœud et la jonction · Chapitre 4 sur 9

Si le foyer de l’assistant est la machine de l’utilisateur, alors la mémoire ne peut pas être une table dans la base de données de quelqu’un d’autre. Il faut que ce soit une chose — avec un emplacement, une identité et un propriétaire. Cette chose est devenue Totem : un nœud de mémoire local de vecteurs et de graphe de connaissances, un programme distinct avec son propre cycle de vie, et le deuxième membre de ce qui allait devenir une pile à trois processus.

Un nœud, pas un service

Totem persiste un nœud sous la forme d’un petit ensemble de fichiers de stockage sur le disque même de l’utilisateur, leurs noms de fichier intégrant l’UUID du nœud. C’est toute la base de données : vecteurs, graphe de connaissances, registre, posés dans les propres dossiers de l’utilisateur comme n’importe quels autres fichiers qu’il possède.

L’engagement de conception qui se cache dans ce schéma de noms de fichier est plus fort qu’il n’y paraît : l’UUID du nœud est l’identité de la base de données. Il n’y a pas de ligne de compte qui pointe vers les données ; l’identifiant dans le nom de fichier est l’identité, point final. Le code client considère comme le péché capital le fait de frapper une identité neuve alors qu’une identité persistée existe — le faire rendrait silencieusement orpheline toute la base de données. L’identité n’est pas gérée à propos de la mémoire ; elle fait partie de la mémoire.

Une note non datée de cette période — écrite à propos de concurrents, mais en réalité une spécification — dit pourquoi cela comptait tant pour moi :

Note de terrain non datée. « Rien de tout cela ne vous appartient. Supprimez votre compte, votre personnalisation disparaît. Changez de fournisseur, vous repartez de zéro. Le modèle comportemental de Seer est exportable — un fichier .seer que l’utilisateur possède, emporte et contrôle. La personnalisation, c’est le fichier. La plateforme n’est que l’environnement d’exécution. »

Totem est cette phrase, construite. La mémoire sous forme de fichiers que l’utilisateur peut copier, sauvegarder, déplacer vers une nouvelle machine ou supprimer — les serveurs étant rétrogradés au rang d’environnements d’exécution pour des données que la personne possède.

Et l’identité traverse la récupération, pas seulement le stockage : lorsque la pile complète est connectée, le sujet authentifié devient l’identifiant de propriétaire contre lequel chaque groupe de mémoire et chaque adresse de document sont hachés. Comme le dit la documentation du système elle-même — connectez-vous en tant que quelqu’un d’autre et vous adressez une tout autre mémoire, pas une vue filtrée de la même. La mémoire n’est pas délimitée par une clause WHERE ; elle est adressée par propriétaire, cryptographiquement, au fond du schéma.

La topologie

Avec Totem, la pile a pris sa forme durable à trois processus :

Seer sert le chat en temps réel, la parole et la vue de flotte en HTTP, et exécute un canal gRPC mothership. Totem sert du gRPC pour les appels directs de requête, de bibliothèque et de graphe, plus une surface d’administration verrouillée — et voici la surprise structurelle : Totem appelle le mothership de Seer, et les mises à jour de la mémoire passent par cette session plutôt que par une connexion directe. La voie de raisonnement et le nœud de mémoire sont des pairs aux devoirs distincts, joints par un contrat de transmission explicite — une définition de protocole partagée, appelée Conduit, contre laquelle les trois programmes se construisent, de sorte que le contrat ne puisse pas dériver d’un processus à l’autre.

Mary — qui arrive vraiment au chapitre suivant — supervise les deux comme processus enfants : elle démarre d’abord le mothership, puis Totem, qui s’y connecte. Ou bien elle les adopte : un serveur sain que Mary n’a pas lancé est respecté comme externe et jamais touché. Trois programmes, trois cycles de vie, un seul contrat.

La division du travail en une ligne par laquelle s’ouvre la documentation, et à laquelle ce livre reviendra sans cesse :

Mary agit, Seer raisonne, Totem retient les connexions.

Des graphes avec une ontologie

« Retient les connexions » est le mot clé. Aux côtés des vecteurs, Totem exécute côté serveur une extraction d’entités et de relations sur ce qui est déposé — construisant un graphe de connaissances selon une ontologie configurable (personnes, organisations, lieux, événements, œuvres, concepts — et Mary étend plus tard la liste des genres avec les siens : fichiers, projets, applications, abilities, skills). Une mémoire qui sait que deux choses sont liées et comment répond à des questions que les vecteurs seuls ne peuvent pas résoudre.

Un graphe qu’on garde des années demande aussi de la maintenance — renommer une entité, fusionner des doublons, supprimer une relation, relancer l’extraction — et ces opérations sont de la chirurgie irréversible sur la mémoire de l’utilisateur. La surface d’administration est donc délibérément étroite, et chacun de ses appelants se tient derrière une confirmation explicite. Le principe que le chapitre 8 nommera formellement : là où la réversibilité s’arrête, le consentement commence.

Trois programmes, une phrase

Ce que Totem a apporté au paradigme final est presque embarrassant de concret. Face à une industrie qui traite la mémoire soit comme un registre de texte injecté dans le prompt, soit comme un magasin de vecteurs hébergé — l’un et l’autre possédés par le fournisseur, l’un et l’autre s’évaporant à la suppression du compte — la réponse de cette pile est : la mémoire est un nœud. Elle a des fichiers qu’on peut désigner du doigt. Un UUID qui est l’identité. Des ports qu’on peut sonder. Un propriétaire contre lequel le schéma d’adressage est haché. Un graphe avec une ontologie qu’on peut amender.

Une mémoire que l’on peut désigner du doigt — un fichier, un UUID, un port.

Restait la partie difficile : une voie de raisonnement et un nœud de mémoire sont encore sans tête. Rien ne vivait encore là où vit la personne — devant l’écran, dans les applications, au milieu de la journée de travail. Ce programme avait besoin d’un nom.