Vision d’avenir
Langage à redevances et modèles de diffusion
En octobre 2025, j’ai entamé un parcours acharné d’un an pour explorer le bon support, l’interaction homme-machine, l’infrastructure backend, l’architecture des LLM et l’architecture de diffusion, afin de rendre possibles des modèles de langage et de diffusion à redevances. Les premiers essais de 2026, couverts dans Ambient Intelligent Systems, m’ont beaucoup appris. Honnêtement, il s’est passé tant de choses avant que j’arrive à MaryOS.
Tout a commencé par une app iPhone, où chaque réponse de Seer portait une feuille Contributions : lesquels de vos propres documents l’avaient façonnée, lesquels des auteurs du réseau, et la part de redevance due à chacun.
Tout en réfléchissant à la stratégie de mise sur le marché (comment amener des utilisateurs dans le système, comment gagner leur confiance, comment agréger correctement leurs pensées), j’ai construit en parallèle quelques systèmes web front-end, dont une extension Chrome qui ajoutait des données à ce que je crois être l’IHM. L’extension était plutôt chouette. Un utilisateur pouvait surligner n’importe quoi, et le logo de Seer apparaissait, lui permettant de chercher dans la base de données des sources alignées avec la sélection, avec un LLM comme intermédiaire entre ces sources et l’utilisateur.
Pour prouver que la récupération fonctionnait, j’ai indexé toute la base d’arXiv comme prototype, afin de montrer que chaque résultat pouvait créditer les chercheurs réels qui se trouvaient derrière. Ouvrir Contributions listait les personnes derrière les passages récupérés, chacune avec un court résumé de ses travaux et des mots-clés tirés de ses articles. Au bas de chaque panneau, tout le propos tenait en une ligne : les créateurs sont rémunérés chaque fois que leur savoir est utilisé.
Cela montrait l’idée d’un LLM comme une machine qui assemble la réalité plutôt que de la fabriquer.
Ce furent des expériences très fructueuses, et elles m’ont laissé avec plus de questions qu’au départ. Les utilisateurs doivent-ils téléverser directement leurs données, ou est-ce trop de friction ? Cet outil doit-il aussi servir de détecteur de vérité, en vérifiant les sorties d’un LLM par rapport à une base de données réelles pouvant être citées à une personne, plutôt qu’à un lien web qui pourrait très bien être lui-même de la désinformation ? Et comment vérifier, d’ailleurs, que les données soumises au réseau sont vraies ?
Tant de pensées. C’est devenu un vortex en soi, parce que construire un système dont tout l’argument de vente est la vérité, dans une mer de fumée et de miroirs, est un autre niveau de complexité. Je ne suis pas naturellement quelqu’un qui se sent en sécurité en livrant un produit à des clients sans avoir vérifié que l’approche est inattaquable, mais il y a un équilibre entre faire avancer une idée et réparer l’avion en vol, et c’est un équilibre auquel il faut simplement s’habituer.
J’en suis maintenant à une version épurée que je veux publier d’abord sur macOS. MaryOS sera construit en parallèle comme un système d’exploitation complet sur Linux, tandis que l’application macOS, Ambient, est une introduction en douceur à l’idée. Je parlerai d’Ambient dans le billet qui suit celui-ci, mais je voulais mentionner dès maintenant comment elle servira de vaisseau à cette idée centrale : des modèles de langage et d’image qui peuvent être servis tout en attribuant le contenu à ses auteurs et en leur versant leur dû à l’ère générative.
À force d’itérer sur la bonne approche pour les deux, en recherchant cet été des procédures de sécurité contre les deepfakes (Veil & Scorpion, avec le code de détection lui-même dans Garde), je suis arrivé à une solution unique. Une sorte d’équilibre, où l’on peut construire un vrai système de suivi des redevances qui offre aussi un mécanisme de verrouillage pour protéger la ressemblance des individus. Je couvrirai ici le mécanisme de suivi des redevances, et dans un prochain billet j’écrirai sur la façon dont le même système peut empêcher les modèles génératifs de produire du contenu protégé grâce à une adaptation axée sur la sécurité.
L’idée est d’ajouter une nouvelle couche avant les activations du modèle et après ses adaptateurs. Cette couche interroge une base de données de données stockées, attribuées à des utilisateurs qui veulent protéger le droit d’auteur de leurs visuels, de l’identité humaine au placement de marque. La base est interrogée à chaque étape du processus de diffusion, et une matrice d’attribution est construite pas à pas jusqu’à la fin de la génération, en consignant sur le réseau les paiements dus avant que l’élément soit servi à l’utilisateur qui l’a demandé. C’est une étape applicable aux modèles en service comme aux modèles sur l’appareil.
La moitié paiement tourne déjà côté langage. Voici Gita, la couche d’attribution de Seer, qui règle une seule réponse en avril : l’unique propriétaire dont les données l’ont portée reçoit la totalité du paiement, et les frais de service sont facturés en plus.
L’implémentation peut aussi fonctionner dans l’autre sens. Au lieu de construire une matrice d’attribution, la génération peut s’arrêter plus tôt et retenir la sortie, en la marquant comme contrefaisante et en protégeant contre la génération d’une identité protégée. J’entrerai dans les détails techniques dans un billet d’architecture ML une fois la première version, pour la protection des images et des visuels, publiée plus tard ce mois-ci.
La conception de cette base de données a commencé avec Seer et son stockage vectoriel sur mesure, et elle s’est vite séparée en Thread, qu’on peut explorer à travers ses fichiers Partition. Thread est conçu pour être la base de données personnelle de chacun, avec ses données structurées et préparées pour la récupération dans un système à redevances, d’une façon qui mène vers le modèle P2P que j’envisage depuis un moment. C’est ce que j’explorerai dans Ambient le moment venu.
Au bout du compte, j’espère que les expériences de cette année aboutiront à une compréhension unique qui favorise une trajectoire de croissance plus stable pour l’intelligence artificielle : pour les écrivains, les créateurs et les scientifiques, et pour les consommateurs ordinaires qui ne savent pas que leurs données sont utilisées sans leur consentement. Tout cela en offrant une expérience assez profonde pour nous aider à réévaluer ce que signifie vraiment la connexion, dans un monde social où les réseaux sociaux nous en ont trop souvent privés.
Les victimes se sentent en sécurité parce que les préjudices sont traités par des implémentations réalistes et exploitables. Les communautés open source voient des limites sur lesquelles elles s’accordent. Les entreprises ont des règles claires à suivre avant de commercialiser. Les utilisateurs soucieux de leur vie privée qui préfèrent le traitement sur l’appareil peuvent montrer qu’ils ont utilisé Veil grâce à un filigrane invisible sur leurs générations.
Je dirais donc que la vision finale commence avec Ambient sur macOS et sa transition éventuelle vers MaryOS sur Linux, pendant que j’écris Gita's Ballad en parallèle.