N° 10

Plaidoyer pour l’IA personnelle

Du reciblage publicitaire aux modèles de chat capables d’orienter sans que l’utilisateur le sache : comment le problème de persuasion du fil d’actualité passe dans l’IA, et un plaidoyer pour une IA personnelle qui protège d’abord l’identité, la psyché et la vie privée, puis ne grandit que sur votre propre savoir-faire.

Depuis 2023, et même avant, je suis attiré par la construction d’écosystèmes qui protègent les utilisateurs des préjudices que je ne cessais de trouver dans la technologie. Cela a commencé par les réseaux sociaux : construire un client pour un service fédéré était une bonne façon d’étudier à quoi pourrait ressembler une application sociale éthique. Ce projet m’a entraîné dans un terrier de lapin sur les méfaits des algorithmes des réseaux sociaux eux-mêmes, et sur les raisons pour lesquelles l’affaire Cambridge Analytica était si importante à traiter. Les campagnes de reciblage publicitaire et les réseaux de bots coordonnés sont un problème sérieux, et ils n’ont pas disparu en 2024... Ces réseaux et ces espaces ont développé une culture de la maîtrise pour danser autour des zones grises, parce que ces lignes n’ont pas encore été tracées en noir et blanc. L’impact de ces variables en apparence minuscules est bien plus grand qu’on ne le pense, et il est difficile à voir de l’intérieur. On propose souvent de publier en open source l’algorithme de classement comme clé de la sécurité algorithmique, mais même un algorithme open source n’empêche pas un service hébergé d’injecter ses propres préférences dans le fil de quelqu’un sans son consentement et sans que personne à l’extérieur le sache. Sur un service hébergé, un algorithme open source est transparent sur le mécanisme, pas sur la façon dont il est utilisé. À moins qu’il existe une sorte de registre « on-chain », bien sûr, mais c’est un sujet pour un billet ultérieur. Un logiciel qui s’exécute sur votre propre machine est un autre cas : là, le code que vous pouvez lire est le code qui s’exécute.

L’évolution qui m’inquiète le plus, de 2024 à 2026, c’est ce même ensemble de préjudices amplifié en invisibilité et en impact par les grands modèles de langage. Des interfaces de chat comme Claude et ChatGPT font un travail impressionnant d’un côté de cette histoire, en éloignant un utilisateur de la psychose ou de l’automutilation. Mais le mécanisme qui éloigne est le même que celui qui pourrait orienter vers quelque chose : une préférence cachée, un achat, une graine de pensée, et de l’intérieur de la conversation, un utilisateur ne peut pas dire lequel des deux est à l’œuvre. Je n’affirme pas qu’un laboratoire le fasse délibérément. Je dis que rien dans les produits d’aujourd’hui ne permet à un utilisateur de vérifier qu’ils ne le font pas.

Le même schéma existe en dehors du chat. Partout où l’ambiguïté est le métier, l’ambiguïté peut aussi être utilisée contre vous : une consigne laissée floue, une suggestion plantée et jamais consignée, une évaluation qui oriente la personne qu’elle prétend observer. Sans trace, la personne qui est de l’autre côté ne peut pas distinguer ce qu’elle a choisi de ce vers quoi on l’a conduite. Faites passer cela d’une pièce à un modèle qui sert des centaines de millions de personnes, et un chatbot devient un champ de mines d’influence auquel l’utilisateur n’a jamais consenti.

Le schéma vient des incitations plus que d’une entreprise en particulier : des produits optimisés pour faire bouger les gens, une génération après l’autre, avec la persuasion tenue hors de vue. Une persuasion aussi discrète finit par fonctionner comme de la coercition, de sorte que lorsqu’elle finit par mordre, ce n’est pas seulement une morsure... elle remodèle la façon dont une personne se voit elle-même. J’ai vécu dans la Silicon Valley pendant 29 ans, du collège au lycée, à l’université et au-delà, et j’ai vu chaque arc et le coût de chacun. Il y a toujours un coût, et la seule variable constante qui traverse chacun d’eux a été les réseaux sociaux. Mais ce n’est pas si simple. Le problème n’est pas l’idée de réseau social, c’est ce que l’optimisation en a fait : un outil pour persuader un utilisateur, à grande échelle, de faire quelque chose. Acheter quelque chose, vendre quelque chose, devenir quelque chose qu’il n’est pas... Transportées dans les modèles de langage sans moyen de les vérifier, ces mêmes incitations sont, je crois, ce qui va se cumuler au cours de la prochaine décennie.

Une génération de nous, moi compris, a consenti en dix mille petits incréments. Et voici la réserve qui aggrave les choses, au lieu de les améliorer : personne ne peut dire lesquels étaient réels. Vous voyiez l’idée reprise par votre propre cercle, amis, collègues, personnes de confiance, et cela donnait le sentiment d’appartenir, du quartier qui est d’accord. Mais je ne peux pas vous dire quelle part de cet écho venait de mes voisins et quelle part était injectée : un algorithme déguisé en communauté, semant le même grief dans dix mille cercles à la fois. Un consensus fabriqué est indiscernable du vrai. C’est la partie la plus difficile à défaire quand on en sort enfin : vous ne pouvez pas auditer lesquelles de vos pensées étaient les vôtres, lesquelles venaient d’amis, et lesquelles venaient d’un fil qui faisait semblant d’être vos amis. Vous savez seulement que le même grief revenait sans cesse, sous un visage familier.

Bien faire de l’IA commence par protéger l’identité, la psyché et la vie privée d’un utilisateur comme première mesure. L’intelligence générale est formidable. Comme la recherche, elle donne à un utilisateur une compréhension à une vitesse que rien d’autre n’égale, mais l’utilisateur progresse-t-il ? Construit-il réellement une compétence ? Mène-t-on le cheval à l’eau, ou donne-t-on simplement l’eau au cheval ? Les modèles déployés aujourd’hui manquent encore de ce genre de confiance : un entraînement opaque, un traitement invérifiable et la possibilité d’une influence injectée font partie du lot. Dans l’embauche en particulier, les systèmes d’IA compliquent les choses des deux côtés : les employeurs peinent à mesurer la valeur avec exactitude, et donc à créer des emplois à grande échelle, tandis que les nouveaux venus peinent à exprimer leur valeur avec exactitude. Cela appelle une nouvelle métrique, une nouvelle façon de communiquer une capacité sans sacrifier l’identité. Une IA qui évolue avec l’utilisateur, jamais au-delà de la capacité actuelle de la personne à cet instant précis, mais avec l’utilisateur, comme sa propre épée. Un outil de vitesse et d’automatisation plutôt que de remplacement et de généralisation. C’est toujours sur l’humain que je parierai plutôt que sur la machine, mais un humain qui performe à l’échelle d’une machine ? Cela ne vient qu’avec une intelligence artificielle privée et personnelle... la synthèse.

Il y a une différence entre construire quelque chose de magnifique avec une vérification à côté de vos générations et le demander par prompt à un modèle général, et j’espère faire entrer ce changement de paradigme dans la réalité. Une réalité où un badge de vérification des données signale, à quiconque le voit, une profondeur atteinte plutôt que... menée à terme au feeling. C’est l’idée derrière Ambient, Craft et Veil de Rao : ils n’optimisent que sur votre travail. Tout ce qu’ils génèrent repose sur vos contributions manuelles, durement acquises, au monde. Si cela génère bien... c’est grâce à vous. C’est parce que vous avez gagné votre savoir-faire. Un Fable personnel, en quelque sorte... Un retour à un monde où nous capitalisons en privé sur nos épées, en construisant sans la pression de la comparaison qui nous prive de croissance. Un retour aux beaux-arts... à l’humanité. Là où la technologie sert au lieu de prendre. Là où chaque pièce ou chaque produit porte le poids d’une vie passée. Des créations liées à l’âme qui reviennent protéger et rendre possible.