Recherche centrale · Architecture ML
Un système pour la sécurité de l’IA
Je passe des années à faire de la recherche et à affiner mes compétences pour construire des solutions concrètes de sécurité de l’IA pour l’industrie. Il y a ici plusieurs lièvres à courir, alors soyez patient. Avant tout, j’ai toujours voulu construire un wearable. J’ai vite compris que l’IA combinée à l’interaction physique homme-machine, comme les wearables, est le véritable point d’arrivée. En réfléchissant à ce pont, j’ai remarqué que les wearables sont la forme ultime de mise en œuvre de la sécurité, protégeant la personne qui utilise l’intelligence — « wear intelligence » a été le premier slogan que j’ai voulu pour Rao.
Lancer une entreprise de matériel est difficile, cependant. Il faut soit le capital pour investir soi-même, soit une salle d’investisseurs prêts à vous faire confiance pour livrer sans avoir les titres pour le prouver. Sans l’un ni l’autre, il est logique de traiter le matériel comme la vision à long terme d’une entreprise et de commencer par le logiciel, ou par quelque chose qui demande moins de frais généraux. D’ailleurs, la sécurité de l’IA commence par les logiciels et les systèmes, qu’il fallait donc construire de toute façon, et les construire d’abord, en route vers le capital qu’exige le wearable comme but final, est ce qui a le plus de sens. C’est ainsi que Rao Studios a démarré, avec ses premières offres : Ambient, Veil et Craft.
Cette série couvre ma façon de penser chaque composant dont la sécurité de l’IA a besoin, et comment les combiner en une seule solution qui couvre la plupart des vecteurs d’attaque, sinon tous, avec des signaux clairs sur l’endroit où la responsabilité doit être placée. Ce point de vue vient d’années passées à observer l’industrie en tant qu’ingénieur qui en fait partie, plus récemment en travaillant comme ingénieur iOS sous contrat chez Apple, Inc. en 2025 : comment la sécurité est abordée à grande échelle dans tout le domaine, et où le domaine dans son ensemble a encore des problèmes ouverts.
Ces observations ont été très précieuses, car voir où en est l’industrie est le meilleur moyen de juger si l’approche que je suis est solide à l’échelle de l’industrie. Alors... en 2026, j’ai construit les solutions sur mon temps personnel.
Ce sera une série en cinq parties.
- Sécurité des médias avec Veil, Veil8, VeilGarde
- Sécurité du texte et du code avec AII, Braid — à venir
- Mettre un harness au service de la réduction des hallucinations — à venir
- La vérification au sein des systèmes avec humain dans la boucle — à venir
- 1 système, tous les domaines, sécurisés avec confiance par Rao — à venir
J’ai construit de nombreux projets au cours de la dernière décennie, testant d’innombrables secteurs et ce dont les utilisateurs ont besoin dans chaque niche d’audience sur laquelle je suis tombé. Construire à la main et apprendre des motifs naturellement avec le temps a façonné un point de vue précis sur les technologies génératives. Mon processus d’apprentissage est devenu un art à part entière. Une zone de texte capable de générer, en quelques secondes, du code ou des œuvres dont le « pourquoi » m’avait demandé un processus entier à comprendre a effacé qui j’étais, une génération à la fois. J’ai appris à m’adapter et à vivre avec en 2025–2026, parce qu’elle était clairement conçue, comme produit, pour devancer, et qu’il faut choisir ses batailles dans la vie. Et il se trouve que je sais plutôt bien m’en servir, assez bien pour dépasser ce que mes capacités, mon lieu et mon identité étaient par le passé.
Il reste ici un problème ouvert, un point de douleur que j’ai ressenti viscéralement en 2023–2024, quand l’IA générative, la main-d’œuvre, les arts visuels et l’identité ont tous convergé en un effacement que j’ai traversé par hasard. Il manque encore des solutions à ce processus, et la sécurité, pour moi, ce ne sont pas seulement les raisons évidentes énumérées sur la page de politique de Veil. La sécurité, c’est protéger les autres de cette expérience précise. Tout le processus de création de valeur dans la vie d’une personne se définit par le savoir-faire et les métiers : ce que nous apprenons de nos mentors et la façon dont nous l’appliquons dans la vraie vie en quête d’une récompense, que ce soit du capital ou une forme de progrès personnel (aller à la salle de sport pour voir un progrès physique immédiat en est un bon exemple). Les technologies génératives peuvent effacer ces ancrages. Construire un système qui éclaire les politiques, et qui offre aussi un repère visible pour retrouver ces ancrages, est important pour moi.
De grandes entreprises travaillent déjà à atténuer ces risques, et il y a de la valeur à construire le même genre de systèmes à ciel ouvert, où des communautés comme l’open source peuvent apporter des idées. Veil, Veil8 et VeilGarde sont conçus pour communiquer de façon transparente cette pensée en boucle fermée autour d’un système d’apprentissage automatique, y compris les systèmes d’attribution des redevances qui méritent d’être plus largement connus. Si un système de ce genre avait existé à l’échelle d’une organisation comme Google, il aurait été à la hauteur de l’effort que j’avais investi dans mes compétences et mes capacités jusqu’à la fin de ma vingtaine : un système capable d’ingérer du travail manuel, de le noter, de l’évaluer, puis de le distribuer au prix coûtant. J’aurais pu recourir à la génération quand j’avais besoin de vitesse et d’efficacité, à un prix qui finançait directement les sources, sans culpabilité, en sachant que mon propre travail pouvait être valorisé de la même façon.
La première partie de cette série traite des médias, en commençant par les images et le besoin actuel de protection contre les deepfakes. La menace évoluera vers d’autres vecteurs d’attaque, mais une fois les fondations posées, les étendre à ceux-là devrait être beaucoup plus simple.
Sommaire