← Un système pour la sécurité de l’IA

Sécurité des médias avec Veil, Veil8, VeilGarde

Partie 1 sur 5

Un système sûr de génération et de distribution d’images exige des vérifications à chaque étape et à chaque phase de la génération, contre les œuvres protégées par le droit d’auteur, les visages et les biens, avant que quoi que ce soit n’atteigne un public. J’ai commencé par la détection, avec des recherches déjà menées sur le tatouage numérique des œuvres visuelles. Ensemble, Veil, Veil8 et VeilGarde forment un trio conçu pour éliminer l’essentiel du risque lié à la diffusion de médias génératifs. L’objectif est une industrie où l’altération laisse des traces, où les abus peuvent être retracés et réduits à un petit ensemble d’acteurs délibérés sur lesquels les autorités peuvent agir efficacement. Sans ces systèmes, les modèles génératifs d’images, open source ou fermés, ont encore des lacunes à combler avant de paraître sûrs dans un environnement qui avance à un rythme difficile à suivre. Et je crois profondément que nous allons vers un monde qui traitera l’absence de justificatifs de provenance dans un média comme un signal de risque.

« Quand un artiste prend une photo, il a soit une intuition, soit il donne la priorité à une matrice complexe de compositions. Dans les deux cas, c’est un cliché unique. Des millions d’entre eux fondus ensemble peuvent ressembler à un pont, mais ne seront jamais identiques. » — Sécurité de l’IA et deepfakes

Veil

Veil est un pipeline qui fonctionne avec une base de données Thread, qui fait partie de l’Ambient Intelligence Index. Les images recueillies lors de l’utilisation d’une application comme Ambient et vérifiées comme vous appartenant authentiquement, ainsi que les images que vous téléversez manuellement via Veil, sont stockées dans un thread Veil. Le système de stockage conserve les images dans un encodage Veil8, qui permet à votre base de données de contenir une forme traduite de l’image qui peut être comprise sans être recréée visuellement, protégeant la vie privée de sa vie visuelle tout en conservant assez de sens pour vérifier la ressemblance dans les générations. Veil lui-même est un harness, un système conçu pour fonctionner avec n’importe quelle architecture de génération d’images, qui utilise Veil8 pour encoder les générations à chaque étape, récupère des résultats depuis une base Thread et interrompt la génération si une personne ou une identité protégée est détectée. Veil est aussi un pipeline conçu pour faciliter l’exécution de modèles de génération d’images en local ou sur votre propre solution d’hébergement. Il est conçu comme une boîte à outils de génération d’images avec signature de provenance, suivi et protection intégrés. Il vise à rendre automatiques le respect des politiques et la gestion des risques, sans avoir à passer par chaque détail : une norme de sécurité livrée avec une installation facile, pour que vos utilisateurs soient protégés dès le départ.

VeilGarde

VeilGarde est le système de signature et de suivi de la provenance pour quand une génération franchit la porte d’arrêt. Une génération fournie par votre système est signée avec un tatouage Veil. C’est semblable à SynthID, mais je le conçois pour qu’il soit plus robuste. Un utilisateur devrait pouvoir téléverser une photo et vérifier si elle porte un tatouage Veil, pour prouver si une image est réelle ou générée. Ce tatouage existe sous deux formes : l’une qui signe les images réelles pour prouver l’authenticité, et l’autre qui signe les générations pour prouver qu’une génération a été faite avec Veil précisément. La seconde prouve que la génération provient d’un système qui disposait déjà d’une protection de l’apparence, et qu’elle est aussi approuvée par la politique : vérifiée contre les œuvres protégées par le droit d’auteur, et libre de redevances.

VeilGarde dispose aussi d’un mécanisme de détection, conçu pour analyser si un appareil photo réel ou un modèle génératif a produit une image, sans rechercher d’artefacts de tatouage. Sa fiabilité continue de progresser, et il doit être constamment tenu à jour des styles de médias génératifs observés dans la nature, mais il est disponible dès aujourd’hui pour analyser de façon forensique toute image dont on exigerait l’autopsie.

La préoccupation première est de construire un pipeline de génération d’images validé par la politique, Veil, compatible avec chaque modèle génératif proposé dans le monde open source, ou qui s’intègre directement aux plateformes d’entreprise telles que Midjourney, tout en offrant deux technologies de tatouage pour créer une réalité vérifiée. Le tatouage Veil est actuellement en statut de brevet provisoire, pour signer des œuvres audio et visuelles par une méthode sur mesure qui dérive en fait de la recherche sur la détection de deepfakes. Résoudre des problèmes extrêmement difficiles a parfois ses bienfaits, en faisant découvrir d’autres cas d’usage qui aident de manières inattendues. Positionner la détection de deepfakes dans les contraintes de l’agnosticisme au modèle, plutôt que de détecter dès le départ les empreintes de génération des modèles, a rendu possible cette façon de penser. Une pratique d’ingénierie qui m’est courante est de créer volontairement des conditions difficiles. Parce que c’est dans les contraintes que l’on innove vraiment.

Veil8

Retour à la phase d’ingestion : les médias visuels sont stockés dans une base Thread, qu’elle soit personnelle ou une base organisée dans le cloud destinée à protéger à grande échelle, une sorte de registre d’apparences. Le problème du stockage de données est qu’il traîne avec lui des enjeux de vie privée et de responsabilité. Quand on stocke sur un disque dur les créations ou l’identité visuelle d’autres personnes, c’est très sensible et l’on en est responsable. Je veux dire, j’oublie en général même de faire le ménage dans mes photos iCloud...

En tant que développeur iOS spécialisé en vision par ordinateur et ne construisant que pour les plateformes Apple, j’ai traité mon iCloud comme une surface de test permanente, et ce que j’ai appris en chemin m’a mené aux idées de préservation de la vie privée désormais présentes dans Veil8. Construire des interactions par caméra où une machine peut « voir quelque chose » puis « faire quelque chose » m’a toujours semblé magique, mais atteindre le point où l’on peut itérer sur ce genre de produit est difficile et fastidieux. Entraîner un modèle, c’est trouver des données, entraîner, ajuster des paramètres et les réajuster d’exécution en exécution jusqu’à ce que la précision atteigne son objectif. Parfois le défi est la quantité de données dont on a besoin, mais le plus souvent c’est de trouver la bonne quantité, avec les caractéristiques exactes dont le modèle a besoin.

Je préfère une approche par rafale : aspirer à grande échelle, puis réduire à un jeu de données à grain fin. Le faire en sécurité demande du soin, parce qu’un scraper à grande échelle qui parcourt les résultats de Google à la recherche d’images correspondantes peut finir par puiser sur Instagram, X et des sites similaires s’ils sont autorisés par erreur. Sans les ressources d’une entreprise comme Google, j’ai appris à construire des systèmes débrouillards qui rendent possibles des modèles compétitifs sur l’appareil.

Veil8 ne stocke que les caractéristiques dont nous avons besoin pour réaliser une recherche par similarité. Une image est une représentation visuelle à travers ce langage de nombres rouges, verts et bleus. Une machine ne voit pas ce que nous voyons ; une machine voit une liste de tuples, et parfois le canal alpha avec. Nous voyons des histoires. Heureusement, en vision par ordinateur nous n’avons besoin que des nombres, si bien que Veil8 encode les images dans un format qu’un ordinateur comprend, pas un humain, préservant la vie privée au niveau de la traduction d’humain à humain. C’est une méthode que seul le pipeline de Veil comprend, utilisée pour trouver des régions de ressemblance, signaler des problèmes d’attribution et interrompre la génération tôt, protégeant même les individus des deepfakes.

Une boucle fermée

Le pipeline, le stockage qui réduit le risque et préserve la vie privée des consommateurs d’internet, et un outil pour détecter et signer la réalité forment ensemble un système en boucle fermée pour construire des solutions de vision par ordinateur à l’ère nouvelle de l’intelligence artificielle. Les bâtisseurs peuvent se concentrer sur de grands produits sans porter de responsabilité non gérée, et les consommateurs peuvent avoir confiance que leurs droits sont respectés. J’appelle cela l’équilibre, et c’est une base solide pour innover dans ce domaine et pousser l’industrie plus loin. Je crois fermement que les communautés open source sont l’endroit où se produit la vraie innovation, là où vivent les fous. Ce dont elles ont besoin, c’est de la bonne infrastructure : des systèmes qui rendent sûr de construire, d’expérimenter et de remettre en cause le statu quo. C’est toujours ce qu’a été la Silicon Valley à son meilleur... la libre.