Notes de terrain
Des observations qui ont commencé comme des intuitions sur la relation entre le matériel et les médias synthétiques ; je les ai gardées parce que plusieurs sont devenues mesurables, et que l’une est devenue une thèse de produit.
Où vivent les anomalies : coins contre centres
Les images d’appareil réelles et les images générées sont anormales à des endroits opposés, pour des raisons qui découlent directement de leurs processus de formation :
- Les coins réels sont anormaux. Le vignettage de l’objectif, l’aberration chromatique et la distorsion radiale culminent tous en périphérie : des artefacts optiques d’un objectif physique, spatialement corrélés selon un motif radial précis. L’aller-retour de déformation détruit quand même le bruit de capteur à grain fin qui se superpose à eux, de sorte que les coins chauffent dans le résidu.
- Les centres générés sont anormaux. Les modèles de diffusion allouent l’effort de débruitage là où l’attention se concentre : le sujet. Le centre accumule les statistiques de gradient les plus denses et les plus anormalement organisées (exactement ce que lisent les caractéristiques de cohérence du gradient), tandis que la périphérie, moins regardée, reste lisse et survit proprement à la déformation.
C’est pourquoi la distance au centroïde du champ de score composite est informative, et pourquoi la pondération par le centre que j’ai ajoutée dans la v1.8 fonctionne : l’adresse spatiale de l’anomalie est en soi une signature de formation.
Le sous-échantillonnage relève le plancher sans déplacer l’adresse
Les artefacts de sous-échantillonnage (4K → 1280) relèvent uniformément le niveau de base composite sur toutes les tuiles, mais ils ne créent pas de grappes spatiales, et l’adresse de l’anomalie ne bouge pas : la même tuile gagne même quand tous les scores montent. Le raisonnement fondé sur le centroïde résiste à la dégradation globale, comme ne le font pas les seuils absolus. J’essaie de me rappeler que ces problèmes précèdent les médias génératifs : la manipulation de l’ère Photoshop soulevait les mêmes questions de recompression ; la génération a simplement rendu les enjeux catégoriques.
L’empoisonnement : le problème dual
La sonde a un dual, et c’est la direction que je trouve la plus intéressante. L’inpainting par diffusion dépend de voisinages locaux de pixels cohérents pour étaler une gaussienne vers la cible demandée : une image de référence peut donc être perturbée au niveau de la segmentation de telle sorte que tout débruiteur qui reconstruit à partir d’elle produise des déformations.
Là où Glaze et Nightshade optimisent contre l’espace d’embedding d’un modèle (spécifique à l’encodeur par construction), optimiser contre les statistiques de cohérence locale que lit le résidu de déformation attaque la cohérence locale dont tout débruiteur convolutif a besoin, quels que soient l’architecture, les données d’entraînement ou l’encodeur de texte. Et la boucle se ferme : la même sonde que j’ai construite pour détecter les artefacts de génération vérifie qu’une perturbation protectrice est en place : une hétérogénéité locale élevée à l’intérieur de la région de segmentation du sujet sans composite élevé ailleurs en est la signature. Détection et protection depuis la même base de code.
La posture de vie privée
Aucun visage, nom ou identité n’entre jamais dans le pipeline :
- La saillance vient du centroïde pondéré par la texture de l’énergie du gradient : pas d’un modèle de visage ou d’identité. Sans biométrie, indifférente au contenu, elle fonctionne sur des scènes, des objets et des documents.
- Une personne pourrait empoisonner ses propres photos sans soumettre de données biométriques à qui que ce soit ; la protection est intégrée à l’image, vérifiable par quiconque exécute la sonde, sans registre central d’identité.
- Pour la criminalistique (« ceci est-il généré à partir de la ressemblance de cette personne ? »), l’alignement par homographie donne une correspondance géométrique sans reconnaissance : cette image partage-t-elle une structure projective avec cette référence, jamais à qui est ce visage.
- Tout s’exécute côté client sur la géométrie des pixels. GDPR, CCPA, BIPA : la réglementation biométrique n’entre jamais en jeu parce que des données biométriques ne sont jamais créées.
La phrase qui tient l’ensemble
Le cadrage de Lovelace de mes toutes premières notes : ce qu’elle identifiait comme la capacité déterminante de la Machine analytique, opérer sur la relation plutôt que sur le monde, est précisément l’empreinte que lit la méthode. Un modèle génératif n’a jamais eu que les relations.
Vous ne détectez pas l’IA. Vous détectez l’absence d’une histoire. L’authenticité n’est pas une qualité qu’on peut synthétiser : c’est un résidu d’avoir été causé.
Sept chapitres plus tard, et ce n’est pas fini. Tout ici a été construit de façon indépendante, une sonde et une réfutation à la fois, ce qui est exactement la raison pour laquelle cela valait la peine : la méthode a pu suivre les mesures plutôt qu’une feuille de route. Le chapitre suivant est le déploiement, et il n’a pas encore été écrit.