Seer commence par le texte, un type de média de départ important pour commencer à rechercher comment nous allons aborder le moteur de redevances. Étant le moins coûteux en calcul et en stockage, il était facile de visualiser l’architecture d’ensemble, l’approche et la vision de Seer. Les données d’image visuelles seront le plus grand défi, mais une fois relevé, il mènera à de nombreux cas d’usage qui peuvent aider à protéger les gens des deepfakes et des réalités conçues par des automates plutôt que par des humains. Où pouvoir identifier clairement la vérité dans un visuel devrait suffire comme point de départ pour ancrer nos perspectives derrière un avenir en lequel nous pouvons avoir confiance.
Le début de ce parcours technique est parti d’un problème identifié en 2024, pendant la saison électorale. La diffamation manifeste d’élus pour réduire leur crédibilité et/ou leur influence de campagne, par des générations réalistes qui plaçaient de façon dégoûtante des individus dans des décors et des situations dégradants. Ce n’est peut-être qu’une image pour certains, une blague pour d’autres, mais ne sous-estimez pas l’impact psychologique qu’elle peut avoir, surtout pour les personnalités de leadership féminin. L’imagerie visuelle est puissante, les réseaux sociaux nous ont montré la vitesse à laquelle l’information circule grâce aux fils de vidéos courtes et d’images. Ils transfèrent mentalement bien plus de données que le texte, et protéger la réalité dans cet espace est primordial pour un avenir plus sûr, faute de quoi la propagande peut être diffusée pour fausser la pensée à une échelle pour laquelle nous ne sommes pas réellement préparés. Si nous l’étions, nous aurions déjà résolu les problèmes que posaient les réseaux sociaux avant l’essor de l’IA générative, et pourtant nous manquons toujours de protocoles de sécurité adéquats sur ce front.
La première méthode de protection que Seer et Rao veulent explorer est la prévention de la génération. Une protection proactive de la ressemblance des individus avant qu’elle n’apparaisse sur les réseaux sociaux ou sur internet. Pour cela, il est nécessaire de créer une base de données dotée d’un registre efficace de caractéristiques liées à la ressemblance d’une personne. Les générations des fournisseurs de modèles devront soumettre des données visuelles à ce point d’accès, et le serveur effectue une vérification qui renvoie une réponse. Dans cette réponse, un simple signal est produit pour identifier si une photo générée contient ou non une personne protégée identifiée. Si c’est le cas, le fournisseur de modèle ne devrait pas être autorisé à publier le contenu sur des domaines accessibles au public, ni à le stocker sous quelque forme que ce soit. Dans un premier temps, nous voulons fournir les points d’accès pour cette fonctionnalité ainsi que le service hébergé pour créer un registre de personnes protégées ; l’application exige une législation, qui prend du temps. Mais, au fil des années, si un badge « Seer Certified » parvient à communiquer une nouvelle forme de valeur pour les services d’IA, davantage d’utilisateurs pourraient se sentir en sécurité en utilisant ces services plutôt que d’autres pour générer des médias.
Une équipe sera formée, avec le temps, pour collecter tous les modèles open source possibles préparant des LoRA et des méthodologies similaires, qui appliquent des formes de soustraction sur un modèle pour produire des résultats ciblés à partir de visuels de référence. En combinaison avec les modèles privés internes d’un fournisseur de modèle, nous pouvons promettre de couvrir l’essentiel des normes de sécurité pour atteindre quelque chose de visible et de tangible dans l’industrie de la sécurité. En tenant cela constamment à jour pour ne jamais manquer un modèle rendu public qui pourrait nuire aux plateformes de communication publiques. Nous sommes conscients que, à mesure que les modèles de fondation s’améliorent en parallèle, des projets indépendants malveillants peuvent aussi s’accélérer. Semer des communautés adverses sera important pour maintenir une sorte de contre-pouvoirs. Cela a déjà été fait et peut être refait, à grande échelle, de façon professionnelle et monétisée. On ne peut pas éliminer les acteurs malveillants, mais on peut les distancer.
La valeur des technologies génératives est grande, la vitesse à laquelle elles améliorent le développement, la pensée créative et la livraison de produits ne peut être ignorée. Pouvoir tenir ce rythme avec bonne conscience est une variable d’accélération qui nous manque. Les voitures doivent respecter une norme de sécurité pour être mises sur le marché, c’est même une forme de compétition. Traiter l’IA comme des voitures, c’est s’assurer que nos processus et nos « usines » sont capables de maintenir un niveau élevé d’exigence. S’assurer que nous ne dépassons pas nos limites sur les œuvres, les identités et la valeur des autres tout en accélérant nos propres avenirs. Un mantra individualiste ne fonctionne que lorsque nous emmenons les autres avec nous pendant que nous atteignons nos objectifs. La diffamation, nuire à la concurrence (par plaisanterie ou de façon ciblée), ou simplement nuire pour le plaisir de nuire, est une culture désormais révolue. Une suite naturelle à cela est de permettre aux générations d’apparaître en échange d’une redevance suivie, si la personne protégée ou ses œuvres protégées y consentent.
Le registre de ressemblance des candidats et Seer sont les premiers pas pour donner ce ton à Rao et à nos projets à l’avenir.
P.S.
Je n’avais pas fait ça depuis un moment… Mais voici la chanson de la semaine de Rao.