N° 2

Sécurité de l’IA et deepfakes

Des captures authentiques conservées dans un espace sécurisé, filigrané de façon invisible, un codec de capture au niveau matériel et un historique public des téléversements : gardez votre esprit en local et rendez votre partage traçable.

Les deepfakes. Je ne pense toujours pas que la plupart des gens comprennent l’impact que cela aura sur les générations à venir. De la création à l’identité de soi, cela touchera chaque aspect du stéréotype du roman d’apprentissage.

Prenons quelques médiums, comme la vidéo, les photos et même l’audio. La vidéo et les photos sont la même chose, puisqu’une vidéo n’est que plusieurs photos (images) cousues ensemble. L’audio se voit dans des ondes qui présentent ou non des motifs à l’approche d’un pic, avant le déferlement. Une métaphore faiblarde, mais j’espère que vous saisissez l’idée.

Quand un artiste prend une photo, soit il suit son instinct, soit il donne la priorité à une matrice complexe de compositions. Dans les deux cas, c’est un cliché unique. Des millions de ceux-là fondus ensemble peuvent ressembler à un pont, mais ne seront jamais identiques. Mon intuition est de créer un système où ces créations authentiques restent dans un environnement sécurisé et sont filigranées de façon invisible (LaMarque). Toute contribution hors de cet espace sera à jamais traitée comme une génération et subira une réduction de valeur. Et avec la réduction de valeur, les acteurs malveillants peuvent être dévalués.

Il en va de même pour l’audio.

Je pense que Meta fait beaucoup de bon travail en faisant de la rétro-ingénierie des générations d’IA pour les détecter et les étiqueter correctement. Au moins davantage que les autres acteurs de ce jeu. Mais la pensée qui me reste est de savoir si cela devrait se faire au niveau matériel ou au niveau logiciel. Je penche pour les deux. Tout appareil d’enregistrement, de n’importe quel type, devrait intégrer un nouveau codec capable d’entrelacer des filigranes invisibles.

Cela ne résout que ce qui est réel. Mais je voudrais quand même trouver qui l’a généré.

L’open source est très important pour moi. Il m’aide à apprendre, à m’adapter et à progresser. S’il a cet effet sur moi, je m’efforcerai toujours d’aider les autres à vivre la même chose. Pour l’autre versant, garder vos pensées en local ne dépend que de vous, mais la publication ou le partage de médias générés demande des systèmes capables de les tracer. C’est là que je pense que la blockchain pourrait revenir : toute infrastructure de téléversement tiendrait des historiques transparents, accessibles au public, pour n’importe quel domaine.

C’est une refonte énorme d’internet, mais une refonte qui pourrait me sembler plus sûre. Gardez votre esprit en local et rendez votre partage traçable.

Et oui, je vois une adresse blockchain comme une source de téléversement désignée, peut-être une nouvelle forme de numéro de sécurité sociale liée à un nouveau type de contrat avec un fournisseur d’accès. Cela pourrait supprimer le « sentiment d’anonymat » qui a donné naissance à la technologie. Mais cela fait désormais davantage. Cela montre un historique ou un capital social sans révéler le nom ou l’identité légale. Vous n’aimez pas votre direction sociale ? Partez et réhabilitez-vous.

Pas d’inquiétude, j’aime toujours les VPN et Tor. Mais il y a une ligne à tracer : cette adresse devrait quand même être partagée avec tous les intergiciels.

P.S.

Quand je dis « j’aime toujours les VPN et Tor », ce n’est pas parce qu’ils sont conçus ou utilisés pour se cacher ; c’est parce qu’ils ont été conçus pour protéger des identités. L’intention compte.