N° 7

Careless People, Indeed

Careless People de Sarah Wynn-Williams, le coût psychologique de produits dont les effets ne sont ni physiques ni évidents, et pourquoi les avertissements comptent d’autant plus que l’IA passe aux objets portés.

« Et nous vivons maintenant dans le monde façonné par ces gens et leur insouciance mortelle… Cette fois, les enjeux sont trop élevés. » — Sarah Wynn-Williams, Careless People

Sarah Wynn-Williams, ancienne directrice des politiques publiques mondiales chez Facebook, livre un récit honnête et authentique des tactiques et des pratiques de la Silicon Valley dans son livre Careless People. Ces mémoires ont été saluées pour leur récit haletant et leurs révélations choquantes sur le fonctionnement interne de l’une des entreprises les plus influentes du monde.

Dans Careless People, Wynn-Williams détaille son expérience chez Facebook, éclairant l’approche de l’entreprise en matière d’éthique d’entreprise, de politique publique et de stratégie commerciale. Je me suis profondément reconnu dans les cas concrets qu’elle a partagés, l’impact de ces technologies dont les ramifications ne sont pas très évidentes ni d’ordre physique. Un impact psychologique qui affecte grandement notre croissance et qui, parfois… vole un avenir sans permission.

Quand ces outils pénètrent chez soi, directement ou indirectement, ouvrir les yeux est la seule voie valable. À l’ère de l’IA, les méthodes de collecte de données sont devenues plus agressives, un signe qu’il faut tenir compte des avertissements laissés depuis plus d’une décennie par des personnes accréditées qui ont été témoins des conséquences de ces méthodes. Si cette industrie devait se concentrer principalement sur les objets portés comme véhicule de l’IA, les conséquences pourraient s’accumuler, les canaris de 2024-2025 étant un indice prophétique de ce qui vient.

Les réseaux sociaux, le profilage, la collecte de données, le fait de traiter les gens comme des produits ont mené à cette impasse d’une crise d’identité qui atteint la notoriété publique. Personnellement, j’ai vu l’impact graduel, au fil du temps, pas seulement dans ma génération, mais aussi chez mes parents. Ces problèmes se chuchotaient au lycée, se pleuraient à l’université, et sont maintenant devenus une réalité quotidienne. Développer les cadres quantitatifs pour analyser l’impact que ces solutions de réseautage optimisées ont eu sur la croissance et le développement sera essentiel, à commencer par les nouvelles limites d’âge pour les comptes de réseaux sociaux. Parce que, tout comme Sarah, je ne veux pas voir les mêmes erreurs se répéter avec l’IA. Et peut-être, juste peut-être, que ceux qui ont construit ces réseaux prendront à cœur l’importance du changement. Les marchés pourraient même répondre à l’idéalisme cette fois-ci, ce qui donnerait une année de rédemption potentielle à saisir.

Puisque la responsabilité pourrait être la première étape pour que la Silicon Valley obtienne le leader qu’elle attend. À l’ère de l’intelligence artificielle et des passés brisés pour être allé trop vite, il est primordial de préserver les aspects positifs de ces outils, à grande échelle, tout en veillant activement à ce qu’ils soient sûrs. Ce qui pourrait être la vraie barre à considérer pour tous ceux qui sont impliqués dans cette frontière. Les outils qui prédisent l’avenir ou « le mot suivant » ne devraient-ils pas être guidés par ceux qui comprennent le « poids » des conséquences ?