Dans les algorithmes

danslesalgorithmes

Les algorithmes, l’intelligence artificielle et la société du calcul ne sont pas un enjeu technique, c’est un défi social qui nécessite de construire d’autres solutions que celles qui nous sont proposées. Dans la société du calcul, l’enjeu n’est pas instrumental, il est avant tout collaboratif. Et dans cette collaboration nouvelle que nous devons produire, l’essentiel est d’abord de produire des alternatives aux calculs, responsables, transparents et équitables. Il n’y aura pas de société numérique responsable si celle-ci ne produit pas d’abord une nouvelle justice sociale, économique, environnementale. Telle est l’ambition de l’association Vecteur : redéfinir l’impact de la technologie.

Missions

La première mission de l’association Vecteur est d’informer, de faire écho aux discussions qui agitent les esprits, de ne pas céder à la simplicité, de montrer que les conséquences du calcul sur la société sont complexes et que nous devons nous défaire du réductionnisme qui pourrait nous faire croire qu’il suffirait de compiler les données pour gouverner le monde.

La seconde mission de Vecteur est de faire éclore et soutenir des alternatives qui interrogent l’orientation actuelle du numérique. Le numérique n’est pas un défi technique, c’est un défi collaboratif. Il y a toujours des alternatives à un mode de calcul, ce sont elles que Vecteur souhaite initier et accompagner, notamment et d’abord celles qui s’ouvrent à la coproduction avec ceux qui sont les premiers impactés par les systèmes

Valeurs

Les membres de Vecteur assument que l’ouverture, la transparence, la pluralité et la justice sont des valeurs indispensables pour adresser les enjeux de la société numérique. La société numérique n’a pas besoin d’apologistes, mais de critiques pour s’améliorer et atteindre une plus grande responsabilité.

La technologie impacte la vie des gens et c’est à eux qu’il faut redonner du pouvoir. C’est ce à quoi souhaite oeuvrer Vecteur en améliorant le niveau de responsabilité des fournisseurs de technologie et les discussions avec la société.

Vecteur se donne pour mission de ne pas seulement développer des positions théoriques, analytiques ou scientifiques, mais de plonger réellement dans la matière technique, sur les terrains, aux côtés des professionnels qui produisent les systèmes complexes de nos sociétés, à lʼécoute de leur travail, de leurs questions, de leurs enjeux, de leurs pratiques, mais également à le faire auprès des utilisateurs, des gens impactés par les calculs et leurs conséquences, afin de créer ce va et vient de la réflexion entre le plus concret de la production et de ses effets sociaux.

Constats

Pour répondre à ces enjeux, le monde du numérique doit regarder plus frontalement les conséquences de ce qu’il déploie et les contestations que cela génère. Il pourrait bien, demain, rencontrer les mêmes difficultés que nombre d’industries connaissent par rapport à l’enjeu environnemental, en générant une contestation non pas seulement sur l’impact écologique de leurs solutions, mais sur leur impact social. Ni le déni, ni les fausses réponses, ni le verdissement de façade, ni le technolosutionnisme n’ouvriront nos capacités à relever les enjeux à venir.

Le second constat que nous dressons est celui que les acteurs professionnels, privés et publics, comme le grand public, sont encore trop peu éclairés des enjeux numériques qui sous-tendent les outils et objets qu’ils manient tous les jours, tenus pour de purs instruments, alors qu’ils débordent d’enjeux politique, sociaux, culturels, éthiques… Ne pas les voir revient à prendre de gros risques économiques pour les acteurs professionnels, mais aussi à réduire les marchés comme l’intelligibilité de leurs actions. Poser ces enjeux, créer du débat et de la connaissance est un moyen de faire œuvre utile d’un point de vue social, comme un moyen d’ouvrir des opportunités économiques en pariant sur des modèles éclairés, plutôt que sur une économie numérique faite de prédation et de boîtes noires.

Ce n’est pas seulement la société qui s’interroge sur ce que le numérique déploie, c’est désormais les ingénieurs eux-mêmes qui sont saisis d’un doute, d’une dissonance cognitive sur ce que la tech produit. Nul n’y répondra en mettant les problèmes sous le tapis.

Réponses

Pour répondre à ces problèmes, Vecteur propose d’initier un média pour discuter des enjeux de la société numérique : Danslesalgorithmes.net. Un média à la fois grand public et professionnel qui initie des débats, qui questionne notre rapport au numérique. Indépendant de ses membres, le média a pour objectif de poser les questions difficiles, de pointer les débats, les recherches, les propositions qu’initient le monde de la recherche comme les entreprises et les citoyens pour développer un numérique socialement responsable. Nous avons besoin que ces enjeux soient discutés !

Pour favoriser la discussion, esquisser des propositions concrètes, Vecteur souhaite initier des groupes de travail pour répondre concrètement aux difficultés que le numérique produit.

Si cet engagement vous parle, si vous aussi vous partagez ces préoccupations, rejoignez-nous et discutons-en !

Comment travailler avec nous ?

Nous lançons un premier chantier pour avancer : Pour une algovernance des systèmes de travail.

Les systèmes de calcul impactent directement les conditions de travail que ce soit les systèmes d’embauches de plus en plus automatisés, les systèmes de planification d’horaire, les systèmes d’évaluation des personnels… sans que les entreprises qui les utilisent n’évaluent très bien les biais, les inférences, le scientisme, les prétentions à la connaissance que les systèmes formulent. Ces systèmes de management automatisés ne sont pourtant pas sans défaillances. Toutes les enquêtes qui s’y sont intéressées montrent que ces systèmes pour sélectionner les candidats, évaluer les employés et prendre des décisions à leur égard sont au mieux problématiques au pire défaillantes. L’arrivée de l’IA Act qui qualifie les systèmes d’IA au travail comme à haut risque va pourtant nécessiter pour les entreprises d’améliorer leur niveau de responsabilité en la matière. Les entreprises et les organisations maîtrisent peu leur chaîne RH. Il va falloir, collectivement, améliorer les processus et les rendre plus responsables. Comment ? Comment défendre les droits à l’intérieur des systèmes de travail ? Comment mettre en place des principes permettant d’assurer l’équité des traitements, la minimisation des données, le droit à des conclusions raisonnables, la surveillance proportionnée, le droit de recours, des normes de suivi de travail ? Quelles limites aux croisement de données et à la surveillance ?

“On ne répondra pas aux défis sociaux et écologiques qui sont les nôtres sans permettre aux travailleurs de peser sur ce qu’ils font et la façon dont ils le font”, explique le juriste Alain Supiot. Les organisations doivent reprendre la main sur leurs systèmes de travail et initier enfin la discussion avec ceux qui sont impactés par ces outils. Ce chantier va s’ouvrir avec les articles de Dans les algorithmes et le lancement d’un groupe de travail dédié en septembre.

Une association existe d’abord par l’adhésion et l’implication de ses membres ! Si ces engagements vous parlent, si vous aussi vous partagez ces préoccupations, rejoignez-nous et discutons-en ! vecteur@matrice.io

L’association Vecteur est présidée par François-Xavier Petit, directeur général de Matrice. Hubert Guillaud, journaliste, est le délégué général de l’association. Les premiers membres fondateurs de Vecteur sont Matrice, OCTO et Tomorrow Theory.

Vecteur ℅ Matrice, 146 boulevard de Charonne, 75020 Paris.

MANIFESTE

L’ambition du média, Dans les algorithmes, est de comprendre la société des calculs. Le média souhaite s’inspirer du travail produit aujourd’hui par celles et ceux qui réfléchissent aux impacts du numérique, à l’image d’AlgorithmWatch, de l’AI Now Institute, de Data & Society… C’est à cette exigence que nous voulons ressembler.

Comprendre la société des calculs

La société du calcul est là. La transformation numérique est accomplie. Et l’arrivée de l’intelligence artificielle va encore l’étendre et l’accélérer. Nous sommes désormais tous et chacun “dans les algorithmes”. Pourtant, le monde idéal annoncé n’est pas au rendez-vous ! Il nous faut donc comprendre ce qui s’est mal passé pour apporter collectivement une grille de lecture et pour adresser les problèmes auxquels la société est confrontée.

Telle est l’ambition de “Dans les algorithmes”. Un média pour poser les enjeux de la société numérique, comprendre l’impact social des technologies et de l’automatisation sur nos vies. La mission de Danslesalgorithmes.net est d’ausculter nos vies à l’heure des systèmes techniques. Explorer notre rapport au numérique, en comprendre les enjeux, dépasser les idées préconçues, regarder ce qui dysfonctionne, trouver des leviers. La dystopie numérique n’est pas inéluctable. Elle manque d’alternatives, de limites et d’orientations. Danslesalgorithmes.net a pour ambition de les pointer, d’en discuter, de les mettre en débat.

Pilote

Dans les algorithmes est un média à but non lucratif porté par l’association Vecteur qui s’engage à analyser les enjeux et impacts des systèmes sur la société. Dans les algorithmes est piloté par le journaliste et essayiste Hubert Guillaud, qui a animé pendant des années InternetActu.net et a été l’un des responsables de la Fing (2000-2022), l’association pour la Fondation internet nouvelle génération, le think tank pionnier des enjeux technologiques en France. Dans les algorithmes a pour ambition de prolonger, consolider, renforcer et dépasser ce travail de veille, de recension critique, dans le contexte d’une évolution nouvelle des systèmes techniques à l’heure de l’Intelligence artificielle.

Dans les algorithmes s’adosse à Matrice, institut d’innovation technologique et sociale, à la recherche dʼun numérique capable de penser ses effets et de produire des formats nouveaux, au plus près de cas réels et dʼacteurs qui manient des enjeux complexes.

Manifeste

Dans les algorithmes est un média pour transformer notre rapport à la technologie pour que la société ait les moyens de la rendre plus responsable, plus équitable, plus inclusive et plus démocratique. Il aide ses lecteurs à comprendre les transformations, à dépasser leurs idées reçues, à trouver les ressources pour agir sur le monde numérique qui vient.

Mais si un média sert à informer, il a aussi besoin d’aider à mobiliser ses lecteurs, les acteurs, à politiser ces enjeux. Il doit aider à passer des idées aux actions, accompagner ceux qu’il informe à construire des réponses et à les faire progresser dans la société.

La technologie transforme le journaliste. Il ne peut désormais être seulement celui qui aide à comprendre. Il doit aider la société à répondre aux défis qui sont devant elle en initiant et accompagnant des projets qui intègrent à la technologie d’autres valeurs que celles que nous imposent la plupart de ses concepteurs. Il doit promouvoir des technologies qui nous libèrent plutôt que celles qui nous asservissent, des technologies qui nous rendent plus égaux plutôt que dominés, des technologies qui soient plus fraternelles, plus empathiques, plutôt que de nous proposer une vision conflictuelle des rapports humains. Des technologies qui soient codées avec des valeurs humanistes plus que libérales. Des technologies qui soient profondément démocratiques. La critique technologique impose aux médias leur propre transformation. Danslesalgorithmes.net veut remobiliser les citoyens pour mener des actions collectives, les aider à organiser leur contestation, les aider à développer des outils différents et à trouver des formes de réponses qui leur donne du pouvoir, les aider à être plus maîtres des transformations d’aujourd’hui et de demain.

Danslesalgorithmes.net, le média des enjeux technologiques, veut s’adresser à tous ceux qui souhaitent reprendre en main leur destin technologique. Codeurs, développeurs en crise, citoyens engagés, chercheurs, porteurs de projets qui ne souhaitent pas vivre dans les ruines des technologies qui s’annoncent, entreprises, associations, organismes publics, administrations… La fascination pour l’automatisation est un puissant moteur de son développement, mais elle ne peut pas être une perspective pour tous. Nous devons renouer avec ceux qui sont laissés sur le côté parce qu’ils nous montrent les limites des technologies qui sont déjà là. Nous devons les associer au développement technologique, non pas pour le leur faire accepter, mais pour que celui-ci les respecte également.

Post-scriptum

Lancer un média en ligne et une newsletter à l’heure où la visibilité algorithmique de l’information est particulièrement dégradée est un exercice difficile. Danslesalgorithmes.net va plus que jamais avoir besoin de votre soutien. N’hésitez pas à relayer notre newsletter, à nous aider à promouvoir nos analyses.

Les publications de dans les algorithmes sont ouvertes par nature et produites en creative commons, CC BY-NC-SA 4.0.

Pour toute information, n’hésitez pas à nous contacter : bonjour@danslesalgorithmes.net

Vecteur ℅ Matrice, 146 boulevard de Charonne, 75020 Paris