Maître de conférences en sciences de l’information et de la communication (Crem, Université de Lorraine).

  • 34 Posts
  • 48 Comments
Joined 2 years ago
cake
Cake day: June 14th, 2023

help-circle

  • Morceaux choisis :

    empêcher l’accès à un contenu en ligne – par la censure ou la vérification de l’âge –, c’est s’attaquer aux symptômes plutôt qu’aux causes. (…) Plutôt que de se focaliser sur la censure, c’est une remise en cause profonde du modèle des plateformes en ligne qu’il est nécessaire d’opérer. Le modèle économique de Kick repose sur une absence quasi totale de modération des contenus, afin de pouvoir mettre en avant l’industrie des jeux d’argent en ligne dont dépend Stake, sa maison mère.

    Ce modèle économique est proche de celui des Big Tech, les géants du numérique, qui, eux, dépendent de revenus publicitaires et imposent massivement aux internautes des publicités qu’un pistage massif de leurs activités en ligne a permis de sélectionner pour eux. Dans les deux cas, le moteur est la mise en avant, pour des questions économiques, de contenus toxiques.

    Cette centralisation des échanges entre les mains de quelques acteurs a des conséquences graves pour nos démocraties, surtout lorsque ces intérêts économiques sont mis au service de projets politiques. C’est, par exemple, le cas du réseau X, anciennement Twitter, instrumentalisé par son patron, Elon Musk, pour promouvoir l’extrême droite, alors que TikTok sert de plateforme d’ingérence électorale russe en Roumanie. Ce genre d’opérations est soutenu par des algorithmes qui dépendent de la collecte illicite et massive de données personnelles. (…) Déconstruire la centralisation des échanges en ligne est fondamental, pas parce que cela empêcherait tout drame de se produire (croire qu’il serait possible de le faire est illusoire et dangereux), mais parce que cela limiterait la promotion et la viralité de contenus toxiques.

    L’affaire Pormanove ne traduit pas un droit inadapté à Internet, mais plutôt l’incapacité des pouvoirs publics à mener des politiques de long terme qui traiteraient les problèmes à la racine. Ces outils, comme l’augmentation des moyens de la justice, l’ambition d’appliquer réellement le droit ou encore la décentralisation des acteurs du numérique, sont délaissés au profit de décisions court-termistes qui ne font que cacher la poussière sous le tapis.







  • Les exemples sont édifiants, mais je déplore comme toi le ton sensationnaliste du propos.

    L’enquête ne dit pas assez que la recherche publique est muselée par le financement par projets, l’exigence de cofinancements privés, à produire de la “PI” transférable. Les chercheurs désireux d’expérimenter sont contraints de se conformer aux appels orientés pour nourrir la “transition digitale” ou la “révolution de l’IA”.

    Que certains adhèrent à cette idéologie n’a rien de surprenant. Les jeter en pâture dans des enquêtes-choc n’y changera rien et ne fait que saper la crédibilité de la recherche publique.

    Nous avons besoin d’ingénieurs (dev, UX/UI, data) dans les labos de SHS, de science ouverte, de transfert vers l’ESS. Bref, d’une politique de recherche qui surmonte l’impensé numérique.

    Au lieu de quoi, l’enquête diabolise “les écrans” et “les réseaux sociaux”, comme si leur forme actuelle et dominante allait de soi. Elle ne dénonce pas le dévoiement des potentiels du numérique par des firmes accrocs à leur modèle économique toxique. C’est pourtant à ce modèle qu’il nous faut nous attaquer. Nous ne sommes que les fumeurs passifs de la dépendance des BigTech à la publicité ciblée et à nos données personnelles.

    Un autre numérique est possible. Le problème, c’est que nos politiques et nos journalistes sont incapables de l’imaginer. Ils s’ingénient à prétendre défendre les jeunes, alors qu’eux-même sont addicts à la pire des plateformes antisociale : X.



  • David Colon constate que la stratégie d’autorégulation européenne échoue à nous protéger des ingérences rendues possibles par les plateformes des Big Tech. Selon lui :

    « il faut tenter de rétablir un marché de l’information numérique libre et non faussé, en créant, par exemple, un média social européen à but non lucratif qui ne repose pas sur les dispositifs permettant d’exposer nos esprits à la guerre cognitive. »

    Face aux grandes plateformes qui instaurent les conditions sans précédent pour exploiter nos biais cognitifs, nous n’avons pas besoin d’un réseau social calqué sur les dispositifs développés par les big tech pour capter l’attention.

    Les grandes plateformes n’ont jamais trouvé d’autre modèle de rentabilité que celui de l’attention. Pour leur échapper, nous devons changer de paradigme et cesser d’attendre la startup providentielle ou le “Elon Musk européen”.

    Et si la réponse venait d’initiatives coopératives, fondées sur l’alliance entre la société civile et la recherche publique ? Et si on créait un média social taillé “by design” dans l’intérêt collectif ?








  • Sans le modèle publicitaire, il n’y aurait pas eu un tel intérêt économique à déployer les interfaces toxiques des grandes plateformes du numérique.

    Problème aujourd’hui : Musk a montré que la rentabilité publicitaire directe n’était pas la seule voie. Twitter n’a jamais été rentable, surtout depuis son rachat… Mais Musk en a fait un instrument pour démultiplier sa mise. Alors qu’il a donné comme personne avant lui dans une campagne américaine, alors qu’il a racheté Twitter à perte, il sort gagnant de l’opération.

    Ceci étant, taxer la publicité serait déjà un moyen simple et rapide d’établir une situation concurrentielle plus loyale pour de nouveaux entrants désireux d’explorer d’autres possibles.






  • Une chose me gêne dans tous ces article sur l’exode de X : lorsqu’on parle de quitter X, c’est toujours avec l’idée implicite d’investir une autre plateforme de micro-blogging.

    C’est l’éléphant au milieu de la pièce, le grand impensé : le Twitter d’avant Musk était déjà très critiquable depuis plusieurs années. C’est pourtant le modèle que reproduisent les alternatives sur lesquelles on s’enthousiasme de retrouver l’esprit du Twitter des débuts.

    J’ai relu ce qu’écrivait Romain Badouard à propos de Twitter dès 2017 (Le désenchantement de l’internet. Rumeur, propagande et désinformation, FYP éditions) :

    Les géants de la Silicon Valley ont acquis un pouvoir énorme a travers les technologies qu’ils développent, celui de produire de nouvelles normes sociales. Twitter par exemple a créé son propre format de discussion avec sa limite des 140 caractères, ses hashtags et ses arobases. Les contraintes d’utilisation ont engendré de nouvelles habitudes qui se sont peu à peu transformées en coutumes. Sur le réseau social, on cherche avant tout la petite phrase, on souhaite se faire valoir devant un public, on interpelle violemment des personnalités. La forme l’emporte définitivement sur le fond et les spécificités techniques de la plateforme ont fait naitre un environnement d’échange 2 la fois simpliste, conflictuel et moralisateur1.

    Le pouvoir des géants du web tient ainsi 2 la manière dont ils peuvent influencer et contraindre les comportements de mil- lions, voire de milliards d’individus. A cette domination technologique s’ajoute une position oligopolistique sur le marché

    1. Au-delà de la simplification et de la radicalisation des propos engendrées par la limite des 140 caractères, les twittos seraient plus à même de produire de messages s’apparentant à des maximes d’un haut niveau de généralité pour parler de l’actualité. Sur la manière dont Twitter a créé un nouveau style d’échange à travers ses contraintes techniques, voir Arnaud Mercier, op. cit., etJulien Longhi, « Essai de caractérisation du tweet politique», L’information grammaticale, n° 136, 2013, p. 25-32.



  • La nuance est bienvenue et j’abonde dans ton sens. Face à des États qui sont gangrénés par les intérêts privés, l’intérêt public et collectif dépend de plus en plus des organisations non gouvernementales ou des coopératives. Malheureusement, ces rustines-là (qui ont notamment amorti la crise sanitaire) on ne les soutient guère et on les pousse à rentrer dans le moule : financements par appels à projets, marchés publics taillés pour les plus grosses structures…

    Cf. dans La Revue Dessinée n°42 (novembre 2023), l’enquête sur le groupe SOS :

    Ne dites plus «associations» mais «entrepreneurs sociaux». Des foyers d’hébergement aux Ehpad, de plus en plus d’acteurs de la solidarité s’inspirent ouvertement du secteur marchand. «Efficience», «lucrativité», «gestion des collaborateurs» ne sont plus des gros mots pour les adeptes du «social business». En France, le Groupe SOS et son influent fondateur, Jean-Marc Borello, incarnent à eux seuls cette révolution. À la tête de 750 établissements, ce petit poisson devenu trop grand dévore tout sur son passage, dans une quête effrénée de rentabilité. Au risque de malmener ses salariés et ses usagers.


  • Musk a démontré qu’une plateforme de microblogging était un média à part entière. Il a au moins le mérite de l’assumer alors que les démocrates américains, les progressistes et notre gauche-écologiste-et-sociale à la française auraient pu l’anticiper de longue date s’ils n’étaient pas addict aux tweets. C’est effarant de constater que notre personnel politique prétendument de gauche commente encore tout “sur X” comme si les journalistes ne pouvaient pas suivre et sourcer leurs déclarations ailleurs que sur ce réseau.

    On peut envisager un avenir dans lequel le parti Républicain américain et autres droites populistes privilégieront X, tandis que les démocrates US et autres partis “progressistes” plus centraux dans le monde passeront par Bluesky ou par Threads… Quant à la “vraie” gauche transformatrice, elle devrait en toute logique investir Mastodon (un peu de cohérence que diable !).

    On gagnerait en pluralisme dans la recommandation de contenus et on en terminerait enfin avec ce mythe qui avait fait de Twitter l’alpha et l’omega du débat public. Comme s’il était sain que l’ensemble des sensibilités politiques s’affrontent dans une arène unique dont les règles valorisent les saillies acerbes face à l’argumentation, au débat de fond, à la construction d’une opinion éclairée. Un paysage du microblogging pluriel est préférable : dans l’ancien monde, le fait que des politiques s’expriment de préférence dans Le Monde, Libération ou Le Figaro (et pas sur un média hégémonique) garantissait le débat public. Les politiques peuvent tout aussi bien s’exprimer sur des plateformes numériques différentes sur lesquelles ils et elles débattent avec les personnes qui se sentent plus proches de leurs idées sous l’œil des journalistes à même de témoigner, d’analyser et de mettre les idées en débat.

    Évidemment, dans un monde idéal, cette activité s’organiserait sur des instances interopérables du Fediverse plutôt qu’entre des plateformes plus ou moins centralisées et dépendantes de leurs actionnaires. Mais je doute que les droites populistes, les conservateurs ou mêmes les progressistes y soient prêts. C’est la raison pour laquelle je distingue les forces transformatrices qui ne rêvent pas de révolution (=extrême gauche), mais cherchent à impulser des transformations radicales mais nécessaires, compatibles avec les limites planétaires.



  • Quant aux benchmark, effectivement on parle de taux d’erreur entre 1% et 3% dans le cas des RAG.

    Source?

    La dernières newsletter de Benoit Raphael citait ce chiffre sans le sourcer. Mais peut être l’avait il obtenu par une IA qui l’aura trouvé plausible :-p

    Ce qu’on demande en l’occurrence, c’est d’avoir un taux d’erreur inférieur au taux humain. Ce qui me semble extrêmement atteignable vu le niveau des policiers.

    Il ne s’agit pas d’avoir une police parfaite, mais d’agir pour relever le niveau plutôt que dilapider l’argent public en surveillance vidéo algorithmique et équipements et formation de répression ultra-violente. L’état de la police française, tout comme celui de l’hôpital ou de l’école, on le doit aux politiques qui décennie après décennies ont discrédité les services publics pour justifier de leur retirer les moyens de travailler et l’autonomie d’action nécessaire.

    Même pour éclairer les décisions, on glorifie (et on arrose) les cabinets de conseils plutôt que de s’appuyer sur l’expertise de nos chercheurs. Il faut dire qu’à l’Université, on est aujourd’hui trop occupés à répondre à des appels à projet afin de trouver l’argent nécessaire pour faire notre métier… Donc comme ailleurs, au final, des IA feraient sans doute aussi bien.

    Il n’est écrit nulle part que cette voie soit la seule possible. Comment peut-on penser qu’il s’agirait aujourd’hui de choisir entre IA et notre police actuelle, comme s’il n’y avait pas d’autres possibilités ? Comme je l’écrivais il y a quelques mois, Présenter l’IA comme une évidence, c’est empêcher de réfléchir le numérique. Il est urgent de réaliser que la technique doit être débattue sur un plan politique, qu’elle ne va pas de soi et que nous n’avons pas à accepter benoitement les prophéties auto-réalisatrices des milliardaires technophiles qui fournissent les éléments de langages à nos dirigeants.


  • A rapprocher de cette info la veille : https://lemmy.world/post/21935054

    Ce proche de Gabriel Attal ambitionne notamment de développer un outil, un chat GPT à la française, à destination des services de l’État pour accélérer les procédures et décharger les agents des tâches les plus rébarbatives, les moins valorisantes, leur débloquer du temps “pour être encore plus au contact du public”, défend son entourage.

    Parmi les pistes, ses équipes imaginent très concrètement de faciliter le partage des dossiers médicaux entre plusieurs hôpitaux. Aujourd’hui des établissements utilisent encore le fax ! Autre idée : faciliter le dépôt de plainte auprès des forces de l’ordre, qui ne dépendent pas directement du ministère de la Fonction publique. Cette intelligence artificielle pourrait enregistrer notre témoignage pour le retranscrire bien plus rapidement que quand un policier est obligé de tout taper à la main. Dans la justice aussi, l’outil pourrait résumer en quelques minutes un dossier long comme le bras.

    Sachant que l’idée des transcriptions automatiques des plaintes était déjà brandie par Xavier Niel un mois plus tôt au micro de France Inter : https://youtu.be/H8x-pIGbhOQ?t=817

    Nous aussi, nous avons nos milliardaires avec des lignes directes vers les dirigeants politiques.

    Et pendant que le ministre de la Fonction Publique lèche les bottes de Elon Musk, l’opposition réagit… Sur X.


  • Le désastre total dont on parle est le résultat de décennies de détricotage des services publics. Dans la bouche du ministre de la Fonction Publique, la technique n’est qu’un cache-misère qui sert à justifier davantage encore de désengagement de l’État. Il entretient l’idée mensongère d’un solutionnisme technologique qui prétend résoudre tous nos maux à coups de techniques immatures et promues par des gens sans scrupules qui raisonnent en termes de ROI sur leurs investissements financiers.

    On pouvait déjà permettre le dépôt de plainte sans passer par le commissariat avec les techniques existantes. Les LLM n’y changent rien et ce n’est pas ce dont parlent le ministre ou Xavier Niel. Leur propos est d’imaginer un gain de temps (et de productivité) si l’on transcrit automatiquement ce que disent les plaignants, au lieu de rédiger soi-même. Or les IA ne peuvent pas remplacer la nécessité d’accueillir les victimes, de les écouter, de les aider à exprimer et formuler ce qu’elles ont vécu et de les orienter dans la recherche d’une réparation. C’est d’ailleurs la promesse : être plus au contact du public. Ces gens qui se croient géniaux n’ont sans doute jamais conduits, transcrits ou analysés d’entretiens de leur vie : d’abord un entretien ne fonctionne pas sans un interlocuteur compétent ; ensuite les IA de transcription font beaucoup de coquilles, il faut repasser derrière ; enfin la parole orale est bien plus difficile à analyser et interpréter qu’une déclaration rédigée pour formaliser un témoignage.

    Tant mieux si l’on équipe les fonctionnaires d’outils éprouvés pour comprendre une victime dans sa langue maternelle. On pourrait tout de même regretter que cela prenne la place des interprètes qui savent traduire bien au-delà des mots. Quoiqu’il en soit, cela ne dispensera pas de former à l’écoute et à la législation. Pour le reste, si le propos est d’accepter que les fonctionnaires de police puissent être analphabètes, ce n’est pas un progrès. Comme le développait récemment Morozov pour Le Monde Diplomatique, tant qu’on concevra l’IA comme un moyen d’augmenter des individus diminués, on passera complètement à côté. Ces techniques pourraient sans doute être conçues et mises en œuvre pour nous améliorer, mais ce n’est pas ce dont on nous parle ici.

    Quant aux benchmark, effectivement on parle de taux d’erreur entre 1% et 3% dans le cas des RAG. Dans bien des applications, un tel taux reste trop important. Par ailleurs, tant que les utilisateurs ne comprendront pas le fonctionnement de ces outils et croiront dialoguer avec une entité intelligente, ils seront incapables d’évaluer la pertinence de la réponse à un prompt. Savoir que le LLM ne traite que le texte, ne sait pas forcément traiter des données tabulaires et encore moins des données présentées sous forme de graphique (format image) est indispensable. Quand bien même, sans expertise sur ce qu’on lui demande de produire, on se contente d’un rapport magique à la technique, on ne peut pas discerner les réponses correctes de celles qui ne sont que plausibles. Or avec l’expertise nécessaire, l’IA n’apporte pas forcément de gros gains de productivité… A supposer qu’être plus productif soit souhaitable si cela signifie s’épuiser en multipliant encore les tâches et la quantité d’information à traiter au quotidien.


  • Xaviel Niel avait justement avancé cette idée de la transcription automatique des plaintes lors d’une interview sur France Inter le 1er octobre : https://youtu.be/H8x-pIGbhOQ?t=817

    Comme si déposer une plainte n’était qu’affaire d’enregistrer par écrit tout ce qu’on dit, tel qu’on le dit. Comme si la transcription automatique était tellement au point qu’elle ne faisait jamais de faute, surtout face à des accents divers et variés. Comme s’il ne fallait pas un minimum de compétence et d’écoute pour recueillir les informations nécessaires auprès du ou de la plaignante. Comme si on pouvait se passer de traduire son témoignage avec justesse et esprit de synthèse, tout en obtenant sa validation de cette traduction.

    Mais c’est sûr que former les fonctionnaires de police à la conduite d’un tel entretien est couteux, et qu’on part de loin. Alors comme dans tous les services publics exsangues, on va nous dire qu’après-tout une IA fera sans doute mieux pour moins cher.

    Et puis c’est pratique de résumer automatiquement des dossiers longs comme le bras. C’est sûr que si des êtres humains ont pris la peine de les constituer, c’est certainement pour qu’une IA les résume sans âme ni conscience et en inventant potentiellement des choses qui n’y sont pas. D’après un benchmark d’OpenAI, aucun modèle ne produit de résultats factuellement corrects plus d’une fois sur deux.

    Donc c’est ça l’élite de la Nation : un ministre de la fonction publique sorti d’une prestigieuse école de commerce qui reprend les idées d’un homme d’affaire milliardaire, tous deux convaincus par le narratif qui veut que l’IA dominera le monde et qu’il vaut mieux en être quand bien même on sait qu’il n’y a pas les ressources sur Terre pour soutenir un tel déploiement de ces techniques.









  • Les cyclistes ont encore bien d’autres caractéristiques particulières qui engendrent des comportements spécifiques :

    • N’ayant pas de carrosserie, ils savent qu’ils sont vulnérables.
    • Ils se déplacent à la force de leurs muscles, ce qui les amène à économiser sans cesse leurs efforts, en s’arrêtant le moins possible et en évitant les détours et les pentes.
    • N’ayant pas de montants de toit qui masquent la visibilité ni d’habitacle qui étouffe les bruits de la rue, ils détectent facilement les véhicules en approche sans avoir besoin de s’arrêter complètement.
    • Leur gabarit étant réduit, ils se faufilent aisément dans le trafic, mais pour trouver leur équilibre, ils peuvent zigzaguer lors du démarrage ou en gravissant une côte.

    Le code de la route est encore très en retard dans la prise en compte de toutes ces spécificités.

    Ça fait du bien de le lire. Il y a quelques temps, par un calme dimanche après-midi, une fourgonnette de police m’a interpelé avec les gyrophares pour me reprocher de ne pas avoir masqué un stop à vélo, d’autant plus que j’étais avec mes enfants et que c’était un très mauvais exemple. Pourtant, à l’allure à laquelle j’approchais du stop en question et compte tenu de la visibilité juché sur mon vélo, il n’y avait aucune nécessité de m’arrêter. Rien à voir avec un automobiliste qui couperait la route de la voie prioritaire le temps d’avoir le temps de voir si quelque-chose arrive. Et puis redémarrer te met à la merci du chauffard qui arriverait trop rapidement.

    D’ailleurs, l’auteur suggère en fin d’article :

    • Tous les stops et tous les feux devraient pouvoir être considérés par les cyclistes comme des cédez-le-passage.