Quand la connexion des IA génératives entraine des propagations d’hallucinations

Google a repris sans le vérifier une réponse de Quora qui était elle-même générée par ChatGPT : les oeufs peuvent fondre ( ce qui est faux évidemment). Cette chaine de propagations est une expérience intéressante appelée à se multiplier , même si Open AI et les autres prétendent qu’ils vont réduire les hallucinations de leurs IA . Car comme rien n’est sourcé que tout est immédiat, sans délai, et qu’il n’y a pas de maïeutique dans ces IA mais seulement une promesse de réponse à tout prix ( le tout dans une boite noire de plus plus opaque), les propagations du fake seront la règle dans ce monde irresponsable.

https://www.letemps.ch/economie/le-debut-d-un-gros-probleme-google-hallucine-sur-les-hallucinations-de-chatgpt

Le pluralisme en sciences sociales vu par Jany-Catrice et Orléan face au manuel L’économie

Un peu par hasard, je retrouve ce texte de Jany-Catrice et de Orléan dans “la vie des idées” de 2018, qui commentent la mise en ligne du manuel L’économie, par le collectif Core. Tout l’article est intéressant (il est ici). Mais ce qui m’intéresse et que j’aurais dû relire avant de publier mon livre sur “Propagations”, c’est qu’il propose un débat sur le pluralisme en sciences sociales. Les tenants du manuel proposent un “pluralisme d’intégration”, où l’on prend ce qui est bon dans chaque point de vue, et ils s’opposent ainsi à la tradition néo-classique actuellement dominante en rejetant des mythes comme l’équilibre général. Mais ils s’opposent aussi à ce qu’ils appellent un “pluralisme de juxtaposition” qui présenterait tous les points de vue, sans chercher à les intégrer. Mais Jany-Catrice et Orléan répondent à cette proposition en indiquant qu’il ne s’agit pas pour eux ( et avec eux pour tous les économistes atterrés) de se contenter de juxtaposer les points de vue dans un relativisme qui réjouirait tout le monde. Ils soutiennent que la controverse entre ces points de vue doit faire le cœur de la pédagogie ( et non seulement un évitement de la théorie en sélectionnant ce qui est bon pour certains cas et pas pour d’autres). Le débat est en effet un élément constitutif des sciences sociales, mais des sciences en général lorsqu’elles ne se prétendent pas scientistes. Or le manuel “L’économie” continue à procéder de façon scientiste en évitant d’entrer dans les controverses.

Cela concerne directement ce que je propose à la fin de mon ouvrage sur les propagations, puisqu’il s’agit pour moi de proposer un nouveau paradigme ( et ce que dit Orléan dans ses travaux sur la valeur fait totalement partie du chapitre sur “la valeur se propage”). Le pluralisme que je défends n’est ni relativiste ni intégratif mais il n’est pas non plus purement orienté par la controverse. Car il est beaucoup plus nominaliste car appuyé sur les travaux de STS sur la quantification et son histoire. Mon propos est de soutenir que nous ne pensons qu’avec nos dispositifs techniques et méthodiques qui ne peuvent nous faire accéder qu’à un certain point de vue sur le monde. En l’occurrence sur ce qui agit dans le monde social, soit les structures, soit les préférences individuelles ( ce point de vue privilégié par les économistes) soit les propagations. Mais aucun des trois n’est faux s’il sait fixer les limites de validité de son énoncé, ce qui est rarement le cas puisque tout le monde prétend tout expliquer avec un seul point de vue. C’est un pluralisme perspectiviste comme je le dis dans la conclusion (trop brièvement, certes, mais c’est un métadiscours un peu lourd quand même). Les controverses naissent certes de positions politiques clairement conflictuelles et qui refusent ou acceptent le cadre de pensée de départ (le capitalisme, dépassable ou indépassable) mais aussi des dispositifs d’accès aux données et des formats de connaissance construits pour valider ces différentes positions et leur donner de la robustesse. Or, les méthodes numériques permettent désormais de traiter un nouveau paradigme, les propagations, et cela converge avec tout un pan des travaux des économistes, qui jusqu’ici avaient tendance à se recaler dans les rails classiques ou dans une opposition standard. La finance  numérisée, par sa dévoration de tout le capitalisme, a changé la donne, car c’est une économie de la propagation des réputations qu’elle a mis en place.

Ci dessous, on trouvera la partie du texte qui fait référence au pluralisme (cliquer sur page 2)

 

Propagations et émeutes

Voici le texte de mon article que la revue AOC a publié sur casser les chaines de contagion par temps d’émeutes”, qui montre l’utilisation que l’on peut faire de l’approche des propagations à la fois sur le plan des analyses mais aussi en termes de stratégies de gouvernance. Le texte en open access ici et le lien vers le site de la revue AOC ici

Les émeutes urbaines récentes ont souvent été relatées en termes de contagion, d’étincelles, d’imitation, mais sans réellement prendre la mesure de ce qu’implique un tel point de vue, celui des propagations que je viens d’analyser en détail dans un livre (Propagations. Un nouveau paradigme pour les sciences sociales, Armand Colin, 2023). (la suite en cliquant sur la page 2)

Lorsque le point de vue des propagations déraille…

Voici un exemple d’abus des analogies entre propagations: ici le transfert des modèles de ola sur le climat! il faut oser mais autant c’est excitant sur le plan formel autant cela aboutit à des bêtises sur le plan des prédictions, surtout quand on relit cela dix ans plus tard! Conclusion: la version prédictive des propagations est presque toujours une arnaque, et je me lancerai jamais dans ce business!

https://www.slate.fr/life/78878/ola-stades-explication-ralentissement-rechauffement

Deux cas de propagation : où la propagande n’est pas là où l’on croit

Un cas d’école de propagande (qui est un type de propagation intentionnelle et stratégique), avec mensonges et fake news à volonté de la part d’un ministre, mais qui a des effets de propagation au point d’aboutir à l’incendie de l’office français de la biodiversité à Brest. La désignation par le ministre d’un bouc-émissaire tout trouvé, l’Europe, l’appui à cette manœuvre du comité des pêches contrôlé par la pêche industrielle et justement mis en cause par les artisans pêcheurs, et une pluie de mensonges du ministre bien listés par Bloom (pas d’obligation mais des recommandations par exemple) et la propagande se transforme en propagation classique avec contagion de la colère et des manifestations de plus en plus violentes, par les artisans pêcheurs qui se sont fait avoir dans l’opération (puisque les zones de protection de pêche ne leur interdiraient rien à eux mais seulement aux gros chalutiers). Jusqu’à l’incendie, quasiment passé sous silence par le gouvernement en lutte contre les terroristes écolos par ailleurs. Et là miracle, victoire déclarée par le ministre et arrêt de la mobilisation par le comité des pêches, alors qu’aucune menace n’était réelle.

L’article de Bloom est très précis sur la question

Une autre histoire de propagations aura des conséquences bien plus graves puisque l’engrenage qui a conduit à l’assassinat de Samuel Paty permet de comprendre comment un mensonge (là encore) repris par le père de la jeune fille se trouve amplifié par des influenceurs et devient viral sur les réseaux sociaux, au point d’attirer l’attention du tueur, lui-même encouragé par des pairs. Le contenu de l’appel du père à virer Samuel Paty de l’Education Nationale s’est propagé et a agi, en écho bien sûr aux caricatures de Charlie de 2015 qui se sont trouvées ainsi à nouveau répliquées et devenir agissantes à des années de distance.

La chronique détaillée de ce processus de propagation est particulièrement éclairant dans le Monde du 8 Avril.

https://www.lemonde.fr/societe/article/2023/04/07/attentat-contre-samuel-paty-le-parquet-requiert-un-proces-pour-quatorze-personnes-et-retrace-la-chronique-d-une-mise-a-mort_6168669_3224.html


Une vidéo d’introduction à Propagations

Pour ceux qui veulent avoir un aperçu (mais vraiment un aperçu!! en 1 minute! ) de ce que je raconte dans mon livre “Propagations”, voici une vidéo très courte pour vous donner envie (ou pas!) et il en existe deux autres courtes aussi (mais 4′) disponibles sur la chaine youtube de sciencespo et du CEE. Qui permettent une initiation simple à cette approche.

Propagations et rythmes: une relation forte à travers un séminaire

Les questions de rythme sont omniprésentes dans l’ouvrage “Propagations” et dans toutes les SHS3G. Mais plusieurs chercheurs travaillent cette question depuis plusieurs années et se sont regroupés dans un séminaire hebdomadaire (!) auquel ils m’ont invité. Le débat et les questions qu’ils ont posé furent tout à fait passionnantes. Tout cela a été enregistré et est accessible ci dessous.

La vidéo de l’intervention est accessible ici

Et en plus les questions ont été reformulées par écrit par plusieurs des participants sur le site Rhuthmos qui existe depuis 10 ans. Enfin, un débat reprenant ces questions et mes réponses aura lieu en mars Mars 2023. Voilà ce que c’est qu’une communauté scientifique: une curiosité partagée et bienveillante! Merci à eux!

La discussion sur le site web est ici

https://rhuthmos.eu/spip.php?article2971

 

Propagations. Le livre! sera en vente début Mars

Le livre sur lequel je travaille depuis 5 ans est à l’impression et sortira début Mars chez Armand Colin éditeur. Pensez à le réserver ou à le précommander ( car la demande peut se propager tellement qu’on pourrait risquer la rupture de stock ;-))))))

Son titre exact: “Propagations. Un nouveau paradigme pour les sciences sociales” dit bien l’enjeu de ce point de vue  (dit 3G) que j’explore dans la plupart des disciplines des sciences humaines et sociales.

Une journée dans le monde de la première génération: lorsque les structures sociales devraient tout expliquer

Par un hasard du calendrier, j’ai assisté ce vendredi 25 Novembre, à deux séminaires la même journée, sur des thèmes totalement différents avec plusieurs intervenants et j’ai été étonné moi-même de la domination écrasante d’un point de vue, celui des structures sociales et de ses conséquences sur les recherches, leur protocole et leur robustesse. Je précise, comme je le fais dans mon livre « Propagations » à paraitre en Février, que cette agentivité des structures est un point de vue qui a eu le temps de construire des savoirs conséquents et reconnus et qu’il ne s’agit pas de faire table rase en inventant ce que j’appelle le point de vue des propagations. Mais si je prône ce pluralisme des points de vue, c’est pour obliger chacun à la cohérence, à la robustesse dans ses protocoles et ses argumentations et non pour s’autoriser des facilités, des inconséquences et des effets tautologiques car ce qui compte, c’est la qualité de la mise à l’épreuve de l’énoncé. Or, ce n’est pas ce que j’ai observé et cela en grande partie parce que l’alignement problème (ou question), objet, collecte des données, validation, interprétation n’a pas été contrôlé. (lire la suite avec le bouton 2)

Massacres en série : quand la viralité tue

Peut-être pensions que le massacre de Christchurch avait fait comprendre aux plateformes numériques qu’il fallait agir contre la viralité à défaut de pouvoir prévenir l’action d’émetteurs inconnus. Mais le massacre de Buffalo, clairement dupliqué de celui de Christchurch, montre que rien n’a changé. La méthode de diffusion en streaming, la mise en scène de soi en action en vue à la première personne grâce à une caméra portée à même le corps, le manifeste de référence postée en réserve pour la justification idéologique, la communauté de proches prévenus au sein un cercle restreint qui sert de premier relais, et la viralité encouragée par la polarisation et par les algorithmes des plateformes qui valorisent tout ce qui fait réagir (pour ou contre n’est pas le problème). Différence notable, c’est Twitch qui sert de point de départ et qui réagit en coupant le live en deux minutes mais la viralité, elle, avait déjà fonctionné sur Facebook et sur Twitter. Malgré la mise en place du GIFCT (Global Internet Forum to Counter Terrorism) que financent les plateformes, leur réactivité fut insuffisante et des copies ont continué à circuler.

Continuer la lecture

Franck Ghitalla, pionnier des web studies en France : cartographier le web

Qu’est-ce que la cartographie du web&nbsp?

Un livre essentiel pour tous ceux qui travaillent à l’analyse de réseaux et du web en particulier, à sa visualisation, à son histoire. Franck Ghitalla, collègue et ami, décédé en 2018 dans son amphithéâtre à l’UTC, avait préparé soigneusement cette édition de ses carnets d’exploration du web. Nous (Mathieu Jacomy et moi) avons repris l’ouvrage pour le finaliser. Il est désormais disponible en open science (accès libre en ligne et impression à la demande) sur Open editions, avec des visuels superbes et des explications très didactiques de chaque étape et chaque problème d’exploration des topologies comme celle du Web (mais pas que). Heureux de pouvoir faire vivre sa mémoire, de continuer à faire vivre ces réseaux et de rendre visibles la rigueur et l’imagination de Franck Ghitalla, fondateur des web studies en France, ami trop tôt disparu…

Dans le livre, on trouve trace de son intérêt croissant pour l’analyse des propagations, d’abord en termes de suivi temporel des graphes, très complexe à réaliser, même avec des graphes multiniveaux, et ensuite comme objet d’étude à part entière. Nous en avions discuté et nous avions des projets ensemble, notamment sur les questions de suivi des réseaux et des messages terroristes. Mais sa disparition a tout interrompu. Je pense à lui à chaque fois que nous manipulons des graphes et plus souvent encore!

https://books.openedition.org/oep/15358

Un virus, c’est un algo de variation finalement

Un article très documenté et passionnant sur le blog du Monde de Marc Gozlan. Vraiment nous n’en avons pas fini avec les variants puisque c’est le principe même du virus pour survivre (en mutant ou en se recombinant). Tant que l’on ne l’a pas stoppé par vaccination, immunité ou gestes barrières, il continue et la description phylogénétique peut désormais se faire même prédictive. Au fond, nos actions peuvent limiter les occasions de réplications et de variations et pousser à la sélection de certains variants pour espérer au bout du compte l’épuisement du virus mais après la lecture de cet article, on en est moins sûr. Bref, le champion des propagations, c’est bien le Sars-Cov2 avec tous ses variants (notamment en recombination). Et ses méthodes de variation et  d’accrochage des cellules humaines décrites dans l’article nous serviront aussi pour tester des analogies dans les propagations sociales.

https://www.lemonde.fr/blog/realitesbiomedicales/2021/07/08/covid-19-alpha-beta-gamma-delta-epsilon-lemergence-sans-fin-des-variants/

 

Le biais Bronner ou la reductio ad cerebrum

N’est pas Molière qui veut mais ma critique du livre de Bronner « Apocalypse cognitive », pourrait se contenter de transposer la réplique fameuse : « Le poumon ! Le poumon, vous dis-je » en un « Le cerveau ! Le cerveau, vous dis-je ! ». La discussion académique exige cependant un peu plus d’arguments. Pourtant, le livre en question a débordé largement le monde universitaire pour être mentionné, voire célébré, partout dans les médias, avec une telle unanimité, que je me demande si les critiques l’ont vraiment lu, sans parler des académiques qui auront vite compris l’opération éditoriale. Pour tous ceux qui ne l’ont pas lu, donc, je vais donc résumer l’argument le plus honnêtement possible et j’en reprendrai chaque point en détail. Version longue d’un article publié dans la revue en ligne AOC début Avril 2021.

Continuer la lecture

Ne pas confondre études de propagation et prédictions

Ioannidis et ses collègues ont publié un article en Aout 2020 qui montrait comment les épidemiologistes qui ont prétendu faire des prédictions pour l’épidémie du Covid-19 se sont totalement trompés, et ça n’a pas dû s’arranger depuis avec l’histoire des variants. Leur papier permet de lister tous les risques de défauts de ces études et ces leçons peuvent servir à toutes les études de propagation et à tous les data scientists formatés par le pouvoir de prédiction du Machine learning.

Dans l’image ci dessus, on peut voir les prédictions de 4 modèles (issus de labos différents) pour le nombre de morts aux USA pour le jour suivant: pas un ne donne le même résultat!!

Suivre la propagation d’un concept vide

Travail passionnant que celui de David Chavalarias sur la diffusion du terme “islamogauchisme” et qui aide à mieux comprendre son origine et ses liens. En fait, ce n’est pas une étude de propagation en tant que telle puisqu’on ne dispose que d’une timeline cumulative d’un côté et des réseaux d’hyperliens entre émetteurs par ailleurs. Mais cela constitue une approximation suffisante pour comprendre la manoeuvre politique qui est en cours pour faire exister un concept vide qui permettra de cadrer le débat politique à venir. Le rôle décisif des ministres dans cette propagation mérite d’être soulignée car on ne peut ignorer que des influenceurs d’un statut particulier peuvent modifier considérablement la carrière d’un mème comme celui-là, surtout lorsque les mass media les relaie sur les plateaux télé. Il faudrait sans doute tenter encore d’avancer vers un carte dynamique de tout le parcours de ce mème pour avoir une idée plus précise non seulement des influenceurs qui ont pu faire monter la réputation du terme mais aussi des dérivations multiples qui ont pu affecter le mème en question et des associations durables qui ont pu être véhiculées comme des clusters qui se propagent ensemble. Ce sont là les limites des techniques actuelles de visualisation des liens, même si l’institut des systèmes complexes d’Ile de France a réalisé aussi des visualisation en flux auparavant.

“Islamogauchisme” : Le piège de l’Alt-right se referme sur la Macronie