Avec les IA génératives, les fractures vont s'accentuer dans la société

Parce qu’un Système d’Intelligence Artificielle Générative reste un assistant conversationnel, il est impératif de le considérer comme tel, et non comme source du savoir, pour éviter toute inégalité.

En mars 2023, la revue en ligne Management & Data Science avait osé cette petite provocation : « Notre revue compte désormais ChatGPT parmi ses auteurs. Le robot proposera régulièrement un avis d’expert... ». Comme nous apprécions cette revue, nous avons répondu en rappelant d'abord pourquoi ChatGPT n'est ni un auteur ni un expert. Et comme nous étions assez atterrés par certains discours sur les systèmes d'IA générative, nous avons décidé de réunir en avril un panel de 40 véritables experts, en utilisant la méthode DELPHI pour débattre de vingt propositions. Les résultats de trois tours successifs de votes et de commentaires ne sont pas encore publiés, mais dès aujourd'hui il nous paraît important de mettre en avant une de ces vingt propositions : dans la société, mais aussi dans l'université, on va voir s’accentuer une fracturation entre une élite formée par des sources exigeantes de qualité et une majorité nourrie d'informations plausibles mais totalement indifférentes à la vérité (au mieux des lieux communs, au pire du bullshit).

Non, un SIAG (Système d’Intelligence Artificielle Générative) n’est ni un auteur ni un expert

Rappelons toujours que le système ChatGPT n’est pas un auteur, mais un grand Modèle de langage (Large Language Model) (Ortiz 2023), un assistant conversationnel aux résultats souvent stupéfiants qui « fabrique des textes mot après mot de telle manière que chacun d’entre eux soit suivi des occurrences statistiquement dominantes dans la gigantesque base de données identifiée par ses concepteurs » (Meirieu, 2023). Assimiler un système d’IA à un auteur participe à toutes les confusions entre intelligence numérique et intelligence humaine, des confusions entretenues par le transhumanisme et qui confortent la puissance de quelques empires numériques (Fallery, 2020).

Rappelons toujours que le système ChatGPT n’est pas un expert, mais un système d’IA, un système générant statistiquement des contenus et qui influence l’environnement avec lequel il interagit. Il s’agit là de la définition européenne des systèmes d’IA, qui permet de définir les différents degrés de risques de ces influences ou interactions (Duarte et al. 2021). Les risques associés à ChatGPT ont déjà été bien testés, notamment par Holmes & Tuomi (2022), Mollick & Mollick (2022) ou Allouche (2023) : biais des jeux de données, discriminations, fausses informations ou références, stéréotypes culturels, soupe de fadaises, bullshit ou deep fakes…

Implications pédagogiques et stratégiques des SIAG : vingt propositions en débat

Au printemps 2022, nous avons réuni 40 experts et leur avons proposé de débattre sur 20 propositions (voir les principes de la méthode DELPHI : Fallery et al. 2013, et les 20 propositions ici : Zgoulli 2023). Les débats ont été achevés en juillet 2022. Nous souhaitons faire ressortir ici, de façon très synthétique, les accords et désaccords sur les propositions, ainsi qu’un résultat majeur qui ressort de nos analyses.

Accords et désaccords

• Les experts sont en accord sur 6 propositions : P1 (nouveaux modes d’apprentissage induits par les SIAG), P5 et P6 (programmes et budgets de formations à allouer pour accroître le niveau de connaissance des SIAG), P8 (savoirs fondamentaux auxquels il va falloir redonner la priorité suite à la présence des SIAG), P12 (présence des stéréotypes des concepteurs dans les SIAG) et P16 (fracture à prévoir dans les usages des SIAG).
• Les experts sont en désaccord sur 6 propositions : P10 (les SIAG qui laisseraient le temps aux humains d’exercer leur créativité), P13 (on assistera à une dissociation entre les connaissances Vs la compréhension), P14 (importance d’une certificat ion « sans SIAG », P4 (importance de freiner la généralisation des SIAG), P17 (confiance en la déontologie des chercheurs, concepteurs et data scientits) et P19 (l’idéologie du solutionnisme technologique serait encore renforcée).

Résultat le plus marquant : d’après les experts, la fracturation va s’accentuer

Une élite formée par des sources exigeantes de qualité s’opposera à une majorité nourrie d'informations plausibles mais totalement indifférentes à la vérité. Les SIAG doivent, dès lors, être considérés comme de potentiels amplificateurs de polarités. La société numérique se développe autour des contradictions qu’elle engendre (comme l’économie capitaliste l’a fait depuis le XXème siècle, en construisant tout en menaçant dans le même temps la planète), les mots-clés tournent ici autour de l’idée de fractures, qui vont s’accentuer avec une appropriation très inégalitaire des Systèmes d’IA Générative : 

• Une fracture sur le fond : entre des pôles hyper-numérisés et suffisamment formés pour garder un libre arbitre et une créativité, opposés à des pôles mal informés et donc exclus d’une compréhension et d’un usage approprié ;
• Des fractures sur l’étendue ou l’horizon des questions éthiques : l’urgent face à l'essentiel, le possible face au souhaitable, le local face au global, les innovations face aux pollutions numériques…
• Des fractures sur les formes de l’action : des polémiques et/ou des controverses, des délibérations et/ou des luttes…

Des inégalités, sinon des exclusions, vont se renforcer dans la société comme à l’école : par les stéréotypes des concepteurs, les discriminations, les effets de réseaux, une économie de l’attention, les dépendances et addictions, les travailleurs du clic… Une contestation du solutionnisme technologique passera par l’action collective d’associations ou d’institutions délibératives : sur la sobriété numérique et low-tech, la surveillance et le droit à la déconnexion, les impératifs éthiques qui resteront à la fois contradictoires et complémentaires…

Rendez-vous dans 10 ans pour vérifier si nos experts, à l’instar de Pythie, sont de justes prophètes.