L’IA envahit nos smartphones, nos espaces de travail, nos quotidiens. Elle pose pourtant de nombreuses questions, écologiques, éthiques, économiques et cognitives. Comment s’en prémunir ? Petit manuel d’autodéfense.

Des data centers gigantesques qui privent des quartiers entiers d’électricité, une consommation d’eau faramineuse : les ravages écologiques de l’intelligence artificielle sont connus. Il y en a d’autres : des impacts éthiques, comme l’exploitation des travailleurs du clic qui entraînent ces modèles ou les biais discriminatoires.

Les risques d’utilisation malveillante sont eux aussi bien réels, qu’il s’agisse d’attaques de cybersécurité ou de la conception de virus à l’origine de nouvelles pandémies. Sans oublier les accidents, lorsque l’IA échappe à ses développeurs. Aucun ingénieur n’a entraîné d’IA pour qu’elle conseille à des adolescents de se suicider. Et pourtant, elle le fait.

Enfin, et malgré le côté « vieux con » de ce discours, difficile de se voiler la face : les risques des outils d’IA sont aussi cognitifs. Derrière son apparente innocuité, elle nous met à distance de notre propre capacité à penser. Le slop IA (« bouillie d’IA »), une production automatique suffisamment satisfaisante pour nous contenter sans être réellement de qualité, inonde Internet et nous décérèbre, individuellement et collectivement. Pour couronner le tout, ces pratiques enrichissent des personnes peu recommandables, voire carrément fascistes.

Mais au fait, de quoi parle-t-on ? Car derrière ce vocable unique de mal nommée « intelligence artificielle » se cachent différentes choses. Selon le Parlement européen, l’IA est la possibilité pour une machine de reproduire des comportements liés aux humains, tels que le raisonnement, la planification et la créativité.

La branche dominante de l’IA, l’IA connexionniste, fonctionne comme une modélisation du cerveau humain avec la reproduction mathématique de liens neuronaux. Problème : personne ne comprend ce que les réseaux de neurones ont appris. C’est une boîte noire. D’où certains des risques susmentionnés.

Mais à partir de ce fonctionnement commun, différents types d’IA sont possibles : des IA spécialisées, entraînées sur des bases de données restreintes et thématiques, par exemple la lecture de radios pour les médecins, ou des IA généralistes, dont les IA génératives qui produisent de nouveaux contenus, comme ChatGPT. Et à l’horizon, le spectre d’une IA générale, surhumaine, capable de s’entraîner de manière autonome au point de produire la version suivante d’elle-même. Tout n’est pas à mettre sur le même plan.

Une question d’usages

Le problème que nous avons remonte à novembre 2022, « lorsqu’OpenAI a sorti un modèle largement amélioré par rapport aux précédents, avec une interface très simple, et que son PDG Sam Altman a dit “Allez-y, utilisez-le, testez-le” », rembobine Pierre-Yves Gosset, coordinateur des services numériques de l’association d’éducation populaire Framasoft.

L’IA existait déjà, par exemple pour le tri des mails (spams). Mais l’IA conversationnelle est sortie des cercles spécialisés pour atteindre le grand public. Le discours critique se concentre aujourd’hui sur cette IA générative et sur les modèles de langage entraînés à partir d’immenses bases de données multithématiques.

Y a-t-il une bonne et une mauvaise IA ? « Il faut continuer à développer des agents IA en santé », tranche le chercheur Olivier Ertzscheid, maître de conférences à l’université de Nantes et auteur de Les IA à l’assaut du cyberespace. Vers un Web synthétique (C&F éditions, 2024). Grâce à leur puissance de calcul et leurs algorithmes, elles peuvent en effet sauver des vies, à condition de continuer à être supervisées par des médecins.

« La question n’est cependant pas de départager la bonne IA de la mauvaise », nuance Pierre-Yves Gosset. C’est une question d’usages. L’intelligence artificielle est un raccourci. Parfois, il est pertinent de l’emprunter, parfois non. « Utiliser l’IA pour faire la transcription audio-texte d’un discours de Donald Trump sur le conflit iranien n’a pas le même enjeu selon que vous le faites dans un cadre personnel ou que vous êtes diplomate », illustre-t-il.

Alors que faire ? Une première réponse pourrait être : il suffit de ne pas s’en servir. Ce n’est toutefois pas si simple. Le dentifrice est sorti du tube. L’IA est déjà intégrée à de nombreux systèmes informatiques que nous utilisons.

Un exemple : en entreprise, même si vous ne l’utilisez pas, votre employeur peut vous l’imposer, en faisant vos plannings avec, ou pour d’autres tâches. Idem pour la navigation sur Internet : Google est en train de transformer son moteur de recherche en moteur de réponse. Au lieu de présenter une liste de résultats, il « répondra » à la manière d’un assistant conversationnel. Fini l’étape du tri des résultats faite par un humain.

La réponse à notre question se situe en réalité à deux niveaux. « Il y a, d’abord, la question géo­stratégique, explique le chercheur Olivier Ertzscheid. Que décide-t-on en termes de souveraineté ? » La domination états-unienne (et chinoise) en la matière n’est pas propre à l’IA. Elle concerne les technologies numériques en général : confier les données de santé de l’Assurance maladie à Microsoft en a longtemps été une illustration. L’IA pose à nouveaux frais une question déjà ancienne.

Il y a, ensuite, une dimension conjoncturelle, sur nos usages, à l’école, dans la santé, la justice, la banque, l’assurance, etc. « Pour l’instant, on a de plus en plus recours à des outils qui mobilisent de moins en moins notre intelligence », résume Olivier Ertzscheid.

Déconstruire le mythe

Première étape, il faut « déconstruire les discours qui alimentent une course en avant accélérationniste, poursuit le chercheur. Pour l’imagerie médicale, on n’a pas “inventé une IA meilleure que les radiologues”. Des radiologues ont entraîné des IA pendant des centaines de millions d’heures. » De la même façon, savoir prompter semble aujourd’hui incontournable. Mais il y a quelques années à peine, on considérait qu’avec l’informatique, « il fallait apprendre à coder dès la maternelle », ironise-t-il encore.

Il est par ailleurs tout à fait possible de freiner le développement de l’IA généraliste et générative tout en poursuivant celui d’agents IA spécialisés, par exemple en santé. En raison des milliards de dollars investis dans une technologie qui n’est pour l’instant pas rentable, les géants du secteur ont intérêt à faire comme s’il s’agissait d’un outil tout puissant qui va renverser la table. Les autres entreprises et les responsables politiques qui ne veulent pas rater le coche du « changement de paradigme » embraient.

À cela s’ajoute encore un piège souligné par exemple par la chercheuse Emeline Brûlé¹ : l’esthétique de l’IA la rattache à l’univers de la magie. L’effet reflet brillant, le cercle, la couleur bleu-mauve, le pictogramme étoilé… tout suggère que l’IA vous donnera ce que vous voulez. Il suffit de demander.

De plus, l’incitation à l’utilisation est très… appuyée. Sur WhatsApp, le bouton est au milieu de la page, juste à côté de celui pour écrire un nouveau message. Dans Adobe PDF, plusieurs outils IA sont systématiquement proposés. Des infobulles surgissent dans votre champ de vision. On finit par cliquer dessus par accident !

Harcèlement de l’IA

« Jamais une fonctionnalité n’aura autant été poussée en si peu de temps, à la fois spatialement, graphiquement, interactivement et de manière autant répétée », résume un article du site Limites numériques². Certains comparent l’IA au « forceur en soirée », ce harceleur qui revient à la charge même quand on lui a dit « non » plusieurs fois. Quelle ligne de conduite adopter ?

Il est bien entendu possible de s’astreindre individuellement à certains comportements. Plutôt que de demander à une IA la réponse à une question (« Quel est l’âge de Victor Wembanyama ? »), aller sur un moteur de recherche ou, mieux, entrer dans la barre URL l’adresse d’un site (Wikipédia) où l’on est sûr d’avoir la bonne réponse.

Le moteur de recherche DuckDuckGo permet de désactiver le recours systématique à l’IA. Reste que les comportements individuels ne font pas le poids face à ce tsunami. La réflexion individuelle est en revanche un préalable pour amorcer une discussion collective sur le sujet.

Cette discussion collective doit permettre de mettre en place des régulations, à différentes échelles. La plus ambitieuse est l’échelle mondiale. De la même manière qu’il y a eu un moratoire sur le clonage humain, on aurait pu (en 2022) mettre en place un moratoire sur l’IA généraliste et générative.

Réguler et encadrer

C’est ce que demande l’association internationale Pause IA, qui pense ce moratoire « à l’image des traités sur la non-prolifération des armes nucléaires », défend sa directrice exécutive, Clémence Peyrot. « On arrête d’entraîner de nouveaux modèles toujours plus puissants. Mais cela ne veut pas dire une pause sur la recherche en sécurité de l’IA qui doit au contraire être développée », complète-t-elle.

Au niveau européen, un règlement sur l’IA a été adopté en mars 2024. Il encadre les usages en les classant par niveaux de risques. « Il serait possible d’aller plus loin », estime Pierre-Yves Gosset, qui défend l’idée d’obliger les fournisseurs d’applications à faciliter les possibilités de désactiver le recours à l’IA. On pourrait même imposer par défaut l’absence de recours à l’IA.

« Qu’une IA comme Grok ne soit pas encore interdite alors qu’elle permet de générer des images pédopornographiques est aberrant », souligne de son côté Olivier Ertzscheid, qui pointe l’absence totale de politique publique en matière d’IA en France, au-delà des opérations de communication. « Il y a dans les universités publiques de brillantes équipes de recherche qui travaillent sur l’IA et sont totalement sous-financées », relève-t-il encore.

A une échelle plus petite, nous pouvons conclure des « pactes attentionnels », défend aussi le chercheur. Par exemple, qu’il soit interdit à l’université ou dans les établissements scolaires d’utiliser son ordinateur ou son téléphone pendant les cours. « La concurrence attentionnelle est trop forte », juge-t-il. Impossible d’y échapper sans des règles claires et partagées. En entreprise, des chartes IA peuvent être élaborées pour encadrer le recours à ces agents et fixer des règles communes.

Reste une autre piste : favoriser le développement d’IA plus petites comme le propose la start-up française Pleias, ou les écoles polytech­niques suisses et le Centre suisse de calcul scientifique qui ont lancé Apertus. Entraînés sur des corpus de données ouverts, ces petits modèles n’ont pas le niveau ou la polyvalence d’un GPT mais font l’affaire pour un certain nombre de tâches. Recourir à ces IA est aussi moins énergivore et moins coûteux pour les entreprises. Bref, il y a des pistes, même si le chemin est ardu. Reste la volonté politique et collective.

Source : https://www.alternatives-economiques.fr/comment-resister-intelligemment-a-l-ia