IA : le nouveau golem ?

Le légendaire golem est une créature artificielle dépourvue de libre arbitre fabriquée à partir d’argile par un rabbin très savant afin de l’assister et de le protéger. La diffusion rapide dans de nombreux champs d’activité d’outils logiciels utilisant les développements récents de l’IA (Intelligence Artificielle) a fait naître des craintes quant aux dangers supposés de ces nouvelles technologies : des machines avancées, à l’image de l’ordinateur HAL du film 2001 Odyssée de l’espace, ou de la série des Terminator, pourraient prendre le contrôle de la planète et même vouloir éliminer une humanité jugée nuisible à leurs yeux comme l’est un nid de guêpes aux nôtres.

Cette crainte est-elle fondée ? Des incidents récents très médiatisés suggèrent que des machines auraient montré un comportement autonome en tentant d’échapper à leurs concepteurs et de sortir du bac à sable où elles auraient dû rester confinées.

Sont-elles intelligentes, ou ne sont-elles que des perroquets numériques ? Première question : qu’est-ce que l’intelligence ? On peut répondre que c’est un ensemble de facultés : apprendre, mémoriser, et pouvoir utiliser ses connaissances pour répondre à de nouvelles questions ou faire face à de nouvelles situations.

Le cerveau est constitué d’un nombre très grand d’unités cellulaires interconnectées, les neurones. Les capacités de chaque unité sont limitées : un neurone possède plusieurs entrées et une sortie, et effectue, à travers des mécanismes électrochimiques complexes, une somme pondérée des signaux électriques qu’il reçoit en entrée. Les fonctions cognitives sont le produit de l’architecture du réseau de neurones, c’est-à-dire de la façon dont les unités sont disposées en couches et interconnectées entre neurones d’une même couche et entres couches voisines. Les fonctions cognitives sont une propriété du système global, qui ne s’expliquent pas à partir des seules propriétés des composants individuels. Une IA simule cette architecture en interconnectant un grand nombre de microprocesseurs associés à des bases de données gigantesques.

Si on reconnait que l’intelligence est le produit de l’organisation neuronale, alors on peut considérer que ces machines sont réellement intelligentes. Et si on admet que la conscience de soi est un stade avancé de l’évolution des capacités cognitives des organismes vivants, on ne peut pas exclure que ces machines finissent par acquérir une forme de conscience. Certes, contrairement aux organismes vivants, les modes selon lesquels une IA appréhende sont environnement sont encore aujourd’hui assez limités. On lui présente en entrée des images, des sons, du texte, on est cependant très loin de la richesse des informations sensorielles par lesquelles un organisme peut connaitre ce qui l’entoure. Mais ces limitations sont peut-être, ou sans doute, provisoires.

Le développement des systèmes d’IA présente-t-il un danger pour l’humanité ? On peut répondre que durant leur apprentissage leurs concepteurs doivent les éduquer en leur inculquant des règles éthiques. Le point de départ d’une réflexion sur une formation éthique des IA (et de leurs concepteurs) pourrait être les 3 lois de la robotique énoncées il y a 80 ans par Isaac Asimov :

  • Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
  • Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
  • Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.

On pourrait même imaginer un accord international pour encadrer le développement des IA, bien que la médiocrité intellectuelle et morale de la plupart des politiciens et de leur entourage n’incite pas à l’optimisme, de même que le désir de puissance d’une poignée de milliardaires avides de pouvoir et d’argent, et l’hybris de quelques savants fous pour lesquels la tentation du possible l’emporterait toujours sur le frein du souhaitable[1].

Par ailleurs d’autres dangers peuvent menacer avec l’essor des IA : sur l’économie et l’emploi bien sûr, les IA pouvant accomplir sans se lasser des tâches répétitives plus rapidement et plus efficacement que des opérateurs humains ; également sur la santé mentale de certains utilisateurs, qui courent un risque d’addiction à force de converser avec un chat bot[2] toujours bienveillant et toujours disponible, l’IA jouant alors un rôle d’AI (Ami.e imaginaire).

Cependant à court terme, le risque le plus sévère du développement des IA est de nature écologique : elles nécessitent de construire des centres de données gigantesques, avec à la clé une artificialisation accrue des sols, la disparition de forêts et de terres arables, d’extraire et raffiner de grandes quantités de matériaux rares pour fabriquer leurs composants, et surtout de disposer de ressources en énergie gigantesque et d’énormes besoins de climatisation, qui font notamment peser une menace sur les ressources en eau. Cette course à laquelle nous assistons visant à mettre au point des IA de plus en plus performantes est un symptôme de plus du fantasme mortifère d’une croissance sans fin dans un monde dont les ressources seraient illimitées. Tout cela contribue à aggraver la crise climatique que nous vivons, et précipiter une catastrophe qui pourrait survenir dans les prochaines décennies.

On peut certes mettre en avant les bénéfices que l’IA peut apporter à l’humanité, et ils sont réels. Toute innovation technologique a sa face claire et sa face sombre depuis la hache de pierre à l’aube de l’humanité jusqu’à l’énergie nucléaire (qu’on se réfère à l’introduction du film 2001 Odyssée de l’espace : l’outil inventé par un hominidé particulièrement intelligent va lui servir à la fois pour chasser sa nourriture et pour assommer ses semblables). Il en va de même pour l’IA. On peut répéter que « science sans conscience n’est que ruine de l’âme », mais sommes-nous vraiment devenus meilleurs ? Il est permis d’en douter.


[1] Le couple infernal : le Dr Frankenstein et un sponsor.

[2] Chat bot : robot conversationnel.