Logiciels & applications

Intelligence artificielle : vers une domination programmée ou une dépendance organisée ?

26 octobre 2026 Benjamin Nicolas 9 min de lecture

La domination des machines n’est pas une conséquence démontrée des progrès de l’intelligence artificielle. C’est précisément cette confusion entre performances techniques, conscience et pouvoir qu’interroge Intelligence artificielle : vers une domination programmée ?, de Jean-Gabriel Ganascia. L’ouvrage propose de prendre les capacités des ordinateurs au sérieux sans transformer chaque avancée en annonce d’un asservissement futur. Pour comprendre son intérêt, il faut distinguer ce que les systèmes savent faire, ce qu’on leur prête et les décisions que nous leur déléguons.

Table des matières

Le livre de Jean-Gabriel Ganascia : examiner les idées reçues plutôt que prédire l’avenir

Publié chez Le Cavalier Bleu, cet ouvrage de vulgarisation aborde l’intelligence artificielle à travers des affirmations courantes, parfois rassurantes, parfois alarmistes. Les ordinateurs ne se tromperaient jamais ; les robots supprimeraient tous les emplois ; les machines finiraient nécessairement par nous dominer. L’intérêt de cette démarche est de soumettre ces formules à l’examen plutôt que de les accepter comme des évidences.

Quiz : comprendre l’intelligence artificielle

Répondez aux six questions, puis validez vos réponses pour découvrir votre score.

0 réponse sur 6

Score : —

1. Quelle distinction décrit le mieux une IA spécialisée par rapport à une IA générale ? Elle possède nécessairement une conscience. Elle est conçue pour une tâche ou un domaine précis. Elle ne peut jamais produire d’erreur. Elle fonctionne sans aucune donnée.

2. Quel est le rôle du Deep Learning dans l’intelligence artificielle ? Remplacer la nécessité de définir le problème à résoudre. Donner automatiquement une conscience au système. Permettre à un système d’apprendre à partir de données pour réaliser certaines tâches. Garantir que toutes les réponses produites sont vraies.

3. Quelle est une limite du test de Turing ? Il ne permet pas, à lui seul, de conclure à une conscience du système. Il mesure directement les émotions du système. Il prouve qu’un système comprend toujours ce qu’il dit. Il ne concerne jamais les échanges avec un système.

4. Quelle proposition rend compte d’une cause possible d’erreur d’un système d’IA ? Une IA ne peut pas se tromper si elle est rapide. Une IA ne peut pas se tromper lorsqu’elle utilise des données. Une erreur est toujours une preuve de conscience. Les données ou le fonctionnement du système peuvent contribuer à l’erreur.

5. Quelle différence faut-il faire entre autonomie et conscience ? L’autonomie et la conscience sont exactement la même chose. Un système peut être autonome sans être conscient. Un système conscient est nécessairement une IA générale. La conscience signifie seulement traiter davantage de données.

6. Quelle situation illustre une forme concrète de dépendance à un système d’IA ? Utiliser un système d’IA sans jamais lui confier de tâche. Refuser systématiquement toute aide fournie par un système. Déléguer des tâches ou des décisions au système et s’en remettre à ses résultats. Considérer qu’un système est conscient parce qu’il fonctionne seul.

Une seule réponse est correcte par question.

Jean-Gabriel Ganascia est un chercheur en intelligence artificielle dont le parcours comprend un professorat à l’université Pierre et Marie Curie et la direction de l’équipe ACASA au Laboratoire d’informatique de Paris-VI. Ses travaux portent notamment sur les agents cognitifs, l’apprentissage symbolique automatique et la modélisation cognitive. Cette expertise lui permet d’articuler explications informatiques et interrogations philosophiques.

Le parcours du livre relie quatre grands ensembles : la définition de l’IA, son fonctionnement, les relations entre humains et machines, puis son avenir. La conscience, le travail, le Big Data ou les armes autonomes ne sont donc pas traités comme des sujets isolés : ils prolongent une réflexion sur les possibilités et les limites des systèmes.

Pour retrouver l’ouvrage en librairie ou en bibliothèque, le plus sûr est d’associer son titre exact au nom de l’auteur et à celui de l’éditeur. Avant un achat, consulter le sommaire de l’édition envisagée permet aussi de vérifier qu’elle correspond à ses attentes : il s’agit d’une lecture critique accessible, non d’un manuel de programmation.

Des performances impressionnantes, mais des mécanismes à comprendre

L’intelligence artificielle désigne un ensemble de méthodes informatiques destinées à accomplir des tâches associées à des capacités intellectuelles : reconnaître une parole, analyser un texte, résoudre un problème ou établir une prédiction. Elle est déjà présente dans de nombreuses activités quotidiennes, sans nécessairement prendre la forme d’un robot.

Infographie sur l’intelligence artificielle vers une domination programmée et la différence entre compétence, autonomie et conscience

Des règles explicites à l’apprentissage à partir d’exemples

Toute l’IA ne repose pas sur une même technique. L’approche symbolique manipule des représentations et des règles explicites. L’apprentissage automatique construit plutôt un modèle à partir d’exemples. Pour reconnaître des messages indésirables, par exemple, un système peut apprendre des régularités dans des courriels déjà classés, puis les utiliser pour évaluer de nouveaux messages.

Le Deep Learning, ou apprentissage profond, appartient à cette seconde famille. Il s’appuie sur des réseaux de neurones artificiels comportant plusieurs couches de calcul. Leur nom ne signifie pas qu’ils reproduisent fidèlement le cerveau humain. Quant au Big Data, il renvoie aux grandes masses de données dont l’exploitation peut alimenter ces apprentissages : accumuler des données ne garantit toutefois ni leur qualité ni la pertinence des résultats.

Une réussite spécialisée ne vaut pas compréhension générale

La victoire d’une machine contre un champion du monde de go illustre la puissance de ces méthodes dans un cadre défini. Elle ne démontre pas que cette machine possède une compréhension générale du monde. De même, reconnaître les mots d’une phrase ou produire un texte cohérent ne suffit pas à établir une compréhension comparable à celle d’une personne.

Les ordinateurs peuvent aussi se tromper. Un programme peut appliquer correctement ses instructions tout en produisant un résultat inadéquat, parce que ses données sont biaisées, que son objectif est mal défini ou que la situation rencontrée diffère des exemples d’apprentissage. La précision du calcul ne garantit pas la justesse du jugement.

Intelligence, autonomie et conscience : trois notions à ne pas confondre

Une grande partie des inquiétudes naît d’un glissement : puisqu’une machine accomplit une tâche difficile, on lui attribue une intelligence humaine, puis des intentions. Or compétence, autonomie et conscience ne sont pas équivalentes. Un système peut agir sans intervention immédiate dans un périmètre autorisé sans éprouver quoi que ce soit.

Notion	Ce qu’elle désigne	Ce qu’elle ne prouve pas
IA faible ou spécialisée	Des capacités dans un domaine ou un ensemble de tâches délimitées.	Une intelligence humaine complète.
IA générale	Une capacité envisagée à transférer largement ses compétences entre domaines.	L’existence d’une expérience subjective.
IA forte	Dans son sens philosophique, l’hypothèse d’une machine dotée d’un esprit, et pas seulement capable de le simuler.	Une étape automatiquement atteinte en augmentant la puissance de calcul.
Autonomie	La possibilité d’exécuter des actions sans validation humaine à chaque étape.	Une volonté propre.

Le test de Turing porte sur la capacité d’une machine à soutenir un échange qui la rende difficile à distinguer d’un interlocuteur humain. Il n’est pas un détecteur de conscience. Une imitation convaincante du langage ne permet pas, à elle seule, de conclure à l’existence d’une vie intérieure.

La même prudence s’applique aux émotions, à l’intuition et à la créativité. Un système peut produire une œuvre originale ou simuler une réaction empathique sans que cela démontre un ressenti. L’absence de preuve d’une conscience artificielle ne tranche pas toutes les questions philosophiques ; elle interdit surtout de présenter cette conscience comme acquise.

La domination peut prendre la forme d’une dépendance très humaine

Le scénario d’une machine consciente décidant d’asservir l’humanité capte l’attention. Mais des risques plus immédiats ne supposent aucune intention artificielle : surveillance, concentration du pouvoir, décisions opaques ou perte de compétences. Un système n’a pas besoin de vouloir dominer pour contribuer à une relation de domination.

La dépendance ressemble parfois à une mosaïque : un outil trie les candidatures, un autre classe les informations, un troisième recommande les contrôles à effectuer. Chaque pièce paraît limitée ; leur assemblage peut pourtant réduire fortement la marge de décision des personnes. Pour évaluer le pouvoir de l’IA, il faut donc regarder les raccords entre systèmes : qui transmet les données, qui reprend leurs conclusions et qui peut interrompre la chaîne ?

Dans le travail, automatiser certaines tâches ne signifie pas supprimer mécaniquement tous les métiers. Les effets dépendent des activités concernées, de l’organisation et des choix d’investissement. Le risque mérite néanmoins d’être examiné concrètement : intensification du contrôle, déqualification de certaines fonctions, besoin de formation ou redistribution inégale des gains.

Les véhicules autonomes et les armes autonomes soulèvent, eux, des questions de sécurité et de responsabilité. Présenter leurs enjeux comme un simple dilemme moral masque les problèmes d’essais, de supervision et de conditions d’utilisation. Quant au danger existentiel, il relève de scénarios discutés, non d’une issue démontrée et inéluctable.

Garder la main : les critères qui comptent vraiment

La question utile n’est donc pas seulement de savoir si l’IA deviendra « plus intelligente que nous ». Elle est aussi de déterminer quelles décisions nous acceptons de lui confier, avec quelles garanties et au bénéfice de qui. Pour examiner un usage, quelques vérifications valent mieux qu’un discours globalement enthousiaste ou catastrophiste :

Définir la tâche : le système conseille-t-il, classe-t-il ou déclenche-t-il directement une action ?
Examiner les limites : dans quelles situations ses résultats deviennent-ils peu fiables ?
Identifier les responsables : qui choisit l’outil, contrôle son fonctionnement et répond des conséquences ?
Préserver un recours : une personne peut-elle comprendre, contester et faire réexaminer une décision ?
Prévoir une solution de repli : l’activité peut-elle continuer sans dépendre entièrement du système ?

C’est dans cette perspective que le livre de Ganascia trouve son intérêt : il invite à remplacer les certitudes spectaculaires par des distinctions précises. L’avenir de l’intelligence artificielle n’est pas un scénario déjà écrit. Il dépend aussi des institutions, des usages et des limites que les humains choisissent de construire.