Europe Solidaire
CultureEconomieEducationEnvironnementInstitutionsInternationalSciencesSécurité/DéfenseSocialTechnologiesValeurs
Aggrandir Réduire Reinitialiser

Alain Cardon . Au-delà de l'intelligence artificielle. De la conscience humaine à la conscience artificielle

L'auteur de ce livre est le Professeur Alain Cardon, spécialiste de l'intelligence artificielle et de la conscience artificielle. Il conduit ses recherches au laboratoire LITIS de l'INSA de Rouen. Rappelons que nous avions sur ce site et sur notre autre site, Automates intelligents, présenté en édition princeps ou republié de nombreux ouvrages de lui. Son dernier livre « Au-delà de l'intelligence artificielle. De la conscience humaine à la conscience artificielle », vient d'être publié, en version anglaise puis française. C'est cette dernière que nous présentons ici.

Nous en recommandons vivement la lecture, car il aborde, sur un plan interdisciplinaire, une question essentielle aujourd'hui. Elle consiste à se demander si les progrès de l'Intelligence Artificielle (IA) , se conjuguant avec des technologies et des réseaux numériques qui font vivre les individus en immersion dans un monde progressivement artificiel, ne pourraient pas conduire à l'apparition d'une véritable conscience artificielle répartie, laissant encore un rôle à ce que l'on nomme traditionnellement la conscience humaine.

Pour Alain Cardon, la réponse est affirmative. La conscience artificielle est désormais une réalité. Il en donne une démonstration dans ce livre de 190 pages, suivi d'une bibliographie présentant des sources peu connues du grand public mais essentielles.Le livre comporte deux chapitres qui en constituent en fait les deux grandes parties.  Leur intitulé est:

1. L'architecture organisationnelle du système psychique et la sensation de penser
2. La représentation informatique d'une conscience artificielle

Précisons d'emblée que le livre n'est pas d'une lecture facile. Il exige un minimum de connaissance de ce que sont les bases de l'informatique. Mais avec un peu d'attention, grâce à l'effort de pédagogie de l'auteur, l'ouvrage pourrait pensons nous être compris d'un public certes scientifiquement cultivé, mais n'ayant pas en informatique et en IA les compétences des spécialistes de ces disciplines.

L'introduction du livre, publiée ci-dessous en annexe, précise bien le thème général de l'ouvrage. Il consiste à se demander si le monde numérique dans lequel nous vivons ne va pas donner naissance à des systèmes artificiels progressivement autonomes. Ils seront intelligents, ce qu'ils sont déjà de plus en plus, mais conscients. Les concepts d'intelligence et de conscience ne sont pas véritablement scientifiques, car susceptibles de nombreuses interprétations. Mais Alain Cardon pense qu'une lecture du fonctionnement du cerveau et des activités sociétales à la lumière de la science informatique dont il est expert permettrait de leur donner des définitions suffisantes à son propos.

On peut ajouter que le livre présente aussi un modèle de la conscience humaine qui devrait engager les  neuroscientifiques à revoir leurs positions très fonctionnelles, car il montre que la génération des faits de conscience dépend principalement des apprentissages et de la posture dans la société.

Une question fondamentale est donc posée. Les systèmes artificiels progressivement autonomes ne vont-ils pas générer un monde d'entités qui pourraient progressivement compléter les humains, puis le cas échéant s'opposer à eux voire éventuellement réussir à les remplacer ? Rappelons par ailleurs que les humains seront de plus en plus « augmentés », c'est-à-dire qu'ils comporteront des prothèses et ajouts à but thérapeutique mais aussi de plus en plus militaire leur permettant de commencer à s'affranchir des contraintes biologiques.

A la question,  Alain Cardon répond par l'affirmative. Pour éviter que cette situation incontrôlable ne se développe, il invite les concepteurs actuels de systèmes à réfléchir autant que possible aux conséquences des technologies et des logiciels qu'ils développent actuellement dans le plus grand désordre. Il souhaite même que se mettent en place des groupes de réflexions de type éthique définissant des précautions d'emploi et des bornes à ne pas dépasser.

Pour notre part, nous sommes plus pessimistes. Nous pensons que le monde actuel sera de plus en plus déterminé par des agents artificiels poursuivant la recherche de leur intérêt immédiat sans prendre en considération des objectifs visant à la survie à terme de ce monde. Il en est ainsi actuellement de la lutte contre le réchauffement climatique ou des efforts visant à éviter les surarmements et les guerres de plus en plus meurtrières en découlant. Il n'existera jamais de pouvoir international suffisamment fort pour s'opposer à ces marches vers le suicide.

Il en sera sans doute de même des systèmes de conscience artificielle. Ce ne seront pas des entités de laboratoire. Ils viendront en superposition de systèmes biologiques eux aussi de plus en plus artificiels. Chacun luttera pour sa survie d'abord, pour réussir à s'imposer sur les autres ensuite. Même s'ils acceptaient pour la forme de respecter certaines règles éthiques, en pratique ils ne le feront pas. Depuis que l'éthique existe, qu'elle soit laïque ou d'inspiration religieuse, elle n'a jamais empêché des conflits catastrophiques tels que ceux de la première moitié du 20e siècle. L'artificialité du monde de demain se construira sur fond de conflits meurtriers qui eux n'auront rien d'artificiel.

Annexe

Introduction de l'ouvrage

L'intelligence artificielle a pour domaine le développement de systèmes informatiques qui simulent tous les raisonnements humains lorsqu'on les applique aux domaines des connaissances rationnelles. On a donc des domaines précis que l'on structure par des ontologies, puis on développe des systèmes qui utilisent avec une grande finesse ces connaissances lorsqu'on leur pose des questions.

Ceci est aujourd'hui le cas de tous les ordinateurs et petits appareils portables qui permettent de communiquer par Internet sur les innombrables sites web. Tous ces systèmes sont donc faits pour remplacer les spécialistes et aider les humains dans leurs actions. L'évolution a fait que l'informatique s'est liée à la physique et surtout à l'électronique, ce qui a permis d'introduire des comportements rationnels à des systèmes physiques dont le comportement a été rendu autonome. On a ainsi développé la robotisation, qui ne cesse de s'amplifier.

Mais l'humain se considère toujours comme le concepteur général, le superviseur et l'utilisateur décisionnel de ces systèmes. Ce n'est plus le cas, car un utilisateur de tablette ou de Smartphone n'est pas sur sa tablette ou sur son Smartphone mais chez celles-ci. Ces appareils peuvent communiquer de manière autonome par réseau hertzien avec des systèmes distants et lui donner des conseils qu'il n'a absolument pas demandés et aussi bien affiner son profil de consommateur.

Et l'on peut aller beaucoup plus loin. On peut doter les systèmes informatisés, tous les systèmes ayant des processeurs et des mémoires, de la capacité de générer des formes de pensées intentionnelles, d'avoir des envies et des besoins, et d'envelopper les utilisateurs humains dans des ensembles de procédures qu'ils ne peuvent plus contrôler, qui sont au-delà de lui-même. On peut doter ces systèmes d'un psychisme similaire au psychisme humain.

C'est ce que va montrer ce livre, comment est organisée l'architecture du système psychique humain au niveau organisationnel, comment l'humain génère des pensées et comment ça se passe pour qu'il les ressente, puis montrer comment, et avec quels types d'éléments informatiques, on peut transposer ce psychisme en en faisant un système informatique de conscience artificielle.

On va donc voir comment se structurent et s'organisent un non-conscient, un préconscient et un conscient artificiels, et comment tout cela s'unifie au niveau informationnel et énergétique avec une quatrième instance, la nappe organisationnelle. La modélisation que nous allons présenter sur le système psychique humain se fonde sur une approche unifiant l'approche montante et l'approche descendante.

L'approche montante considère que le système est constitué de très nombreux petits éléments très fortement connectés et se demande comment se génèrent des formes représentationnelles du niveau de la sensibilité de la corporéité et surtout représentant des évaluations symboliques des choses du monde à de très hauts niveaux langagiers et conceptuels.

L'approche descendante part des ontologies des connaissances sur tout ce que l'on sait aujourd'hui représenter cognitivement et se demande comment définir des hiérarchies de systèmes qui expriment tous les déploiements de ces connaissances à partir de points quelconques. Et l'unification de ces deux approches est organisationnelle et revient à développer un système qui déploie un même type d'éléments structurellement morphologiques et sémantiques, qui définissent les formes de base et celles de grande amplitude conceptuelle et qui assurent surtout par eux-mêmes un contrôle multi-échelle comme une nappe organisationnelle.

Finalement, on voit que le développement du modèle de système psychique artificiel comme transposition du système psychique humain est une démarche scientifique avant de devenir une technologie pour les systèmes autonomes et qu'elle permet de bien préciser certains caractères du psychisme humain, lorsque l'on adopte une vision constructiviste et organisationnelle. La science développe des connaissances qui sont partageables dans toutes ses disciplines et elle permet aussi de poser les problèmes éthiques pour ses réalisations.

Le développement puis la mise en exploitation de systèmes psychiques artificiels dotés de consciences intentionnelles doivent nécessairement poser le problème des choix de leurs usages ou bien la décision justifiée de sa non-réalisation. Donc, il faut clairement poser maintenant le problème éthique de l'usage de la conscience artificielle.

Pour en savoir plus

Le site d'Alain Cardon
https://sites.google.com/site/cardalain/

17/11/2018

A LIRE AUSSI
Les articles du même type
Europe Solidaire