LE GÉNIE HUMAIN SURVIVRA À L’INTELLIGENCE ARTIFICIELLE


Le journal Marianne du 2 au 8 février a publié une interview que j’ai donnée à Hervé Nathan. Je la reproduits ici, enrichie à la marge.

Marianne : Pour l’opinion publique, l’intelligence artificielle (IA) apparaît comme une complète nouveauté. Pourtant  elle est déjà installée dans notre vie quotidienne. C’est un réveil douloureux comme si quelque chose avait pénétré par effraction dans notre vie sociale?

Axel Kahn : Oui, c’est très étonnant car en réalité cette irruption de l’IA a déjà été précédée de deux révolutions considérables, qui laissaient supposer la rupture que nous connaissons aujourd’hui. Ce sont les big datas qui, conjugués aux nouveaux moyens de connexion – internet, les réseaux, Google earth, etc. – ont provoqué l’effondrement du secteur jusque là protégé de la vie individuelle, sans que personne ne s’en soucie. Hormis des spécialistes, le grand public ne se sentait pas concerné.

A partir du moment où des bases massives de données embrassant la totalité des connaissances passées, actuelles et à venir peuvent être connectées et prospectées de n’importe quel endroit du monde, c’est aussi la fin de toutes une série d’habitudes focalisées sur le savoir-faire, la compétence, l’intelligence stratégique. Je m’explique : prenons le travail pour constituer une Encyclopédie. On demandait jadis aux plus compétents dans chaque domaine, en général de grands professeurs – comme moi par exemple (sourire) – de rédiger des « entrées ». Lorsque les connaissances minuscules qui existent au niveau de chaque personne sont devenues accessibles et ont pu être regroupées sur des  plates-formes participatives, on est parvenu à une somme de connaissances potentiellement  supérieures à celles de n’importe quel expert. Et ça c’est Wikipedia, qui apparaît dans les années 90 et qui annonce Uber, Air B&B etc… Je suis médecin. Mais je suis certain qu’aucun médecin, aussi expérimenté soit-il, ne sera dans l’avenir, et sans doute aujourd’hui déjà, aussi  performant qu’un système expert de données massives prospectées grâce à des  algorithmes idoines. Cela transforme considérablement l’exercice de ma profession. Demain, le patient répondra à un questionnaire  interactif en ligne, puis passera dans un système d’imagerie corps entiers par ultra-sons qui « palpent » aussi les organes.  Des robots feront alors des examens biologiques et la machine, après avoir confronté les résultats avec la totalité des données connues dira : «  Le diagnostic le plus probable est celui-là ; compte-tenu des connaissances, voici le meilleur traitement dans votre cas …» Avec l’apprentissage profond des nouvelles machines, elles apprendront de leurs hésitations, de leurs insuffisances et s’amélioreront sans cesse. Le rôle du médecin restera pourtant  indispensable pour parvenir à la connivence, puis à la participation nécessaires du malade, pour lui expliquer le diagnostic et le faire adhérer à son traitement. Il faudra totalement bouleverser les études médicales, puisque ce n’est pas du tout ce que l’on apprend aujourd’hui en faculté de médecine. Dans l’avenir, les connaissances et compétences liées à la psychologie et aux différents aspects de la relation devront prendre une place très importantes, à côté d’une familiarisation suffisante avec les méthodes informatiques d’intelligence artificielle utilisée. Ces dernières, en revanche, prendront de plus en plus en charge les aspects cliniques, diagnostics, pronostics et thérapeutiques.

Marianne : c’est même l’inverse, dans ces  facultés, on cherche aujourd’hui  plutôt à produire une machine ! (rires)

Certes. Mais de quoi s’aperçoit-on, depuis quelques temps déjà : que le massivement quantitatif l’emporte sur le brillamment qualitatif. Dans un autre domaine, tout cela aboutit à la disparition de la vie privée. Il y a encore peu de temps, hors recherche et enseignants, les psychologues et des sociologues que je formais à l’Université, se destinaient pour partie à faire des enquêtes d’opinion afin de connaître les goûts des consommateurs,  les mécanismes de la prise de décision d’achat. Prenons l’exemple des produits et services destinés aux femmes enceintes. Aujourd’hui où même le secret médical strict fait partie du passé, il est aisé de suivre dans un monde connecté quelques millier de femmes avec un test de grossesse positif : à quelle heure elles se lèvent-elles, que mangent-elles, quand et à qui téléphonent-elles, quand sortent- elles, quelles fleurs préfèrent-elles, quels magasins fréquentent-elles ?  C’est ce qu’on appelle une analyse prospective dont on tire des algorithmes ; ils  vont permettre de reconnaître ensuite 95% des femmes enceintes, quelquefois avant même qu’elles ne soient conscientes de leur état ! C’est un nouveau monde car la vie privée n’existe plus et ne pourra plus jamais exister. On peut s’en désoler mais il faut surtout agir en fonction de cette réalité.

Dans tout cela, l’intelligence artificielle et la robotique sont le troisième niveau et le quatrième étage – après les big data et la prospection algorithmique – de ce que j’appelle la « tétrade  magique » L’IA c’est un système numérique fondé sur les réseaux neuronaux et le fonctionnement du cerveau, et qui permet d’apprendre des données massives existantes, de l’expérience et de la résolution de problèmes antérieurs ; d’’enrichir de la sorte ses données et le niveau de ses algorithmes. C’est révolutionnaire car avant l’avènement de cette l’intelligence artificielle, on pouvait se dire que la définition des procédures et des finalités des robots serait toujours l’œuvre et l’apanage des humains. Avec l’IA, des robots utilisant les big data grâce aux algorithmes de plus en plus performants ne vont-ils pas s’améliorer tout seuls progressivement ? À la limite peut-on  imaginer que les robots se programment eux-mêmes…compte tenu de cette augmentation considérable de leurs aptitudes ? Aujourd’hui, malgré les progrès dans le domaine de l’apprentissage profond et des circuits neuronaux en couches superposées, l’agilité intellectuelle pure de ces dispositifs reste sommaire comparée à celle de l’humain. Cependant, puisant dans des données presque illimitées et fonctionnant de plus en plus rapidement, ce sont des systèmes déjà redoutablement performants. Et ils sont appelés à progresser encore, sans doute rapidement. Alors, demain ?

Marianne : Mais cette perspective, qu’on appelle la « Singularité », d’indépendance des machines pensantes est contestée. Des spécialistes affirment qu’en fait, nous sommes très loin d’atteindre ce stade, voire même qu’il pourrait ne jamais être possible de le faire.

C’est en effet une possibilité parmi d’autres, mais elle n’est plus inimaginable puisque on a des machines qui s’auto-améliorent. La question c’est : jusqu’à quel niveau ? La part de l’humain demeurera par ailleurs significative. D’abord sur cette interrogation même : est-il raisonnable de penser que la machine se fixera elle-même ses objectifs ? Imaginons que ce soit possible, que les nouveaux robots soient construits par les robots de la génération précédente. L’homme, de plus en plus intimidés par l’énorme puissance de la tétrade magique – big data + algorithmes + intelligence artificielle + robotique – ne sera-t-il pas de plus en plus incité à moins penser et à déléguer cette tâche aux machines ?

Marianne : Les machines à penser nous dissuaderaient de faire des efforts intellectuels ?

Non, pas totalement car l’humain se demandera quand même : où aurais-je encore à persister ? Mon hypothèse c’est que l’intelligence humaine, même surpassée par la bête intelligence artificielle, est elle et elle seule en résonance permanente avec le corps humain. Il n’y pas d’intelligence humaine sans connexion aux passions humaines, à la jalousie, aux désirs, aux paumes qui deviennent moites, aux émotions, aux érections… le psychisme c’est profondément cela. Or, la machine n’a pas de corps !

Marianne Vous voulez dire que certaines aptitudes telles que l’art demeureront la propriété du génie humain, qui devrait abandonner la technique.

La machine est déjà capable de produire de la musique plaisante, sans doute des romans de gare aux intrigues bien ficelées. Cependant L’art véritable, la fulgurance créative resteront sans doute humains. Demain, il est certain que nous serons de moins en moins mobilisés au niveau de la technique, sauf dans deux domaines : la fulgurance créatrice, celle qui a engendré la théorie de la Relativité d’Einstein,  la Jeune fille à la perle de Vermeer, Sous le Volcan de Malcom Lowry, l’air d’alto d’Harold en Italie. Picasso disait l’art asexué n’est pas de l’art. Et justement notre autre sujet concernera la sexualité, l’affectif, les relations humaines. Honnêtement que les femmes et les hommes se consacrent et s’épanouissent dans la création pure et le rapport à l’humain, ce n’est pas la plus mauvaise part de sa condition !

Marianne : Mais on ne peut pas imaginer une humanité constituée pour moitié de génies mathématiques et pour l’autre moitié de grands artistes…

Non. En revanche il y a un énorme besoin de métiers d’accompagnement. Si on transpose ce que je viens de dire au domaine de l’emploi, l’IA va évidemment détruire des centaines de millions d’emplois dans le monde, et dans le domaine de la technique on ne recréera pas autant de postes. Ceux qui affirment le contraire en prenant pour base les pays où il y a beaucoup de robots et peu de chômage, comme l’Allemagne ou le Japon, se trompent, car c’était avant l’intelligence artificielle… Ce qui arrive dans les banques est frappant : tout le back office a disparu, et 9 traders sur 10 ont été licenciés. A terme les trois quarts des employés vont partir. C’est pareil dans les supermarchés, chez Peugeot ou Renault, chez Amazon… Heureusement, grâce à la technique, on vit plus longtemps, et il y a un immense besoin de métiers basés sur ce que les hommes feront toujours mieux que les machines, prendre soin d’autrui, interagir affectivement, effleurer, “partager le pain” pour reprendre l’étymologie du verbe accompagner… Le gros problème à régler c’est celui du modèle économique de cette société à venir. Il faudra considérer la fiscalisation du travail totalement robotisé, de la plus-value qu’elle engendre, car si on continue à imposer pour l’essentiel le travail humain alors que la production est de plus en plus captée par du non humain, on ne pourra pas financer pas ces nouveaux métiers d’accompagnement.

Marianne : Mais n’allons nous pas tout simplement vers un abêtissement généralisé de l’humanité, puisque  certains soulignent la concomitance de la baisse tendancielle des résultats aux tests de quotient intellectuel (QI) et de la progression des nouvelles technologies qui viennent remplacer l’exercice de l’esprit ?

Alfred Binet a créé ce test pour doser l’aptitude à la scolarisation dans un système occidental. Le QI mesure en réalité non pas la potentialité créatrice, mais la rapidité d’exécution des taches, la vitesse de connexion des cellules qui permettent de résoudre des problèmes. La corrélation entre la baisse des niveaux et l’irruption des technologies numériques est une hypothèse, en effet, puisque nous entraînons de moins en moins notre cerveau. Par exemple, nous ne faisons plus de calcul mental puisque nous avons des ordinateurs à notre disposition… Je pense que cela joue un rôle dans la diminution du QI, mais le déclin  du QI n’est pas la perte du génie humain.

Marianne : Nous utilisons de plus en plus de mémoire externe à notre cerveau. Mais est-ce si nouveau. Le recours au dictionnaire permettait depuis longtemps de ne pas devoir retenir tous  les mots et leurs définitions … Quelle différence entre l’accès au  dictionnaire numérique et l’IA ?

Il y a une différence entre les outils qui remplacent les pouvoirs de la main et du corps et ceux qui remplacent les pouvoirs de l’esprit. Lorsque la machine vole alors que je ne vole pas, que le vélo roule plus vite que je ne court, je ne suis pas menacé dans mon humanité. Si la machine à penser se met à penser tellement vite que cela m’incite à penser moins, alors là, en revanche, mon humanité est menacée.

Marianne : L’intelligence humaine est aussi collective et donc politique. En démocratie: le débat éclairé entre les citoyens, de la mise en commun de leurs connaissances et opinions, doit définir l’intérêt général. Mais peut-on penser collectivement ce qui semble dépasser l’entendement du commun des mortels ?

Premièrement la volonté humaine n’empêchera pas le déploiement de ce monde que j’ai décrit.  Ce système se développera : des puissances comme les GAFAM ou d’autres ont plus d’informations que tout autres entités, y compris étatiques. On peut crier, hurler, cela n’empêchera pas cela de se produire, même s’il faut en débattre au moins pour avoir conscience de ce qui nous arrive. Mais attention : Une politique qui remplacerait la délibération par la décision des systèmes algorithmiques serait redoutable. Quel est en effet le rôle fondamental du politique ? De permettre aux gens de vivre mieux, de s’épanouir, de pouvoir créer, de libérer leurs capacités dans cet univers où l’IA va s’imposer. La possibilité du  bonheur humain est vraiment le but fondamental de la politique, il ne se limitera jamais à une solution algorithmique. Saint Just disait que le « bonheur est une idée neuve en Europe “. Peut-être n’est plus si neuve que cela mais l’objectif en reste d’actualité.

Propos recueillis par Hervé Nathan

Postscriptum : Ce lien vous conduit à des billets consacrés déjà en 2016 à ce sujet.

4 thoughts on “LE GÉNIE HUMAIN SURVIVRA À L’INTELLIGENCE ARTIFICIELLE

  1. Bonjour M. KAHN,

    Je me permets de m’adresser à vous en tant que délégué régional de la Ligue des Droits de l’Homme d’Aquitaine. Nous travaillons depuis plusieurs mois sur les questions soulevées par les avancées technologiques et scientifiques quant à leurs incidences sur l’évolution des droits et des libertés. Dans ce cadre, nous envisageons d’organiser d’ici fin juin une conférence-débat appelée à s’inscrire dans la démarche de consultation lancée sur les états généraux de la bioéthique par le Comité National Consultatif d’Ethique. Nous aurions souhaité à cette occasion vous solliciter en qualité de grand témoin. Sous réserve de votre accord de principe, nous pourrions définir une date correspondant à vos disponibilités. Je reste bien entendu à votre disposition pour plus d’informations et afin de définir, si vous en étiez d’accord, les modalités de votre intervention. En vous remerciant par avance de votre réponse. Bien respectueusement.

    • Sur le principe, oui, mais mon emploi du temps est redoutable..proposez moi trois ou quatre dates.

      • Bonjour M. KAHN,

        Merci tout d'(abord de votre réponse.
        S’agissant des dates envisageables, voici quelques propositions :
        le jeudi 29 ou le vendredi 30 mars
        le jeudi 5 avril
        le 17 ou le 18 mai

        Bien entendu, il ne s’agit là que de quelques propositions tout à fait liminaires. En espérant que l’une d’entre elles pourra s’insinuer dans votre emploi du temps. Quoi qu’il en soit, ce sera avec grand plaisir que nous nous adapterons à vos disponibilités et que nous vous accueillerons.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.