Pourquoi des limites ?

Plan

Causes économiques

La principale limite économique de l’intelligence artificielle est le problème de la recherche. La recherche coute souvent très cher, et sera toujours accompagnée de l’incertitude du résultat. Ceci est d’autant plus vrai pour les domaines de recherche de l’intelligence artificielle puisque c’est un domaine très vaste, encore très peu connu de l’homme, et qui pose un grand nombre de questions. De nombreux grands scientifiques sont persuadés que l’homme n’arrivera jamais à créer une machine réellement intelligente. On peut donc comprendre la réticence qu’auraient certains investisseurs à se lancer dans un projet de recherche concernant l’IA.

Le problème de la recherche est donc que des équipes peuvent travailler pendant des années sur un projet qui n’aboutira finalement jamais. Il faut donc trouver des grands mécènes ou gouvernements qui sont capables de débourser des centaines de millions de dollars pour quelque chose qui ne leur rapportera peut-être aucun retour sur leur investissement.

Le problème se situe également au niveau de l’intérêt de l’investisseur. Des domaines très captivants comme la math pure ou la poésie reçoivent très peu de crédit puisqu’elles n’ont finalement pas une grande utilité. Cette obligation d’intérêt pour l’investisseur se retrouve de manière positive et négative dans le domaine de l’intelligence artificielle, suivant les différentes applications concrètes qu’elle peut avoir. Personne n’aura jamais de problème pour fournir des crédits à des organismes de recherche travaillant sur la robotique, avec des applications de défense, puisqu’une recherche fructueuse permettant par exemple de construire des systèmes d’armes intelligents engendrerait un retour sur investissement très important.

Causes techniques

Selon ceux qui adoptent le point de vue de « l’intelligence artificielle faible », on ne pourra jamais reproduire la conscience humaine : l'intelligence artificielle n’en sera jamais qu'une pâle imitation imparfaite.

Comparons l'histoire de l'intelligence artificielle à celle de l'aviation. Au départ, l'homme a voulu voler comme les oiseaux. Il a d'abord tenté de les imiter en fabricant des ailes et en les remuant. Cela n'a pas marché. Finalement, l'homme a réussi à voler, comme les oiseaux, mais sans utiliser les mêmes méthodes pour le faire.


Une aile d'avion, une aile d'oiseau. Toutes deux permettent de voler, mais elles n'utilisent pas les mêmes procédés.

De la même manière, au lieu de tenter de reproduire une conscience humaine, on peut chercher à donner des comportements intelligents à des systèmes de calcul. Selon le point de vue faible, c'est même la seule façon de rendre intelligente une machine. Les ordinateurs ont certes, une phénoménale capacité de calcul avec laquelle ils peuvent simuler l'intelligence. Cependant, l'homme sera toujours meilleur sur certaines activités. Il possède l'intuition, ce qui lui évite, dans certaines situations, d'envisager toutes les possibilités avant de sélectionner la meilleure. C'est le cas par exemple pour le déplacement : un robot du type Aibo de Sony doit tester au hasard énormément de trajets pour atteindre un objet en évitant les obstacles, alors que cette opération est immédiate pour l'homme. Cela dit, le point de vue faible ne met pas en doute l'utilité de systèmes intelligents : les machines intelligentes nous dépassent sur bien des points. Les programmes les plus utiles sont appréciés parce qu'ils n'ont rien d'humain.

Chaque système de nos jours exécutant des tâches quelconques préfigurent l’Intelligence Artificielle malgré les limites évidentes. De même, il reste encore beaucoup de limites à la mise en place de tels systèmes. Nous avons étudié les limites importantes rencontrées pour un ordinateur.

1- La puissance de calcul, nous travaillons actuellement avec des ordinateurs que nous traînons derrière nous et sommes en position d'attente devant eux au moins 20% du temps ; certes, les processeurs évoluent et donc les programmes avec mais, à moins d'utiliser de vieux logiciels. Cette technologie ne peut que s'améliorer du fait de la loi de Gordon Moore (le nombre de transistors dans un microprocesseur double tous les 18 mois) mais quelques interrogations subsistent : les coûts de fabrication des usines de CPU doublent aussi à chaque nouvelle génération (ce qui pose un problème pour une concurrence pure et parfaite) mais surtout on ne pourra pas suivre cette loi indéfiniment du fait des contraintes de la physique. Pour le processeur 386 à 16Mhz apparu en 1986, les ingénieurs utilisaient une finesse de gravure de 1.5 Micron (micromètre soit 0.0015 millimètre). Pour information, un cheveu fait environ 1 Micron d'épaisseur. Aujourd'hui, on vient de passer sous la barre des 0.1 Micron. A terme (d'ici 2015), les transistors seront tellement petits que se manifestera « l'effet tunnel », c'est-à-dire que l'information sautera de transistors en transistors et se perdra finalement, du fait de la petitesse et du rapprochement de ces derniers (ne parlons même pas de la chaleur dégagée). Bref, les technologies actuelles pour la fabrication de microprocesseurs sont là aussi limitées à court terme mais il ne faut pas s’inquiéter, des solutions sont déjà en place (dont le dual-core ).

2- La capacité de nos disques durs : une base de données d'une Intelligence Artificielle fera quelques bons To (Teraoctet ) voire plus. Il faut donc des très bons disques durs avec des temps d'accès rapides, l'accès et l'affichage de l'information devant être immédiat ou quasi-immédiat. Des nouvelles normes arrivent progressivement et devraient donc permettre de tels développements. Les baisses de prix étant rapides, le stockage de l'information est une donnée essentielle pour le futur, qu'elle ait ou non un rapport avec l'Intelligence Artificielle.

3- Enfin, la troisième limite de nos ordinateurs aujourd'hui pour préfigurer les systèmes d'Intelligence Artificielle de demain est le système d'exploitation. Noyau central de l'ordinateur, il devra être stable, rapide, et simple d'utilisation. Si l'Intelligence Artificielle bouleverse nos vies demain, il faut que cette dernière ne dépende pas d'un constructeur. Il faut des noyaux spécialement réécrit pour de l'Intelligence Artificielle avec par exemple une optimisation de recherche dans une base de données. Il faut d'ailleurs noter que le successeur de Windows XP (Vista) intègre intégrer un peu d'Intelligence Artificielle de manière plus visible que pour Windows 2000 (menus qui s'affichent en fonction des utilisations).

Ainsi les technologies actuelles n'ont pas été pensées pour faire de la déduction, de la synthèse ou de la logique mais pour appliquer des formules mathématiques et des automatismes qui ne nécessitent aucune réflexion. Elles sont cependant sur la bonne voie car le système binaire, derrière son étonnante simplicité, cache une déconcertante complexité et un formidable potentiel.

Explications philosophiques

Les présupposés de l’Intelligence Artificielle

L’élaboration d’un concept même d’intelligence artificielle présuppose certaines propositions comme avérées, alors que si on les examine, elles ne semblent guère évidentes, voire difficilement envisageables pour certaines.

La définition d’une intelligence
Un concept définissable hors de l’homme

Définir une intelligence artificielle de manière précise présuppose évidemment que l’Intelligence soit définissable en elle-même ! Si cette supposition semble admise, elle n’est cependant fondée sur rien : en effet, qu’est ce qui nous assure que l’intelligence est définissable en elle-même ? L’Intelligence ne serait-elle pas un concept essentiellement lié, de manière indissociable, à l’homme ? En effet on peut penser que l’intelligence a été définie par l’homme, pour l’homme. Qu’on appelle intelligence, raison, ou d’un autre nom, elle est ce qui définit l’homme en tant que caractéristique exclusive de l’homme. L’homme est le seul être de ce monde doué d’intelligence. Une alternative s’offre à nous : ou d’intelligence est définissable en elle-même, et si l’homme est le seul être la possédant dans la nature, elle est potentiellement applicable à d’autres êtres ; ou de l’intelligence est indissociable de l’homme. Dans le deuxième cas, le concept même d’intelligence artificielle n’aurait alors plus aucun sens. Dans le premier cas, il serait envisageable que l’homme puisse créer une entité pourvue d’intelligence. Cette condition est donc présupposée vérifiée dans un concept d’intelligence artificielle ; elle est nécessaire, mais pas suffisante bien évidemment.

Les principales composantes de l’intelligence

On peut s’intéresser de manière plus précise aux différents aspects de la pensée, et étudier si une Intelligente Artificielle est, potentiellement ou effectivement, capable de les posséder.

On peut distinguer quatre aspects de la pensée :

  • Un aspect purement calculatoire, qui correspond à un caractère actif : la pensée s’attache à un problème concret, déconnecté du monde extérieur, et tente de le résoudre. C’est ce que l’artificielle fait le mieux : la machine dépasse l’homme dans les capacités de calcul, grâce à différents algorithmes perfectionnés, plus ou moins complexes. Ces capacités peuvent être utilisés dans des problèmes purement « mathématiques » (calculatrices...), ou dans des problèmes plus complexes utilisant les mathématiques en tant que matière appliquée (architecture, ingénierie… )

  • Un aspect réflexif et calculatoire (action et passion) , qu’on peut distinguer de l’aspect calculatoire « au premier degré » qui est lui aussi, il est vrai réflexif, utilisant des démonstrations logiques, avec des étapes qui transforment des sujets en objets. Cependant, si la machine vérifie facilement l’aspect calculatoire « au premier degré », elle vérifie plus difficilement l’aspect de la pensée consistant à élaborer une réflexion progressive – dans un domaine disons plus abstrait que le domaine calculatoire dans lequel elle excelle – en « passant de la négation à l’affirmation », comme dirait Platon ; c’est à dire un être artificiel capable d’apprentissage par lui-même, sachant utiliser ses erreurs en les corrigeant pour progresser et se montrant capable de construire un raisonnement dépassant le cadre strict d’un enchaînement logique mathématique. Cet aspect qui est absent de notre expérience quotidienne des machines (ordinateurs ou autres) existe cependant. Certaines machines sont capables d’apprentissage, par exemple celles disputant des milliers de parties d’échec et corrigeant à chaque fois leurs erreurs, ou ces systèmes multi agents communiquant entre eux pour progresser. Cependant, cet apprentissage peut relever du premier aspect (en particulier dans le cas des parties d’échec), mais les différentes approches d’une intelligence artificielle envisagée précédemment semblent indiquer que cet aspect pourra, s’il ne l’est pas encore, être vérifié par une entité artificielle.

  • Un aspect uniquement passion, qui correspond à la pensée pensive de l’homme (déconnectée d’un langage). C’est de cet aspect que naît souvent l’intuition, facteur e l’inventivité de l’homme et aspect essentiel de son intelligence. Cet aspect semble cependant difficilement accessible à la machine. Si la machine peut en effet être en état passif, rarement va-t-elle sursauter dans son bain s ‘écriant « eurêka ! », comme Archimède découvrant la célèbre loi qui porte son nom. Ceci pour dire qu’elle ne semble, ni pour le moment, ni dans un futur proche, capable de cet aspect intuitif de la pensée.

  • Le dernier aspect que l’on peut distinguer est le discernement du sens. Une machine exécute des tâches qui lui sont assignées, ou en tout cas des tâches qui lui sont assignée. Même si cela peut être discuté, on peut considérer que l’homme possède une liberté de choix, un libre-arbitre qui lui permet de choisir la finalité pour laquelle il agit – au moins à court terme -, et que la machine ne possède pas ce libre-arbitre. Plus encore, cette dernière ne discerne pas, au moins dans notre expérience quotidienne de la machine, le sens de la finalité pour laquelle elle agit. Or on peut penser que ce discernement du sens, de ce pourquoi on agit, fait partie de l’intelligence.

Il semblerait donc que l’Intelligence Artificielle ne vérifie pas, ni aujourd’hui, ni sans une perspective proche, deux aspects important de la pensée.

L’homme peut-il définir lui même l’intelligence ?

On a donc posé en condition essentielle du concept de l’Intelligence Artificielle le fait que l’intelligence soit définissable en elle-même. Mais cette condition en implique directement une autre : si on considère que l’Intelligence Artificielle est accessible à l’homme (à qui d’autre le serait-elle ?), il faut que la définition de l’Intelligence lui soit accessible. Or on demande par là à l’homme de définir quelque chose qui lui est propre, qu’il ne peut trouver autre part qu’en lui. Ne faut-il pas pour définir l’intelligence de se définir, mais en se définissant, elle va mettre en œuvre un processus qui, si elle ne le prend pas en compte dans sa définition, puisqu’il est le définissant, fait pourtant bien partie d’elle même. L’intelligence est dans l’impossibilité de se définir elle-même entièrement. Il semblerait donc que la définition de l’intelligence soit inaccessible à l’homme, le paradoxe étant que l’homme a besoin de cette définition pour créer une Intelligence Artificielle, mais a besoin d’une Intelligence, nécessairement artificielle puisqu’elle n’existe pas hors de l’homme dans la nature, pour définir l’intelligence, que ce soit l’Intelligence Artificielle qui la définisse en observant l’homme, ou l’homme en observant l’intelligence qu’il a créé.

Une séparation du substrat physique ?

On a vu dans la définition « traditionnelle » de l’intelligence artificielle que celle-ci est forcément déconnectée d’un substrat physique. C’est à dire que même si elle prend forcément une forme matérielle, cette forme ne joue aucun rôle dans sa conception, ou encore qu’elle est envisageable hors de tout substrat physique de manière théorique.

L’Intelligence Artificielle et le sens, le langage, et la raison

Cette définition implique directement une conséquence, et pose une question. La conséquence est la suivante : la machine n’est pas doué de sens (de perception sensitive du monde). Ceci peut soulever immédiatement certaines contradictions avec la notion même d’intelligence. Il apparaît de manière immédiate qu’une Intelligence Artificielle doit, d’une quelconque manière être liée au monde extérieur. On ne pourrait ni contrôler, ni trouver aucune finalité à une intelligence (dont on ne pourrait d’ailleurs même pas vérifier qu’elle est intelligente) artificielle fonctionnant uniquement en circuit fermé (elle ne pourrait pas traiter aucune information … ). L’Intelligence Artificielle est donc liée au monde par un canal d ‘entrée, et un canal de sortie (c’est l’un des quelques principes des très générales machines de Turing). Si elle ne possède pas les cinq sens que nous connaissons, elle est quand même capable de communiquer, sinon de percevoir, le monde. Ainsi elle s’inscrit forcément dans substrat physique, ce qui peut apparaître comme un paradoxe avec l’une des conditions de définition de l’Intelligence Artificielle : hors de tout substrat physique. Il faut comprendre cette condition comme : définissable dans n’importe quel substrat physique. Une fois posé ceci, une question nous vient naturellement à l’esprit : une Intelligence est elle concevable sans les cinq sens. En effet l’intelligence passe par une appréhension du monde extérieur, et donc une perception de celui-ci. Si un de ses cinq sens est défaillant, la perception est faussée, et le travail de l’intelligence est rendu plus difficile, et la quête de vérité, fin ultime d’une intelligence, risque d’avoir abouti plus souvent à l’erreur. Dans ces conditions, une Intelligence Artificielle, privée des cinq sens, semble irréalisable, ou en tout cas très difficilement fonctionnelle. La dernière condition à l’accomplissement d’une intelligence est le langage. La perception ne peut s’accomplir que dans le langage( l’intelligence fait correspondre une perception à un concept, c’est à dire un mot, un langage). Cette condition au moins, l’Intelligence Artificielle semble la remplir : son absence de substrat physique défini n’implique pas une absence de langage, et le langage est d’ailleurs une autre des conditions de définition d’une machine de Turing. La question que se pose la condition qu’est l’absence de substrat physique prédéfini est : une Intelligence Artificielle a-t-elle des sentiments ? D’autre part : les sentiments sont-ils nécessaires à une intelligence ? On aurait tendance à dire que les sentiments sont plutôt un obstacle à l’intelligence : ils obscurcissent son jugement. D’un autre côté les sentiments permettent peut-être une intelligence plus proche du réel, plus ancrée dans la réalité, plu « intelligente ». Là encore il est difficile à l’homme de juger objectivement ce dont il est l’acteur. Il n’empêche que l’homme, seul être doué de la raison, est également le seul être doué de sentiments. Peut-être les deux sont-ils indissociables. Il semble difficile aujourd’hui d’imaginer l’homme capable de doter, volontairement et spécifiquement, une entité artificielle de sentiments. Aucune approche n’a été envisagée pour le moment dans ce sens. Si les sentiments ne sont ni nécessaires, ni utiles à l’intelligence, ceci n’a aucune conséquence. Par contre si les sentiments sont nécessaires, alors il faudrait que l’Intelligence Artificielle la développe par elle-même, ou alors le projet d’Intelligence Artificielle serait inaccessible à l’homme. L’intelligence pourrait également développer d’elle-même des sentiments, et si une intelligence implique les sentiments, on reconnaîtrait une véritable Intelligence Artificielle entre autres grâce à sa capacité à développer des sentiments. Sinon, le développement de sentiment aurait moins d’importance. Ce point reste encore une inconnue : les sentiments sont-ils dissociables ou non de l’intelligence ?

L’objectivité

On a donc vu qu’une Intelligence Artificielle est douée de la capacité de raisonnement de l’Homme, mais dénuée de sentiments, a priori tout du moins – ces sentiments qui peuvent influer sur la faculté de raisonnement de l’Homme et pervertir son raisonnement, sa logique. Ainsi le jugement de l’Intelligence Artificielle, non obscurcie par les sentiments est un jugement essentiellement objectif. On peut considérer ceci en première approche, comme une qualité : une Intelligence Artificielle, totalement objective, pourrait être un juge impartial, dont l’association à une faculté de raisonnement égale à celle de l’Homme assurerait un jugement tel que l’Homme ne pourrait en élaborer de meilleur. Cependant on peut y vois deux objections : un jugement obéit certes à des lois, mais également à une logique morale, largement liée aux sentiments. Dans quelle mesure une Intelligence Artificielle, dénuée de sentiments, pourra-t-elle être douée de morale ? Et dans quelle mesure, dénuée de morale, pourra-t-elle élaborer un jugement ? Deuxième objection : si l’Intelligence humaine connaît la subjectivité, peut-on dire qu’une Intelligence Artificielle, objective, est une véritable Intelligence ? On retombe dans le même débat que celui concernant la possession de sentiments, auquel on ne peut pour le moment répondre. Il faudrait paradoxalement réussir à construire une Intelligence Artificielle pour arriver à y répondre…

Le projet d’Intelligence Artificielle remplit-il les conditions pour atteindre le statut d’intelligence?

Si l’Intelligence Artificielle, telle qu’elle existe aujourd’hui, ne semble pas, ou difficilement, remplir certaines conditions nécessaires pourtant à une Intelligence ; il en est des stratégiques, et non immédiates, qu'elle remplit. Pourquoi les examiner, si de toute façon l’Intelligence Artificielle semble ne pas remplir les conditions nécessaires ? Parce que réussir à doter une entité artificielle de ces quelques points est déjà une grande avancée sur le plan de la recherche d’une Intelligence Artificielle. De plus les obstacles envisagés précédemment pourront peut-être un jour être résolus, par une amélioration de l’Intelligence Artificielle.

La machine capable d’apprentissage

L’Intelligence Artificielle, on l’a vu, dépasse celle de l’Homme, dans son aspect purement calculatoire. Ce domaine, qui est important dans les conditions d’une Intelligence Artificielle, c’est l’apprentissage. En effet, la machine est aujourd’hui douée d’apprentissage. Cet apprentissage se manifeste de plusieurs façons. Tout d’abord un apprentissage des machines entre elles, car en analysant leurs erreurs elles progressent. Ou alors, il fait référence aux systèmes multi-agents, dans lequel chaque agent apprend des autres, et le système considéré voit croître ses capacités au fur et à mesure de l’interaction des agents. Il peut également se manifester sous la forme d’auto-apprentisage, par lequel un ordinateur modifie le code même qui régit son fonctionnement.

Partie suivante : Conclusion