Une machine peut-elle apprendre à raisonner ?
P.92-93
Entrée en matière
Une machine peut‑elle apprendre à raisonner ?
Au quotidien, l’ordinateur est partout, que ce soit dans les
téléphones portables, les GPS, ou encore les jeux électroniques.
Cette omniprésence des cerveaux électroniques a
une trentaine d’années. Cependant, un ordinateur capable
de traiter des quantités considérables de données (big data)
reste indifférent aux valeurs humaines ou à la qualité d’un
raisonnement. Si nous nous reposons de plus en plus sur des
algorithmes, nous prenons des risques, qui ne tiennent pas qu’au remplacement potentiel de l’homme par la machine.
Comment celle‑ci pourra‑t‑elle hiérarchiser les réponses
logiques calculées ? La voiture autonome sauvera‑t‑elle le
conducteur ou le piéton ? Comment pourra‑t‑elle tenir les
deux exigences de la raison telle que l’a conceptualisée Kant,
c’est‑à‑dire être à la fois rationnelle, lorsqu’elle vise une
connaissance cohérente des objets, et raisonnable, lorsqu’elle
se tourne vers l’action et fait de son savoir une pratique ?
Doc. 1Le raisonnement n’est-il qu’un calcul ?
Doc. 1
Par raisonnement, j’entends calcul [computatio]. Quand on raisonne, on ne fait que concevoir une somme totale à partir de l’addition des parties, ou concevoir un reste à partir de la soustraction, par laquelle une quantité est retranchée d’une autre. Donc raisonner revient à additionner et à soustraire, et si quelqu’un voulait ajouter multiplier et diviser, je ne m’y opposerais pas.
Thomas Hobbes, Computatio sive logica, 1655, © Librairie Philosophique J. Vrin, 2000.
Doc. 2Le jeu de l’imitation
Doc. 2
« Le jeu de l’imitation ». C’est ainsi que le britannique
Alan Turing appelait le test qu’il décrivait en
1950 dans la revue Mind. L’objet de ce « jeu » : éprouver
la capacité d’un système informatique à contrefaire
l’humain. Et donc à penser.
Une frontière vertigineuse, qu’aurait franchi pour la toute première fois un logiciel de conversation (« chatter box » ou « chat box »). Le 7 juin 2014, lors d’une compétition à la Royal Society de Londres, le programme Eugene Goostman est en effet parvenu à duper 33 % de ses interlocuteurs humains pendant une conversation de 5 mn. Les hommes ont cru que la machine, interrogée « à l’aveugle », via le clavier d’un ordinateur, était un petit garçon de 13 ans, d’origine ukrainienne…
Cela suffit-il à faire de ce programme le premier à passer le test de Turing ? […]
Sciences et Avenir : l’université de Reading, à l’origine de la compétition du 7 juin, prétend que cette date est devenue historique. Vous n’êtes pas de cet avis.
Jean-Paul Delahaye : C’est une annonce spectaculaire, mais excessive et malhonnête […]. Pour plusieurs raisons. La première tient aux conditions du test : une conversation de 5 mn, durant laquelle plus de 30 % des interrogateurs ont été trompés. Affirmer que c’est cela le test de Turing tient à une mauvaise lecture de l’article original du Britannique. Dans cet article de Mind, Alan Turing explique que le test du « jeu de l’imitation » sera accompli quand une machine arrivera à se faire passer pour un humain, […]. Sans limitation de temps. […] [Et] que « dans 50 ans », c’est‑à‑dire en l’an 2000, il sera sans doute possible de programmer un ordinateur « si bien qu’un interrogateur moyen n’aura pas plus de 70 % de chances de réussir la bonne identification après 5 mn d’interrogation ». […] En passant cette forme dégradée de l’épreuve – ce qu’aurait fait le logiciel Eugene Goostman – on ne réussit pas le test de Turing. […] Il s’agit d’un système qui imite un enfant de 13 ans. Et dont l’anglais n’est pas la langue maternelle. Autant d’éléments qui permettent d’excuser les fautes.
Une frontière vertigineuse, qu’aurait franchi pour la toute première fois un logiciel de conversation (« chatter box » ou « chat box »). Le 7 juin 2014, lors d’une compétition à la Royal Society de Londres, le programme Eugene Goostman est en effet parvenu à duper 33 % de ses interlocuteurs humains pendant une conversation de 5 mn. Les hommes ont cru que la machine, interrogée « à l’aveugle », via le clavier d’un ordinateur, était un petit garçon de 13 ans, d’origine ukrainienne…
Cela suffit-il à faire de ce programme le premier à passer le test de Turing ? […]
Sciences et Avenir : l’université de Reading, à l’origine de la compétition du 7 juin, prétend que cette date est devenue historique. Vous n’êtes pas de cet avis.
Jean-Paul Delahaye : C’est une annonce spectaculaire, mais excessive et malhonnête […]. Pour plusieurs raisons. La première tient aux conditions du test : une conversation de 5 mn, durant laquelle plus de 30 % des interrogateurs ont été trompés. Affirmer que c’est cela le test de Turing tient à une mauvaise lecture de l’article original du Britannique. Dans cet article de Mind, Alan Turing explique que le test du « jeu de l’imitation » sera accompli quand une machine arrivera à se faire passer pour un humain, […]. Sans limitation de temps. […] [Et] que « dans 50 ans », c’est‑à‑dire en l’an 2000, il sera sans doute possible de programmer un ordinateur « si bien qu’un interrogateur moyen n’aura pas plus de 70 % de chances de réussir la bonne identification après 5 mn d’interrogation ». […] En passant cette forme dégradée de l’épreuve – ce qu’aurait fait le logiciel Eugene Goostman – on ne réussit pas le test de Turing. […] Il s’agit d’un système qui imite un enfant de 13 ans. Et dont l’anglais n’est pas la langue maternelle. Autant d’éléments qui permettent d’excuser les fautes.
Olivier Lascar, « Entretien avec J.-P. Delahaye, informaticien
et mathématicien : “Non, le test de Turing n’a pas été passé par
Eugene Goostman” », Sciences et Avenir, juin 2014.
Doc. 3
Illustration tirée d’une bande dessinée, L’intelligence artificielle – Fantasmes et réalités, de Jean-Noël Lafargue et Marion Montaigne,
Éditions du Lombard, 2016.
Doc. 3
Numérique
Essayez de discuter avec le robot de conversation Cleverbot
Les questions qui se posent
⬥ La raison dont semble faire preuve l’intelligence artificielle
est une raison programmée. Il s’agit donc d’une
raison calculatoire conçue par l’homme. On peut qualifier
cette raison de scientifique et d’artificielle. Quel
rôle la raison joue-t-elle dans la connaissance scientifique ?
⬥ La machine est plus rapide et plus fiable que l’homme pour toutes les opérations de calcul. Mais l’existence humaine n’est pas réductible au calcul. L’homme ne pense pas l’être et l’existence en termes purement rationnels et combinatoires. La raison peut-elle tout expliquer ?
⬥ Lorsque nos raisonnements se tournent vers le réel, la politique par exemple, nous mesurons l’écart existant entre ce qui est et ce qui devrait être, ce qui explique notre effort pour conformer le réel à une rationalité morale. Pourtant, la politique semble suivre des impératifs et des intérêts pragmatiques qui sont parfois bien éloignés d’un exercice raisonnable du pouvoir. La raison est-elle fondatrice de la politique ?
⬥ La machine est plus rapide et plus fiable que l’homme pour toutes les opérations de calcul. Mais l’existence humaine n’est pas réductible au calcul. L’homme ne pense pas l’être et l’existence en termes purement rationnels et combinatoires. La raison peut-elle tout expliquer ?
⬥ Lorsque nos raisonnements se tournent vers le réel, la politique par exemple, nous mesurons l’écart existant entre ce qui est et ce qui devrait être, ce qui explique notre effort pour conformer le réel à une rationalité morale. Pourtant, la politique semble suivre des impératifs et des intérêts pragmatiques qui sont parfois bien éloignés d’un exercice raisonnable du pouvoir. La raison est-elle fondatrice de la politique ?