dateimg

Tu as raison, toi aussi



- Philosophie

- IA, éthique, logique, robot, automates, tortue

Ce qui est amusant avec l'intelligence artificielle, c'est qu'elle nous amène à devoir programmer des réponses pour des questions auxquelles aucun humain ne s'est réellement mis d'accord. En fait, nous nous voyons obligés de répondre à des questions qui n'ont pas vraiment de réponses.

Par exemple, si un robot se trouve dans une mauvaise posture, et le geste qu'il doit poser tuera soit la personne à gauche, soit la personne à droite, quelle direction doit-il choisir?

Au hasard me direz-vous peut-être? D'accord, alors supposons que le robot doit tuer soit deux personnes à droite, soit une seule personne à gauche, laquelle est préférable?

Sauvons le plus grand nombre et allons à gauche!, me direz-vous peut-être? Supposons maintenant que les deux personnes à droite sont très âgées alors que la personne à gauche est un jeune enfant. Quelle direction?

Ça se corse. Complexifions encore. Supposons que le robot détecte qu’une des personnes âgées à droite est une grande médecin qui a sauvé des milliers de vies. Supposons que le robot détecte que l’enfant à gauche est malade et a une faible espérance de vie.  Supposons encore que le robot calcule qu’il a 3 chances sur 4 de tuer les deux personnes à droite, et 1 chance sur 3 de tuer la personne à gauche… Quelle direction alors?

À ce stade, les humains ont depuis longtemps décroché et pour répondre se sont tourné vers leur instinct, leur coeur, leur culture, leurs valeurs … des concepts abstraits qui ne veulent pas dire grand-chose pour l’automate, qui se fie sur du concret, du numérique, du quantifiable…

Si l’intelligence peut se concevoir artificiellement, il n’en va pas de même de l’éthique. Je m’accroche à cette idée, qui me rassure et me réconforte… pour l’instant.

Le conte suivant est issu de la sagesse bouddhiste (ou juive selon les sources). Il me revient en mémoire chaque fois que j’entends parler du raffinement du processus décisionnel des automates.

 

turtle

Tu as raison, toi aussi

Trois moines se promenaient dans le jardin. L'un d'eux, apercevant une petite tortue, s'apprête à l'écraser quand le second moine le retient.

- Attention, tu as failli écraser cette tortue, lui dit-il.

- Oui, je sais, je l'ai fait exprès.

- Mais pourquoi vouloir tuer cette pauvre tortue?

- C'est une nuisible. Elle mange les salades que notre frère jardinier cultive. Il se donne beaucoup de mal pour soigner le jardin et nous offrir ses récoltes.

- Mais cette tortue fait partie de ce monde. Elle a droit de vie tout comme l'oiseau qui picore les graines, ou le renard qui chasse les poules!

Voyant que leur point de vue divergeait complètement, ils se tournèrent vers le troisième moine, qui avait gardé le silence, et suivait la discussion.

- Et toi, qu'en penses-tu?

Le troisième moine réfléchissait à une réponse à donner, mais pour lui, l'un comme l'autre avait de bons arguments. Il proposa aux autres d’aller voir le grand maître, qui dans sa grande sagesse saurait trouver lequel des deux a raison. Les deux autres moines acquiescèrent, et il partirent de ce pas voir le Grand Maître.

- Grand Maître, dit le troisième moine, mes amis ont un différent, et je ne peux trouver lequel des deux à raison.

- Eh bien, dit le Grand Maître, je vous écoute.

- J'ai voulu écraser une tortue dans le jardin. C'est un nuisible qui mange les salades que notre frère jardinier essaye de faire pousser. Il travaille dur au jardin, et cette tortue détruit le fruit de ce dur labeur, dit le premier moine.

- Oui... tu as raison, dit le Grand Maître.

- Mais cette tortue a le droit de vivre, si elle mange les salades, c’est pour subsister. Ainsi est faite la nature! s'écria le deuxième.

- Oui, tu as raison, dit le Grand Maître.

Le troisième moine intervint alors:

- Mais Grand Maître, vous donnez raison à mes deux amis alors que leur point de vue est opposé! Si l'un a raison, l'autre a forcément tort!

Et le Grand Maître lui répondit:

- En effet… tu as raison, toi aussi.

 

turtle walk

 

La logique classique, dont les origines remontent à
Artistote, se fonde sur 4 règles de base:

- L'identité: Une chose est ce qu'elle est, et pas autre chose.

- Non-contradiction: Il est interdit d'affirmer une chose et son contraire.

- Le tiers exclu: Entre deux propositions contraires, il n'y a pas d'intermédiaire.
(L'une est vraie, l'autre est fausse)

- Raison suffisante: Rien n'est sans raison, tout ce qui est a une raison d'être
et tout ce qui n'est pas a une raison de ne pas être.

La logique dialectique et la logique dite floue viendront apporter des nuances
et des alternatives à la logique classique.

Mais la logique, plus qu'un raisonnement particulier, se réfère à un ensemble
de règles et de principes régissant la construction de la pensée,
établissant la possibilité d'élaborer une argumentation ou une démonstration.

De ce point de vue, non seulement il n'existe pas tellement
de logiques diverses, mais en plus la plupart du temps, nous
ne sommes pas conscients de la logique que nous utilisons. Soit
son utilisation en est très intuitive et très vague, soit elle est inexistante.

Qu'en sera-t-il des automates?

Captcha