vendredi 4 mai 2007

la conscience du robot

La question a déjà été soulevée et discutée mais j'y reviens aujourd'hui. (J'aime ça.)
D'où vient l'homme et pourquoi ? Nos discussions antérieures sont assez éloquentes à ce sujet : nous n'avons pas de réponse à ces questions.
D'où vient l'ordinateur et pourquoi ? À moins de voir l'homme comme une simple étape vers la réalisation d'un plan conçu par un dieu quelconque (et quel dieu ne l'est pas ?), l'origine de l'ordinateur est l'homme lui-même et au départ il s'agissait avant tout d'une simple machine à calculer inventé pour diminuer et accélérer le travail clérical. Sur ce plan, aucun doute, la machine calcule plus vite que l'homme.
À l'origine, personne n'avait imaginé ce que les ordinateurs deviendraient au fil des ans.
Et sans doute sommes-nous aujourd'hui incapables d'imaginer ce qu'ils pourront devenir si l'évolution, celle de l'homme comme celle de la machine, se poursuit.
Mais nous savons que l'ordinateur est conçu pour donner exactement la même production (output) à chaque fois qu'un même apport (input) est soumis à un même programme. Et d'ailleurs nous avons tendance à mal accepter toute erreur dans l'exécution d'un programme : le maudit ordinateur a encore planté, j'ai perdu mes données ou, pire encore, ma partie de Civilisation.
Face à son programme, l'ordinateur n'a aucune autonomie. Et la plupart de ses erreurs se produisent au niveau de la programmation plutôt que dans l'exécution.
Mais, je suis convaincu que la machine restera dépourvue de ce qui fait d'un homme un homme.

Au niveau des sentiments : l'ordinateur pourra sans doute exprimer l'amour qu'il est programmé pour "ressentir" mieux que Don Juan, mais d'une part, il n'aura jamais besoin de cet amour, et d'autre part, cet amour sera le résultat d'un algoritme et non un sentiment réel.
J'aimerais toutefois bien rencontré un ordinateur qui demande spontanément à se faire baptiser parce qu'il vient de découvrir dieu. Un ordinateur pourrait-il se confesser d'avoir eu des pensées cochones, faute de pouvoir porter des gestes libidineux ?

Au niveau de l'imagination : bien sûr on doit pouvoir programmer un robot pour qu'il produise des tableaux, figuratifs ou non, de la musique, classique ou non, des vers, alexandrins ou non. Mais la création intellectuelle n'appartient pas à son univers. Et ce n'est pas en introduisant dans le programme des éléments de hasard (random) que l'on pourra s'approcher du génie créateur non seulement de nos plus grands artistes mais aussi de notre quotidien à tous. À quoi rêveront les ordinateurs : à ce qu'ils sont programmés pour rêver.

Au niveau de la personnalité : nous sommes des individus. Pas deux identiques, pas même les jumeaux que l'on qualifie de tel. Il y a chez la plupart de nos concitoyens, une liberté de penser, d'agir, de ressentir, de se passionner, de rêver, de s'épuiser qu'à mes yeux aucune machine ne pourra jamais partager (quoique, encore une fois, il serait fascinant de voir un ordinateur s'endormir à la suite d'un excès de travail). Être humain, c'est vivre une expérience unique, de durée aléatoire, c'est d'avoir une identité, un caractère propre et souvent prévisible, c'est aussi, au sens le plus païen du terme, avoir une âme, une flamme que l'on entretient de notre mieux.

Mais être humain, et cela je doute fort qu'une machine puisse l'éprouver un jour, c'est aussi avoir peur de la mort.

le corps et l'esprit du petit homme

11 commentaires:

lurch agoratoire a dit…

Je ne sais pas si on peut programmer la peur de la mort chez un robot mais en tout cas, on peut certainement programmer la faim. Je me rappelle d'un de ces premiers robots, ni plus ni moins qu'un oeil de caméra monté sur roulettes. Il passait son temps à se promener puis, lorsque ses senseurs lui indiquaient une condition de "low battery", il auto-chargeait un programme de très haute priorité qui lui faisait chercher dans l'environnement une prise murale vers laquelle il se dirigeait pour se plugger. Difficile de dire à quoi il pouvait penser s'il n'y avait aucune prise en vue...

Mazz a dit…

Bonsoir neurone,

> Mais nous savons que l'ordinateur
> est conçu pour donner exactement
> la même production (output) à
> chaque fois qu'un même apport
> (input) est soumis à un même
>programme.

Nous sommes peut-être aussi comme ça... sauf que le nombre de nos inputs est très grand, provient de tous nos sens, de façon analogique (donc avec d'infimes variations) et ne peuvent pas être contrôlés... donc l'output est techniquement imprévisible (quoiqu'on puisse prévoir bien des comportement humains dans des situations données...).

Aussi, tous les programmes ne sont pas nécessairement des fonctions dans le sens mathématiques du terme (des programmes qui donnent toujours le même output sur le même input). La plupart des programmes oui, car c'est ce que nous voulons en les construisant. Mais il y a d'autres classes de programmes.

Il y a de ces programmes qui ont découvert des méthodes de résolution de problème qui sont incompréhensibles (par une approche d'algorithmes génétiques). Mais les méthodes fonctionnent même si on n'y comprend pas la logique. Il y a des programmes qui dessinent des tableaux où les connaisseurs et les critiques font l'éloge de l'émotion du peintre (sans savoir que l'oeuvre a été produite par un programme).

Je crois qu'il est prématuré de dire que les ordinateurs ne seront jamais capable de facultés humaines sous prétexte qu'ils en sont incapable aujourd'hui tellement ils sont primitifs. On serait tenté de dire, devant le premier réplicateur baignant dans la soupe primordiale il y a 4 milliards d'années, qu'il ne sera jamais capable de conscience ou de faculté humaine tellement ces quelques molécules sont primitives. Pourtant ne sommes-nous pas là?

Excellent billet neurone! Merci de nous pousser à réfléchir.

- Mazzaroth

le neurone ectopique a dit…

S'il y a un chemin, tapissé de lois inconnues, qui mènent du Big Bang à la conscience de l'homme, il y a peut-être un autre chemin qui mène de l'homme à la conscience du robot. Et, il est même possible que l'homme ait fait son apparition comme une simple étape vers la mécanisation de la conscience : on se retrouve dans The Matrix !
Mais même si des programmes sont capables de tromper les experts en traduisant des émotions dans des tableaux, sont-ils capables de les ressentir ?
Pour paraphraser une chanson de mon enfance : "Maman les p'tits ordis qui sont si beaux ont-ils une âme ?"
On découvrira peut-être ultérieurement que l'atteinte de certaines composantes d'un ordinateur peut mimer une maladie mentale.
Mais je doute, ce qui est j'en ai bien peur une des pierres d'assise de ma personnalité.

monsieur le robot (Mazz, Daniel dit que tu es très jeune, trop pour te souvenir de cette chanson des Lutins (écrite par Jacques Michel ?)

OMO-ERECTUS a dit…

Vous avec eu la gentillesse de me pondre un commentaire dans mon modeste blogue. Je vous rend la politesse!.

Cela dit, j'ai découvert chez vous ce que je nomme l'anti-blogue. Celui qui ne se contente pas simplement de commenter l'actualité du dernier bulletin de nouvelles. J'aime bien.

Pour votre "sujet du jour", j'apprécie les liens que vous faites entre l'homme et l'ordinateur.

Pour ma part, je crois que le défi consiste à ne voir en l'ordinateur qu'une simple machine. Car l'ordinateur est une machine.

Or, les jeunes voient en l'ordinateur un ami avec lequel ils communiquent. Ils s'ouvrent sur le monde par lui. L'ordinateur parle, entend, est objet de phantasmes... Il est un confident.

Mais aussi et avant tout, l'ordinateur est et demeure une machine.

lurch agoratoire a dit…

On a jamais eu de problèmes avec des machines qui nous surpassent sur le plan physique, bien au contraire! On a de nombreuses machines qui remplacent des équipes d'hommes au complet. La tendance à l'automatisation est une tendance lourde, sans retour en arrière.

Mais l'habilité de penser est une prérogative bien humaine, la pierre angulaire de notre prétendue supériorité, notre dernier retranchement vis-à-vis des machines qui nous surpassent sur le plan physique. C'est ce qui aiguise tellement notre niveau de méfiance envers d'éventuelles machines pensantes.

ne pleurez pas trop

Mazz a dit…

neurone,

je me souvient de cette chanson mais c'est à la limite de ma mémoire. :-) Google m'informe qu'elle a été mise en vente par les Lutins en 1968... j'avais 4 ans.

- Mazzaroth

le neurone ectopique a dit…

Bienvenue à toi Omo-Erectus dont j'ai découvert l'existence chez Daniel.
Mon but, comme pour Lurch et Mazz, j'imagine n'est pas de faire les choses différemment. Je pense simplement que nos préocccupations sont différentes. Ce qui ne nous empêche pas d'apprécier pleinement d'autres styles de blogues notamment Mijestam et un taxi la nuit pour ne mentionner que ceux-là.
Et quant à toi, Mazz, Daniel avait bien raison de dire que tu es jeune, moi qui suit né dans la première moitié du XXème siècle.

celui qui se sent mieux

Anonyme a dit…

O.K., discutez pendant que je vais chercher de la bière et du porto! Cette dernière phrase ne sera jamais comprise par un ordinateur!
Bize

le neurone ectopique a dit…

Daniel, l'ordinateur pourrait toujours comprendre, mais comment pourrait-il boire ?

prendre un verre de bière

Mazz a dit…

:-) Daniel,

Il y a deux mots que, lorsque je les vois dans une phrase ou une argumentation, je lève un sourcil, recule d'un pas, et me met à réfléchir. Ces deux mots sont: toujours et jamais. :-)

- Mazzaroth
P.S: Wow! pépé neurone, la première moitié du siècle dernier!!! ;-)

Pourquoi moi? a dit…

Je viens de faire une recherche sur google, car je me rappelle d'avoir lu un article, il y a très longtemps, sur de petits programmes informatiques qui 'vivaient' en compétition, se reproduisaient et agissaient comme des êtres vivants, posant la question de la définition de la vie.

'digital organisms'