Robots sensibles, cuillères conscientes et autres joyeux délires

Comment les angles morts de la pensée critique déforment nos intuitions collectives sur ce qui est plausible


 Le 7 mars 2018 par Bernardo Kastrup, titulaire d'un doctorat en génie informatique de l'Université de technologie d'Eindhoven, spécialisé en intelligence artificielle et en informatique reconfigurable.

Lien de l'article original : https://blogs.scientificamerican.com/observations/sentient-robots-conscious-spoons-and-other-cheerful-follies/

La science-fiction contemporaine semble obsédée par des idées telles que le téléchargement de la conscience dans des puces en silicium, des robots sensibles, des logiciels conscients et ainsi de suite. Des films comme Her et Ex_Machina et des épisodes récents de séries comme Black Mirror dépeignent ces idées de façon très concrète, sensibilisant la culture contemporaine à leur extraordinaire invraisemblance.

Les médias de divertissement s'inspirent du fait que la recherche sur l'intelligence artificielle - une propriété objectivement mesurable, qui peut sans aucun doute être mise au point - est souvent confondue avec la conscience artificielle. Le problème est que la présence de l'intelligence n'implique pas la présence de la conscience: alors qu'un ordinateur peut effectivement imiter le traitement de l'information qui se produit dans un cerveau humain, cela ne signifie pas que les calculs effectués par l'ordinateur seront accompagnés d'une expérience intérieure personnelle.

Après tout, la simple émulation d'un phénomène n'est pas le phénomène: je peux reproduire la physiologie de la fonction rénale dans tous ses atroces détails moléculaires sur mon ordinateur de bureau, mais cela ne fera pas uriner l'ordinateur sur mon bureau. Pourquoi, alors, l'émulation du traitement de l'information humaine rendrait-elle un ordinateur conscient?

Quand il s'agit de conscience, même les universitaires semblent susceptibles de perdre le contact avec les notions de base de la plausibilité. En effet, malgré l'hypothèse prédominante qui veut que la conscience soit générée par des arrangements de matière, nous ne savons pas comment déduire les qualités de l'expérience des paramètres physiques. Il n' y a rien dans la masse, la charge, la rotation ou l'élan qui nous permet de déduire comment est ressenti de voir rouge, de tomber amoureux ou d'avoir mal au ventre. Rationnellement, cet écart explicatif abyssal devrait immédiatement nous amener à remettre en question nos hypothèses prédominantes sur la nature de la conscience. Malheureusement, il a plutôt donné libre cours à un tas de spéculations arbitraires sur la façon d'inventer et de télécharger la conscience.

Déjà au début du XXe siècle, Bertrand Russell observait que la science ne dit rien sur la nature intrinsèque du monde physique, mais seulement sur sa structure et son comportement. Un contemporain de Russell, Sir Arthur Eddington, a également observé que la seule entité physique à laquelle nous avons intrinsèquement accès est notre propre système nerveux, dont la nature est clairement issue de l'expérience. Ne serait-ce pas aussi le cas pour le reste du monde physique? Sous cette hypothèse "pan-psychique", l'écart explicatif disparaît: la conscience n'est pas générée par les arrangements physiques mais, au contraire, par la nature intrinsèque du monde physique. Cette dernière, à son tour, n'est que l'apparence extrinsèque de la vie intérieure consciente.

Beaucoup de pan-psychologues, cependant, vont un pas au-delà de cette déduction par ailleurs raisonnable: ils postulent que la conscience doit avoir la même structure fragmentée que la matière. De cette façon, les particules subatomiques individuelles sont considérées comme des sujets conscients dans leur nature même, en ce sens qu'elles ont soi-disant leurs propres expériences intérieures privées. Et parce que le corps des sujets plus complexes - comme vous et moi - est fait de particules subatomiques, notre vie intérieure consciente est supposée être constituée par une combinaison des perspectives conscientes d'innombrables petits sujets subatomiques. Certaines interprétations du panpsychisme impliquent même que les agrégations inanimées de la matière sont conscientes: un essai publié récemment affirmait:"L'idée que tout, des cuillères aux pierres, est conscient gagne en crédibilité académique".

Ah, bon.

L'idée que les objets inanimés sont soumis à leur propre expérience peut sembler absurde, et elle l'est. Cependant, la raison de la rejeter n'est pas l'intuition - conditionnée par des présomptions culturelles non examinées - mais une simple logique. Vous voyez, le passage de "la conscience est la nature intrinsèque du monde physique" à "les particules subatomiques sont conscientes" repose sur un pont logique imparfait: il attribue à ce qui vit l'expérience une structure perceptible seulement dans l'expérience elle-même.
Permettez-moi de développer cela :

Le concept de particules subatomiques est basé sur des expériences dont les résultats ne nous sont accessibles que sous la forme d'une perception consciente. Même lorsque l'on utilise des instruments perfectionnés, la production de cette instrumentation n'est disponible qu'en tant que perception. Ces expériences montrent que les images sur l'écran de la perception peuvent être divisées en des éléments toujours plus petits, jusqu' à ce que nous atteignions une limite. A cette limite, on trouve les plus petits constituants perceptibles des images, qui s'apparentent donc aux pixels. En tant que telles, les particules subatomiques sont les "pixels" de l'expérience, pas nécessairement de l'empereur. La seconde ne découle pas de la première.

Par conséquent, le fait que les corps vivants soient constitués de particules subatomiques ne dit rien nécessairement sur la structure de ce qui fait l'expérience: un corps est lui-même une image sur l'écran de perception et sera donc nécessairement "pixelisé" dans la mesure où il est perçu. Une telle pixellisation reflète l'idiosyncrasie de l'écran de perception, pas nécessairement la structure du sujet lui-même. Par analogie, l'image pixelisée d'une personne sur un écran de télévision reflète les particularités de l'écran de télévision; cela ne signifie pas que la personne elle-même est composée de pixels.

Je considère donc que la conscience est bien la nature intrinsèque du monde physique, mais que les particules subatomiques et autres objets inanimés ne sont pas des sujets conscients. Après tout, comme Freya Matthews l' a souligné, les limites des objets inanimés ne sont que nominales - où s'arrête le fleuve et où commence l'océan? Alors que ceux des sujets conscients sont clairement déterminés, par exemple, par l'éventail des perceptions internes des sujets. Les objets inanimés ne peuvent donc pas être des sujets conscients.

En excluant les objets inanimés, seuls les organismes vivants et l'univers inanimé dans son ensemble peuvent être des sujets conscients (une argumentation plus large sur ce point peut être trouvée ici: http://www.mdpi.com/2409-9287/2/2/10). De cette façon, comme un système nerveux vivant est l'apparence externe des expériences intérieures d'un organisme, l'univers inanimé dans son ensemble est l'apparence externe des expériences intérieures universelles. De manière significative, l'univers inanimé dans ses échelles les plus grandes ressemble en effet structurellement à un système nerveux. De ce point de vue, il n' y a rien qui ressente en tant que cuillère ou que pierre, pour la même raison qu'il n' y a rien qui ressente - à moins peut-être que vous puissiez l'évaluer par introspection - être un de vos neurones par et en lui-même. Il y a seulement quelque chose qui ressent être votre système nerveux dans son ensemble, c'est-à-dire vous. De même, il y a seulement quelque chose qui ressent être l'univers inanimé dans son ensemble.

Si la biologie est l'apparence externe de sujets conscients autres que l'univers inanimé lui-même, alors la recherche d'entités sensorielles artificielles se résume à l'abiogenèse: création artificielle de la biologie à partir de matière inanimée [génération spontanée]. Si cette quête réussit, le résultat sera à nouveau la biologie, et non des émulations informatiques. Accorder de l'importance aux différences entre la manipulation de commutateurs microélectroniques et le métabolisme est difficilement soutenable, donc la nature ne nous donne aucune raison de croire qu'un ensemble d'interrupteurs devrait être ce à quoi la vie intérieure personnelle consciente ressemble de l'extérieur ; sans parler des pierres et des cuillères.

Encouragés par le fait que des notions empiriquement non fondées et illogiques sont bruyamment envisagées dans certains recoins des milieux universitaires, les médias de divertissement rendent plausibles des absurdités culturelles. En conséquence, toute une génération grandit en prenant un délire pour un avenir probable.


Traduit avec l'aide de www.deepl.com/translator