IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Des scientifiques affirment qu'ils essaient maintenant activement de construire des robots dotés d'une conscience,
Mais cela introduit de nouveaux défis et soulève de nombreux problèmes éthiques

Le , par Bill Fassinou

1PARTAGES

5  0 
Des scientifiques de l'université de Columbia travailleraient à la création de robots dotés de conscience, capables d'apprendre et de s'adapter aux situations en temps réel. Cela signifie également qu'ils seraient en mesure de diagnostiquer eux-mêmes les problèmes et corriger leurs erreurs. Les chercheurs pensent en outre que les robots dotés d'une conscience pourraient à l'avenir aider l'humanité à guérir le cancer et d'autres maladies difficiles à traiter. Ainsi, la conscience artificielle pourrait être la prochaine frontière de la robotique, mais elle s'accompagne d'une foule de questions difficiles et de nombreux défis.

Les entreprises spécialisées dans le domaine de l'intelligence artificielle (IA) ont régulièrement tenté au cours de ces trois dernières années de repousser les limites de ce qui peut être fait dans le secteur. En témoignent les récents modèles de langage tels que DALL-E 2, Midjourney AI, ChatGPT, GPT-3 et Stable Diffusion. Ces systèmes d'IA sont impressionnants, mais pour certains experts du secteur, ils (qui sont pour la plupart des chatbots et les générateurs d'images) sont encore loin de représenter la dernière frontière de la robotique. La prochaine étape ? La conscience, une chose sur laquelle certains scientifiques travailleraient discrètement.

Dans une interview accordée au New York Times (NYT), Hod Lipson, ingénieur en mécanique qui dirige le Creative Machines Lab de l'université de Columbia, a déclaré qu'il s'y consacre depuis une vingtaine d'années. Il a fait remarquer que le sujet était auparavant tabou, mais que de plus en plus de personnes acceptent aujourd'hui d'en discuter publiquement. « Ce sujet était tabou. On nous interdisait presque d'en parler - "ne parlez pas du mot C, vous ne serez pas titularisé" - alors au début, je devais le déguiser, comme si c'était autre chose », dit-il. En employant le mot "C", le professeur Lipson fait sans doute référence au mot "conscience".



La question de la conscience se pose dans de nombreux cercles au-delà de la robotique, notamment en psychologie, en neurosciences et en philosophie, de sorte que la construction de robots conscients ne sera pas une tâche simple. Si, pour certains, la perspective d'avoir des machines dotées d'une conscience artificielle est digne d'une science-fiction - et c'est d'ailleurs la trame d'innombrables livres, bandes dessinées et films de science-fiction - pour d'autres, comme Lipson, c'est un objectif, qui changerait sans doute définitivement la vie humaine telle que nous la connaissons. Il donne l'exemple le niveau d'intégration des robots dans nos vies.

Selon Lipson, un robot consciencieux deviendrait de plus en plus important à mesure que nous deviendrions plus dépendants des machines. Aujourd'hui, les robots sont utilisés pour les interventions chirurgicales (comme les robots chirurgiens Da Vinci), la fabrication de produits alimentaires, les transports et toute sorte d'usines. Les applications des machines semblent pratiquement illimitées, et toute erreur dans leur fonctionnement, à mesure qu'elles s'intègrent à nos vies, pourrait être catastrophique. « Nous allons littéralement abandonner notre vie à un robot. Ne voudriez-vous pas que ces machines soient résilientes ? », a déclaré Lipson.

Une façon d'y parvenir était de s'inspirer de la nature. Les animaux, et en particulier les humains, sont doués pour s'adapter aux changements. Cette capacité pourrait être le résultat de millions d'années d'évolution, car la résilience en réponse aux blessures et aux changements d'environnement augmente généralement les chances de survie et de reproduction d'un animal. Lipson s'est demandé s'il pouvait reproduire ce type de sélection naturelle, créant ainsi une forme d'intelligence généralisable capable d'apprendre à connaître son corps et sa fonction, quelle que soit l'apparence de ce corps et quelle que soit cette fonction.

« Ce n'est pas simplement une autre question de recherche sur laquelle nous travaillons, c'est la question. C'est plus important que de guérir le cancer. Si nous pouvons créer une machine qui aura une conscience égale à celle d'un humain, cela éclipsera tout ce que nous avons fait. Cette machine elle-même pourrait guérir le cancer », a déclaré le chercheur. La conscience est l'une des questions les plus controversées en matière d'intelligence artificielle, mais outre le défi technologique que représente la réalisation de cet objectif, le mot lui-même est défini de manière philosophique, vague et subjective. Ce qui complique les choses.

Pour sa part, Lipson a sa propre définition de la conscience, à savoir la capacité de "s'imaginer dans le futur". Ainsi, l'ingénieur a consacré une grande partie de sa carrière à la construction de machines adaptables, c'est-à-dire d'une intelligence généralisée capable d'apprendre à évoluer par une sélection naturelle apprise par la machine, répondant ainsi aux changements d'environnement et aux erreurs ou blessures du corps mécanique. En d'autres termes, Lipson cherche à mettre en place une machine capable dans un premier temps d'apprendre davantage et de se corriger en conséquence, comme le font actuellement les machines.

Ensuite, Lipson veut qu'elle soit capable d'imaginer comment elle pourrait être meilleure et d'évoluer en fonction de cette vision. C'est une légère distinction, mais elle est importante. Il est également impossible d'ignorer le fait que les humains aiment vraiment anthropomorphiser à peu près tout ce qu'ils peuvent, des grille-pain aux animaux domestiques en passant par les légumes, etc. Cette tendance est extrêmement présente dans les domaines de la robotique et de l'intelligence artificielle, où les constructeurs de machines projettent constamment des caractéristiques humaines, tant physiques qu'intellectuelles, sur les appareils qu'ils créent.

Et à cette fin, il est toujours utile de se demander si ces machines possèdent réellement les qualités que des chercheurs comme Lipson imaginent qu'elles posséderont un jour, ou si les scientifiques, sous l'effet de leurs propres pulsions très humaines, projettent l'humanité - ou la nature, ou la conscience, ou tout ce que vous voulez - sur des machines très peu conscientes, renvoyant ce qu'ils espèrent voir, plutôt que ce qui est. « Il y a l'orgueil démesuré de vouloir créer la vie. C'est le défi ultime, comme aller sur la lune », a déclaré Lipson. En outre, la construction de robots dotés d'une conscience a également des implications morales et éthiques.

Auront-ils des droits, comme dans Bicentennial Man (L'Homme bicentenaire) ? Ce film de science-fiction de 1999 suit la vie et l'évolution d'Andrew, un robot acheté comme un appareil ménager programmé pour effectuer des tâches subalternes. Les enfants de la maison réagissent chacun différemment à la présence d'un nouveau venu. Grâce, l'aînée de la famille, considère le robot domestique comme une boite de conserve et lui ordonne de sauter du premier étage. Cependant, lorsqu'Andrew commence à éprouver des émotions et une pensée créative, la famille découvre rapidement qu'elle n'a pas un robot ordinaire.

Le film est une adaptation cinématographique d'une œuvre littéraire d'Isaac Asimov, ancien écrivain russo-américain et professeur de biochimie à l'Université de Boston. Il est également connu pour ses livres de vulgarisation scientifique. Isaac Asimov a écrit plusieurs romans - dont "I, Robot" - qui examinent les implications du point de vue de la loi, de la société et de la famille, soulevant de nombreuses questions morales. Les experts en éthique de la technologie ont examiné et approfondi ces questions alors que des scientifiques comme ceux du laboratoire de l'université Columbia travaillent à la construction de machines plus intelligentes.

La science-fiction nous a également apporté des machines tueuses comme dans Terminator, et les robots conscients semblent être un bon moyen d'en avoir. Les humains peuvent apprendre de mauvaises idées et les mettre en pratique, et il n'y a aucune raison de croire que les robots ne tomberont pas dans le même piège. Certains des plus grands esprits de la science ont mis en garde contre le risque de se laisser emporter par l'intelligence artificielle. Cependant, le professeur Lipson croit fermement que la société se dirige vers un avenir mécanisé. Mais encore, Lipson affirme qu'il n'y aucun moyen de l'éviter.

« Nous disposons déjà d'appareils de l'Internet des objets qui sont intégrés à des appareils ménagers courants et qui peuvent faire des listes de courses, surveiller votre maison pour détecter les intrus et même permettre à vos animaux domestiques de communiquer avec vous. Les robots conscients sont inévitables, et ils vont probablement se lier d'amitié avec Alexa et Siri », a-t-il déclaré.

Le Creative Machines Lab aurait déjà construit des machines qui sont conscientes d'elles-mêmes et qui peuvent dessiner des images et des simulations d'elles-mêmes. L'une d'elles serait même capable de se reconnaître dans un miroir. Cependant, l'étape suivante consiste à permettre à ces machines de s'imaginer dans un état futur et de voir comment cet état pourrait affecter la tâche qu'elles effectuent ou détériorer leur activité future.

Source : NYT

Et vous ?

Quel est votre avis sur le sujet ?
Pensez-vous que les robots dotés d'une conscience verront réellement le jour ?
Dans le cas où ces robots deviendraient une réalité, quelles pourraient être les implications pour la société ?
Que pensez-vous de la difficulté qu'éprouvent les scientifiques à adopter un consensus sur la définition de la conscience ?
À votre avis, l'absence de consensus sur la définition de la conscience ruine-t-elle les chances de voir un robot avec une conscience un jour ?

Voir aussi

Intelligence artificielle : un robot montre des signes de conscience de soi, à l'issu d'un test effectué par des chercheurs

Il serait difficile pour les humains d'éteindre un robot qui les supplie de ne pas le faire, d'après une étude réalisée par des chercheurs allemands

Les droits de l'Homme doivent-ils être étendus à l'IA ? La question fait débat sur plusieurs axes dont celui de savoir si une IA peut être mentionnée comme inventeur sur un brevet

Les robots peuvent surpasser l'homme en performance, mais peuvent-ils ressentir le toucher ? Des scientifiques développent une peau robotisée qui va aider les machines à acquérir le sens du toucher

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de eric44000
Membre actif https://www.developpez.com
Le 10/01/2023 à 17:29
Citation Envoyé par Bill Fassinou Voir le message
Que pensez-vous de la difficulté qu'éprouvent les scientifiques à adopter un consensus sur la définition de la conscience ?
Les scientifiques sont tous d'accord sur le fait qu’être conscient c'est ressentir ce qui se passe à l'intérieur ou à l'extérieur du corps. C'est éprouver une sensation. Et la composante fondamentale de la conscience est la représentation de l'intériorité.
La conscience est le fruit de l'aller-retour incessant entre les perceptions externes et les émotions internes. L'esprit est le résultat de cet échange à double sens entre le corps et l'environnement. C'est de la matière (particules->atomes->molécules->cellules->tissus->organes->système d'organes) organisée a un certain niveau de complexité qu'émerge la conscience.

Citation Envoyé par Bill Fassinou Voir le message
À votre avis, l'absence de consensus sur la définition de la conscience ruine-t-elle les chances de voir un robot avec une conscience un jour ?
Non, ce n'est pas l'absence de consensus, c'est l'absence systémique des algorithmes qui ruine toute chance. La conscience se mérite. Pour cela il faudrait une modélisation parfaite de la complexité cérébrale et non une pale copie de soi-disant neurones comme actuellement.
4  0 
Avatar de totozor
Membre chevronné https://www.developpez.com
Le 11/01/2023 à 8:54
Citation Envoyé par Bill Fassinou Voir le message
Pour sa part, Lipson a sa propre définition de la conscience, à savoir la capacité de "s'imaginer dans le futur". Ainsi, l'ingénieur a consacré une grande partie de sa carrière à la construction de machines adaptables, c'est-à-dire d'une intelligence généralisée capable d'apprendre à évoluer par une sélection naturelle apprise par la machine, répondant ainsi aux changements d'environnement et aux erreurs ou blessures du corps mécanique. En d'autres termes, Lipson cherche à mettre en place une machine capable dans un premier temps d'apprendre davantage et de se corriger en conséquence, comme le font actuellement les machines.
Donc si je comprend bien il veut faire une machine qui évolue suivant un modèle d'échec-résolution. Ce qui pose un certain nombre de problèmes éthiques quand on s'en sert en médecine.
Le Die & Retry est une philosophie peu admise en recherche médicale, demandez à Musk et Neuralink.
Et au delà de la recherche médicale, la prise de conscience des rapports cause/conséquence dans le monde est parfois extrêmement compliquée, la conséquence pouvant être observée longtemps après la cause.

« [...]Si nous pouvons créer une machine qui aura une conscience égale à celle d'un humain[...]. Cette machine elle-même pourrait guérir le cancer », a déclaré le chercheur.
Je ne vois vraiment pas le rapport entre conscience et guérison du cancer

Pensez-vous que les robots dotés d'une conscience verront réellement le jour ?
Si on suit la définition de Ipson et dans un domaine très précis et relativement isolé du reste du monde pourquoi pas.
Que pensez-vous de la difficulté qu'éprouvent les scientifiques à adopter un consensus sur la définition de la conscience ?
À votre avis, l'absence de consensus sur la définition de la conscience ruine-t-elle les chances de voir un robot avec une conscience un jour ?
Pourquoi ne se basent-ils pas sur les dictionnaires. Le Larousse est relativement claire : "1. Connaissance, intuitive ou réflexive immédiate, que chacun a de son existence et de celle du monde extérieur.
2. Représentation mentale claire de l'existence, de la réalité de telle ou telle chose"
Mais ils tombent sur un gros problème : ils veulent la traduire scientifiquement ET veulent que la définition puisse être un objectif atteignable parce qu'ils veulent vendre à des financeurs qu'ils y arriveront dans X années.

Le problème n'est pas l'absence de consensus mais l'incapacité des scientifiques à gérer des concept. Ils veulent traduire les concepts en faits et en objectifs atteignables.

Ca me fait penser à un sujet chaud chez nous en ce moment: La direction nous a demandé d'améliorer l'ergonomie de notre système informatique (ensemble de nos outils informatiques).
Mon chef a donc lancé un projet (début, fin, objectifs) de 5 ans d'ergonomisation informatique qu'il nous a présenté. La réunion a été catastrophique parce que la demande n'est pas un projet construit avec un début, une fin et des objectifs définis avant de commencé. C'est de l'amélioration continue, c'est un travail continu qui évoluera toujours qui se déroule avec une interaction continue avec les utilisateurs.
Mais il est impossible pour lui d'intégrer ce genre d'organisation parce que ça ne rentre pas dans un diagramme de Gant avec des jalon précis, des livrables identifiés J0 etc.

L'ergonomie, comme la conscience des machines, est un objectif que l'on suit en continu mais qu'on atteindra jamais, juste parce qu'à chaque pas en avant, l'objectif s'éloignera d'un autre pas parce qu'on aura découvert un nouvel aspect de celles ci.
3  0 
Avatar de eric44000
Membre actif https://www.developpez.com
Le 11/01/2023 à 12:32
Citation Envoyé par totozor Voir le message
Si on suit la définition de Ipson et dans un domaine très précis et relativement isolé du reste du monde pourquoi pas.
Ce qu'on fait Lipson et son équipe d'ingénieurs de Creative Machines Lab de l'université de Columbia c'est un robot qui a appris à se mouvoir en regardant son corps au travers de cinq caméras. De là à dire que le robot à une image de soi, c'est jouer sur les mots. La conscience de soi c'est autre chose.
3  0 
Avatar de Artemus24
Expert éminent sénior https://www.developpez.com
Le 12/01/2023 à 15:44
Salut à tous.

Qu'est-ce que la conscience ?
Nous sommes incapables de donner une définition car nous ne savons pas ce que c'est.
Mais s'il s'agit d'imiter l'homme, je ne crois pas que l'on puisse dire qu'un robot à une conscience.

En ce qui me concerne, je ne vois pas de différence, vue de l'extérieur, entre une intelligence artificielle et un programme bardé de capteurs.
Le résultat sera le même car son champs d'application restera limité.
Il faudra que l'IA puisse sortir de sa programmation et nous surprendre avec une réponse à laquelle nous ne nous attendions pas, ce qui en l'état des choses me paraitrait très surprenant.

Cordialement.
Artemus24.
@+
1  0 
Avatar de Mat.M
Expert éminent sénior https://www.developpez.com
Le 12/01/2023 à 19:23
Citation Envoyé par Artemus24 Voir le message
Qu'est-ce que la conscience ?
Nous sommes incapables de donner une définition car nous ne savons pas ce que c'est.
là vous risquez vite de vous embarquer dans les régressions à l'infini,les raisonnements circulaires
N'oubliez pas la formule bien connue de Descartes Ergo Cogito Sum je pense donc j'essuie...c'est qu'être conscient de ce que l'on est c'est une démarche réflexive donc on cela entraine des régressions à l'infini..

et puis ensuite la conscience est-elle de la matière ou non ?
1  0 
Avatar de eric44000
Membre actif https://www.developpez.com
Le 13/01/2023 à 14:48
Citation Envoyé par Artemus24 Voir le message
Qu'est-ce que la conscience ? Nous sommes incapables de donner une définition car nous ne savons pas ce que c'est.
Tous les scientifiques qui s'intéressent à la question (neurobiologistes, éthologistes...) s'accordent à dire que c'est une représentation du corps et du milieu environnant.
Le Caenorhabditis Elegans (ver de 1mm) qui possède le plus petit cerveau connu (302 neurones) n'a pas de conscience malgré un comportement réflexe qui pourrait y faire croire. Son système nerveux central ne sert qu'a traiter simplement l'influx nerveux.
Par contre une expérience faite sur avec mouche montre qu'elle a conscience de son corps. Son cerveau est bien plus élaboré que celui du C. Elegans.
Par ailleurs, il existe plusieurs niveaux de conscience. Du plus simple comme celui de la mouche à celui qui permet de se reconnaitre dans une glace (éléphant, cochon...). Quant à la conscience de l'homme, c'est le niveau le plus haut.
Citation Envoyé par Artemus24 Voir le message
Il faudra que l'IA puisse sortir de sa programmation et nous surprendre avec une réponse à laquelle nous ne nous attendions pas, ce qui en l'état des choses me paraitrait très surprenant.
En effet, modéliser informatiquement le cerveau du C. Elegans est d'une très grande complexité (qui vient en grande partie de la biologie). Alors prétendre comme Lipson d'y avoir réussi... Bien sûr, il peut y a voir dans la modélisation quelques raccourcis qui simplifient les algorithmes mais cela reste quand même à la marge.

Citation Envoyé par Mat.M Voir le message
la conscience est-elle de la matière ou non ?
Les deux mon général. Ou aucun des deux, c'est selon. Pour être plus sérieux, la conscience est virtuelle et intelligible. C'est à dire qu'elle a des propriétés différentes des caractéristiques physiques sous-jacentes. Elle n'existe qu'en puissance active.
1  0 
Avatar de Mat.M
Expert éminent sénior https://www.developpez.com
Le 13/01/2023 à 15:18
Citation Envoyé par eric44000 Voir le message
Les deux mon général. Ou aucun des deux, c'est selon. Pour être plus sérieux, la conscience est virtuelle et intelligible. C'est à dire qu'elle a des propriétés différentes des caractéristiques physiques sous-jacentes. Elle n'existe qu'en puissance active.
si c'est pas de la matière est-ce de l'anti-matière alors ?
Et vous affirmez des caractéristiques physiques sous-jacentes.
Etant donné que le premier principe de la matière bref ce qui constitué tout corps c'est d'être constitué d'atomes que ce soit sous forme gazeuse, liquide , solide ou plasmique,peut-on parler de matière d'un corps n'étant pas constitué d'atomes ?
1  0 
Avatar de eric44000
Membre actif https://www.developpez.com
Le 13/01/2023 à 17:57
Citation Envoyé par Artemus24 Voir le message
la conscience a sa propre existence. C'est ce que je crois.
C'est une tautologie.
Citation Envoyé par Artemus24 Voir le message
Un être humain qui est dans le coma a sa conscience endormie. Cela ne veut pas dire qu'il n'a pas de conscience, mais qu'elle ne peut pas se manifester.
Pourtant quelques comateux ont décrit après en être sortis ce qui s'était passé pendant leurs états cérébral "plats". Aucune activité cérébrale visible par imagerie, et pourtant une conscience présente. En fait l'imagerie ne voit pas tout ce qui se passe dans le cerveau. Elle est myope.
Citation Envoyé par Artemus24 Voir le message
Ta mouche a donc une conscience qui se manifeste un peu plus car son cerveau est un peu plus complexe.
Oui.
Citation Envoyé par Artemus24 Voir le message
Tu n'en sais rien du tout !
Que la conscience de l'homme soit supérieure, c'est un fait sur terre. Après, la possibilité que des extra-terrestres ayant une conscience plus haute a une probabilité non nulle.
Citation Envoyé par Artemus24 Voir le message
Et je reviens à ma question de départ : qu'est ce que la conscience ? Sans définition, il est impossible d'avoir un échange cohérent sur la conscience.
Il ne tient qu'a vous de vous informer auprès de scientifiques.
1  0 
Avatar de Artemus24
Expert éminent sénior https://www.developpez.com
Le 13/01/2023 à 16:39
Salut à tous.

@ Mat.M : je ne parle pas d'un raisonnement qui aboutirait à une prise de conscience, ou à l'intuition de ce que l'on est, comme le fit Descarte dans son discours de la méthode. Le fait de savoir que l'on pense ne nous indique pas ce qu'est la pensée, le fait de savoir que l'on existe ne nous indique pas ce qu'est l'existence. Cela ne nous renseigne pas sur ce qu'est la conscience, mais juste ce que nous croyons qu'elle est ou qu'elle n'est pas.

Par ce raisonnement, on arrive à comprendre que la conscience est immanente à tout être vivant, comme étant la nature même de son expression. On arrive alors à ce que les bouddhistes nomment la vacuité, et pour répondre à ta question :

Citation Envoyé par Mat.M
et puis ensuite la conscience est-elle de la matière ou non ?
la conscience a sa propre existence. C'est ce que je crois.

Citation Envoyé par eric44000
Le Caenorhabditis Elegans (ver de 1mm) qui possède le plus petit cerveau connu (302 neurones) n'a pas de conscience malgré un comportement réflexe qui pourrait y faire croire. Son système nerveux central ne sert qu'a traiter simplement l'influx nerveux.
Un être humain qui est dans le coma a sa conscience endormie. Cela ne veut pas dire qu'il n'a pas de conscience, mais qu'elle ne peut pas se manifester.

Selon moi, plus le cerveau est complexe et plus la conscience se manifestera.

Citation Envoyé par eric44000
Par contre une expérience faite sur avec mouche montre qu'elle a conscience de son corps. Son cerveau est bien plus élaboré que celui du C. Elegans.
Ta mouche a donc une conscience qui se manifeste un peu plus car son cerveau est un peu plus complexe.

Citation Envoyé par eric44000
Quant à la conscience de l'homme, c'est le niveau le plus haut.
Tu n'en sais rien du tout !

Et je reviens à ma question de départ : qu'est ce que la conscience ?
Sans définition, il est impossible d'avoir un échange cohérent sur la conscience.

Cordialement.
Artemus24.
@+
0  0