Un scientifique du MIT réclame des droits pour les robots
Cette nouvelle était passée assez inaperçue à cause de l'actualité assez mouvementée et fournie de ce début d'année, mais une chercheuse du MIT suggère qu’on protège les robots contre la maltraitance comme on le fait pour les animaux. Les tous derniers progrès techniques annoncés ces derniers jours remettent d'autant plus ce sujet des lois et protections sur le sujet, qui va devenir de plus en plus brûlant, de la robotique domestique et professionnelle.
Kate Darling n’aime pas torturer Pleo, un petit dinosaure robotique, mignon, du genre à n’avoir jamais fait de mal à une mouche. Pourtant, au cours de l’atelier qu’elle organisait vendredi à Genève, à la conférence sur les nouvelles technologies Lift13, cette chercheuse en propriété intellectuelle et en politique de l’innovation au MIT de Boston, a demandé aux participants de maltraiter la créature jusqu’à ce que mort s’en-suive. Le but était de sonder le ressenti de chacun. C’est du malaise, provoqué chez elle par les mauvais traitements infligés au menu engin, qu’est née sa réflexion sur le droit des robots.
Le Temps: Pour beaucoup, la question d’accorder des droits aux robots reste de la science-fiction. Pensez-vous que nous soyons déjà arrivés à un niveau technologique qui soulève ce genre de question?
Kate Darling: La loi est toujours très en retard sur la technologie, les deux domaines ne se parlent pas. Les gens qui développent ces technologies ne pensent pas aux implications légales et éthiques de leur travail. Je ne parle pas de robots futuristes qui seraient aussi intelligents que nous, mais de robots qui existent déjà. Nous sommes toujours davantage entourés par une technologie qui interagit avec nous au niveau social, qui essaie de se «brancher» sur nos émotions. Cela va des jouets pour enfants aux robots de compagnie, comme ceux qui sont utilisés à des fins médicales ou dans des foyers pour personnes âgées. Ils vont devenir beaucoup plus sophistiqués, et nous devons nous poser certaines questions dès maintenant.
– Lesquelles?
– Des études montrent que, bien que sachant que ces robots sont des objets, nous avons tendance à les traiter comme s’ils étaient vivants, en projetant des émotions sur eux et en créant des liens affectifs avec eux. On observe que les gens ont beaucoup plus de peine à éteindre ce type de robot que les autres. Cette technologie pourrait être utilisée de manière abusive. Si les compagnies exploitent cet attachement à des fins de marketing, par exemple. La protection de la vie privée pourrait aussi être menacée. On peut imaginer que ces robots amènent leurs utilisateurs à divulguer des choses. Certaines personnes estiment que l’on devrait restreindre la recherche dans le domaine des technologies qui jouent avec nos émotions.
– Et vous?
– Je ne crois pas que ce soit responsable. Cette technologie est utile dans le domaine éducatif ou de la santé. Et puis, nous aimons nous attacher à ces robots, penser que leurs émotions sont réelles, que ce sont nos amis. De toute façon, je ne pense pas que ce serait possible, l’industrie du jouet a trop de pouvoir.
– Et quels droits devrions-nous donner à ces robots?
– Je pense que les projections que nous faisons sur les robots sociaux, et les liens que nous créons avec eux pourraient nous amener à vouloir leur donner une forme de protection juridique. Je ne parle pas d’une sorte de droit à la vie, qu’on n’ait pas le droit de les éteindre, etc. Je parle plutôt de quelque chose comme les lois qui protègent les animaux. A eux non plus, on n’accorde pas le droit à la vie, mais on a édicté des lois pour les protéger contre la maltraitance. A mon avis, pas tant à cause de la douleur qu’ils peuvent ressentir, qu’en raison de la réaction que leur douleur suscite chez nous. Ce n’est pas pour rien que nous protégeons beaucoup plus les animaux que nous trouvons attachants, ou auxquels nous pouvons nous identifier. Lorsque Pleo est sorti, des gens ont mis en ligne des vidéos où ils le torturaient: ils testaient ses limites. Les réactions ont été extrêmes, les internautes étaient bouleversés, bien qu’ils connussent très bien sa nature de robot. Regarder cette chose se tordre de douleur provoque en nous des réactions qui vont bien au-delà de ce qu’il y a dans l’engin. D’où l’idée de donner aux robots des droits de «second ordre», dans le sens où ils ne leur sont pas inhérents. Ils existent plus pour notre bien et celui de la société.
– Comment cela?
– La loi a tendance à réguler aussi notre comportement d’un point de vue éthique, et à décourager des agissements qui peuvent se révéler nocifs dans un autre contexte. En décourageant la maltraitance des robots sociaux, on promeut des valeurs que l’on juge bonnes pour notre société, comme de bien traiter toutes les choses et les êtres. Si un enfant donne des coups de pieds dans son jouet robotique, il le fera peut-être aussi à un chat ou à un autre enfant. Dans certains pays, lorsqu’un cas de maltraitance d’animaux est découvert, cela déclenche automatiquement une enquête sur d’éventuelles maltraitances envers les enfants. Parce que ce genre de comportement à tendance à se transférer.
– Mais les animaux sont des êtres vivants, pas les robots.
– Comment définit-on la vie? Et pourquoi est-ce important?
– Est-ce que la réponse ne varie pas selon les cultures?
– En effet. Dans la tradition shintoïste japonaise, chaque objet a une âme. Et cela explique, dans une certaine mesure, pourquoi la culture japonaise accepte mieux les compagnons robotiques. Elle ne divise pas les choses entre «vivant» et «non vivant», comme dans la culture occidentale.
– Comment définit-on le périmètre? Est-ce que mon toaster serait aussi protégé?
– La ligne de séparation sera de toute façon floue et arbitraire. Mais les systèmes légaux sont habitués à ça. Des études ont montré que ce qui suscite le plus de réactions émotionnelles chez nous sont les robots qui combinent plusieurs facteurs, qui sont incarnés, autonomes et interagissent socialement avec nous. On pourrait se baser là-dessus.
– Il y a des gens qui sont attachés à leur voiture.
– C’est vrai. Les militaires américains ont testé un robot qui désamorçait les mines. Il avait l’air d’une araignée géante, à six pattes. Chaque fois qu’il passait sur une mine, il en perdait une. Le colonel qui était chargé du projet l’a interrompu en arguant que c’était inhumain, qu’il ne pouvait pas supporter la vue de ce robot qui se traînait sur ses pattes restantes. Cela montre que la ligne est floue, que l’on s’identifie même à des choses qui ne sont pas anthropomorphes. Le fait que ce robot ressemblait vaguement à un animal, même s’il n’avait pas été conçu pour, suffit. Et donc, lorsque c’est fait à dessein, cela va beaucoup plus loin.
– Dans les films de science-fiction, les robots prennent le contrôle de la planète. Pensez-vous que si nous leur accordons des droits, ils nous en accorderont également en retour?
– C’est mon plan (rires). Sérieusement, je pense que nous sommes très loin d’atteindre ce niveau technologique.
Géopolitique de l’homme nouveau
Les nouvelles technologies émergentes promettent une révolution du corps et de l’esprit humains: soldats aux forces décuplées, citoyens plus performants intellectuellement, etc. Par-delà les craintes suscitées par ces recherches, la compétition mondiale est déjà engagée. Par Johann Roduit
D’aucuns prédisent, dans un futur proche, la possibilité de perfectionner le corps humain ou d’augmenter ses capacités grâce à la convergence des NBIC (nano, bio, info-technologies et sciences cognitives). Au-delà des questions éthiques que ces technologies émergentes peuvent poser, nous risquons d’assister à une course effrénée à l’«amélioration humaine» (Human enhancement), qui pourrait sortir du cadre strictement scientifique pour revêtir des aspects géopolitiques. Les rapports de force et les luttes d’influence dépendront dans une certaine mesure de leur maîtrise des technologies permettant ces perfectionnements humains. Un petit tour d’horizon des intentions d’améliorations humaines dans le monde s’impose.
En Russie, le milliardaire Dmitri Itskov a récemment lancé le programme 2045. Son ambitieux projet, également soutenu par le dalaï-lama, a pour but de créer un avatar cybernétique qui remplacerait notre corps biologique, dans le but de vivre éternellement. Ayant récemment publié une lettre ouverte adressée au secrétaire général de l’ONU pour que la communauté internationale prenne au sérieux son dessein, il a également fondé le parti politique Evolution 2045 afin de se donner les moyens d’action nécessaires pour la mise en œuvre de son objectif. Avec le soutien de plus de 20 000 membres et de scientifiques, Itskov organisera également à New York une conférence mondiale en juin prochain, dans le but de discuter d’«une nouvelle stratégie pour l’évolution humaine».
Aux Etats-Unis, c’est l’Agence pour les projets de recherche avancée de défense (Darpa) qui fait le plus parler d’elle. Les projets qui s’y développent visent «à utiliser certaines avancées scientifiques dans le but d’améliorer biotechnologiquement leurs soldats: force physique démultipliée, agilité et vitesse augmentées, résistance accrue à la douleur, à la faim, à la soif et à la fatigue, capacité de guérison rapide, meilleure mémoire et sens supérieur de la stratégie» (J. Roduit, V. Menuz,Huffington Post, 14.09. 2012).
Les services de renseignement ont déjà révélé que les services secrets américains s’intéressaient de très près à l’ADN des dirigeants du monde et s’efforçaient de protéger celui du président américain. Connaître le matériel génétique de quelqu’un, c’est aussi connaître ses faiblesses biologiques. Selon le journal The Atlantic du 24 octobre 2012, «dans un avenir proche, l’ADN pourrait fournir les informations nécessaires pour créer des armes biologiques personnalisées pour abattre un président sans laisser de traces».
La Chine, elle, s’intéresse à l’amélioration des capacités intellectuelles de sa population. Le Beijing Genomics Institute (BGI) a récemment créé la controverse. Un de ses projets, le Cognitive Research Lab aurait pour but non seulement d’améliorer génétiquement l’intelligence de l’être humain, mais également d’aider les futurs parents à choisir le «meilleur embryon» (ou l’embryon le plus intelligent). Pour certains, les dérives eugéniques sont telles que le projet doit être stoppé. Pour d’autres, il n’y a pas de quoi s’alarmer car ce projet est loin de présenter des risques majeurs.
En Europe, les projets sont – à première vue du moins – moins ambitieux. Ils semblent toujours se présenter comme des projets thérapeutiques, sans visées amélioratives. Le passé européen, terni par ses dérives eugéniques au cours de la première moitié du XXe siècle, fait sans doute partie des raisons de cette retenue. Toujours est-il que l’Italie possède, en la personne de Giuseppe Vatinno, le premier politicien au monde se revendiquant ouvertement du «transhumanisme», un courant de pensée ayant pour but l’amélioration de l’être humain par l’intermédiaire de la science et de la technologie, afin de libérer celui-ci de ses limites biologiques. Nous pouvons également mentionner ici le projet européen Virtual Embodiment and Robotic Re-embodiment («incarnation virtuelle et réincarnation robotique»), qui vise à permettre à une personne de connecter son cerveau à un avatar-robot et de le percevoir comme son propre corps.
En Suisse, on évoquera le projet Nano-Te ra, «un petit laboratoire de tests sanguins personnel portable: un dispositif minuscule implanté juste sous la peau qui présente une analyse immédiate des substances dans le corps, et un module radio [qui] transmet les résultats à un médecin sur le réseau de téléphonie cellulaire». Ce genre d’innovation aura très certainement des bénéfices thérapeutiques, mais pourrait également être utilisé dans une perspective d’amélioration de l’être humain. Les informations récoltées ont de quoi réjouir l’Etat, qui y gagnera certainement un plus grand contrôle de ses citoyens!
La course à l’amélioration humaine posera donc des défis géopolitiques. Bien que, dans le monde, les gouvernements totalitaires sont de nos jours plutôt dans le déclin, il est envisageable que certains dirigeants choisissent d’utiliser ces nouvelles technologies sur la population pour faire de «meilleurs» citoyens. Comme le rappelle Jacques Fellay, généticien à l’EPFL, «[il] n’est pas exclu qu’un jour, un gouvernement dérangé essaie de mettre au point les technologies de génie génétique pour modifier la race humaine, mais cela ne va probablement pas se faire. Le risque théorique existe mais, du point de vue pratique, on en est vraiment loin» (Le Matin du 26.03.2013).
Au-delà de la possibilité théorique d’un tel gouvernement, un impérialisme nouveau pourrait advenir, grâce à la maîtrise des améliorations humaines. Dès lors, les équilibres internationaux pourraient également être considérablement affectés par ces révolutions technologiques futures. Sur le plan militaire tout d’abord, les courses à l’armement traditionnel pourraient laisser place à une modification biologique des soldats, de leurs compétences physiques et mentales, afin que ceux-ci soient plus efficaces et évitent de se blesser ou de périr au combat. Nous pouvons donc imaginer l’impact de la maîtrise de ces technologies sur les combats armés futurs.
Certains Etats pourraient être tentés d’améliorer intellectuellement leur population afin de développer leur économie plus rapidement. A l’image de l’utilisation non généralisée des OGM dans l’agriculture mondiale, nous pouvons imaginer les conséquences sur les équilibres économiques internationaux de différentes législations nationales sur l’utilisation de ces nouvelles technologies. Les économies des pays qui adopteraient ces technologies pourraient développer des avantages compétitifs considérables grâce à une main-d’œuvre améliorée.
Dans de telles circonstances, certains chercheurs en bioéthique se posent déjà la question suivante: «Quelle attitude devront alors adopter les pays qui, sur la base de leurs valeurs fondamentales, jugent éthiquement problématiques de telles modifications? Devront-ils suivre le mouvement afin de rester compétitifs face aux pays constitués d’une population d’individus améliorés technologiquement?» (V. Menuz, J. Roduit, T. Hurlimann, Huffington Post, 13.03.2013)
Si les principes d’amélioration posent déjà d’énormes problèmes et désaccords vis-à-vis d’OGM, qu’en sera-t-il vis-à-vis de l’être humain? Certains commencent déjà à adopter des pratiques s’apparentant à celles des amish, communauté vivant à l’écart de la société moderne. Pour les amish, les technologies sont adoptées seulement si elles renforcent les relations entre les membres de leur groupe. Dans un futur proche, il se peut que certaines communautés refusent ces nouvelles technologies, leur vision d’une vie réussie et d’une société saine s’y opposant. Aux yeux d’autres sociétés, elles risqueraient alors de paraître «dépassées». Il sera donc crucial que les différentes collectivités et le droit des individus de ne pas «s’améliorer» puissent être respectés. Finalement, il faudra s’assurer que les différents individus au pouvoir ne puissent pas utiliser ces technologies pour contrôler leur population. Les effets sur les équilibres internationaux de ces projets d’amélioration de l’être humain devraient donc être pris au sérieux par les différents acteurs globaux.
Emily bouée-robot
Voici un long article très intéressant sur ce sujet de L’introduction sociale des robots
A lire ici : http://shyrobotics.com/lintroduction-sociale-des-robots_20120918.html
Yves Herbo-SFH-05-2013
ovni octobre 2014