IEEE Spectrum: Why do you believe that China will soon match or even overtake the United States in developing and deploying AI? Kai-Fu Lee: The first and foremost reason is that we’ve transitioned out of an era of discovery—when
the person who makes the discovery has a huge edge—and into an era of
implementation. The algorithms for AI are pretty well known to many
practitioners. What matters now is speed, execution, capital, and access
to a large amount of data. In each of these areas, China has an edge.
That’s
why I began the book by talking about China’s entrepreneurism. It’s not
like Silicon Valley, which is built on iPhone breakthroughs and SpaceX
innovations, it’s built on incredibly hard work. Chinese entrepreneurs
find areas where there’s enough data and a commercially viable
application of AI, and then they work really hard to make the
application work. It’s often very hard, dirty, ugly work. The data isn’t
handed to you on a silver platter. Spectrum: You say that Chinese tech giants like Tencent
have a clear advantage in terms of access to data that’s needed to
train AI. Do they really have more data than companies like Google? Lee: There
are a few ways to look at the data advantage. The first is how many
users you have. Google probably has more users than Tencent, because
it’s international. The second question is: How homogenous is your data
set? Google’s data from Estonia may not help its work in India. It may
be better to have rich data from one set of people who have the same
language, culture, preferences, usage patterns, payment methods, and so
on.
The third way to measure is how much data you have about each
person. Tencent has a catch-all app, WeChat, that does basically
everything. The average Chinese Internet user spends half of his or her
time online in WeChat. When you open WeChat, you have access to
everything U.S. users get from Facebook, Twitter, iMessage, Uber,
Expedia, Evite, Instagram, Skype, PayPal, GrubHub, LimeBike,
WebMD, Fandango, YouTube, Amazon, and eBay. Spectrum: You
describe China’s startup ecosystem as a brutal “coliseum” where
companies don’t win because they’re the most innovative, but rather
because they’re the best at copying, using dirty tricks, and working
insane schedules. Lee: There is
creativity, but it’s just one tool. Another is copying. Entrepreneurs do
whatever it takes to win, to build value for the user, and to make
money. If you look at WeChat, you can’t point to one moment when it
shocked the world like an iPhone. WeChat today is an amazing innovation,
but it didn’t come about because someone at Tencent dreamed it up and
built it and shocked the world. They kept layering on features that
users wanted, they iterated, they threw away the features that didn’t
work, and at the end they had a product that was the most innovative
social network. It’s so good that Facebook is now copying them.
“50 Percent of Jobs Are in Danger”
Spectrum: You
write that the big AI question isn’t whether China or the United States
will dominate. Instead it’s how we’ll deal with the “real AI crisis” of
job losses, wealth inequality, and people’s sense of self-worth. Lee: AI
will take many single-task, single-domain jobs away. You can argue that
humans have abilities that AI does not: We can conceptualize,
strategize, create. Whereas today’s AI is just a really smart pattern
recognizer that can take in data, optimize, and beat humans at a given
task. But how many jobs in the world are simple repetitions of tasks
that can be optimized? How many jobs require no creativity,
strategizing, conceptualization? Most jobs are repetitive:
truck-driving, telemarketing, dishwashing, fruit picking, assembly-line
work, and so on. I’m afraid that about 50 percent of jobs in the world
are in danger.
Whether these jobs will disappear in 15 years or
20 or 30, that’s debatable. But it’s inevitable. Not only can AI do a
better job, it can do the job for almost marginal cost. Once you get the
system up and running you just pay for the server, electricity,
bandwidth. To be competitive, companies will be forced to automate. And
this shift will happen a lot faster than has ever happened before in the
history of humanity. Spectrum: Why do you think
“techno-utopians” have it wrong when they say that AI will ultimately
create entirely new categories of jobs, just like the industrial
revolution? Lee: People say that in the
industrial revolution, more jobs were created than destroyed. They say
it was the same with electricity, and that we shouldn’t worry, because
the same thing will happen this time with AI. I would agree with that if
we had enough time. Those earlier technological revolutions took a
century or longer. Electricity has been around for over 100 years, and
we still don’t have electric cars, we’re still working on the grid. That
gave people time to grow, and develop, and invent new jobs. But we have
basically one generation with AI, and that’s a lot less time. Spectrum: You argue that even if governments figure out a way to distribute money to all these jobless people, it will still be a crisis. Lee: Most
people don’t think of their job just as a source of income. It brings
meaning to their life, it’s their contribution to the world. That’s how
we decided to structure our capitalistic society: There’s the idea that
even by working routine jobs, they can make money and make better lives
for their families. If we pull the rug out from under them and say, you
have no job, but here’s some money from the government, I think that
would lead to bad outcomes. Some would be happy and retire early. Some
will learn a new skill and get a new job, but unfortunately many will
learn the wrong job, and get displaced again. A large number of people
will be depressed. They will feel that life has no meaning, and this can result in suicide, substance abuse, and so on.
The Inevitability of the AI Revolution
Spectrum:
If this kind of economic and societal upheaval is an inevitable
consequence of AI, is there any chance that we’ll decide to turn away
from the technology, and decide not to use it? Lee: Individual
governments can make certain decisions to slow down the deployment of
AI. But for humanity as a whole, it’s not possible. We’ve opened
Pandora’s box. We did, as humans, control the proliferation of nuclear
weapons, but that technology was secret and required a huge amount of
capital investment. In AI, the algorithms are well known to many people,
and it’s not possible to forbid people to use them. College students
are using them to start companies.
Take autonomous trucks as an
example. While China is building cities and highways to facilitate
autonomous trucks, the American trucking union is appealing to President
Trump to forbid testing on highways.
If the U.S. is currently ahead on autonomous trucks, but chooses to
slow down the development for fear of taking away jobs from
truck-drivers, the only outcome is that China will catch up. Chinese
companies will test the trucks, get the data, that data will make the AI
better, at some point the technology will be so good that China will
export it to the rest of the world. At that point, the U.S. will still have to give in to automation.
Facing Death
Spectrum:
You call this a grim picture, but then go on to say that there’s hope,
and that the potential for human flourishing has never been greater. You
had your own grim experience that led to your own flourishing. Can you
talk about your cancer experience? Lee: I
had been a workaholic for my whole life, and I always put work as my
top priority. It was only when I faced cancer and possible death that I
realized that no amount of money, success, or fame could substitute for
the love I have from other people. And I felt great regret for not
giving back what they gave me. That was a wake-up call.
After I
became better and my cancer was in remission, I changed my life. It’s
not that I don’t work hard anymore, I still do. But I prioritize
differently. I prioritize family, I found a much better balance. I
realized that the optimization that I used to do at work brought me
money, success, and fame, but those are not the things that really matter to me—although I once thought they were.
A Blueprint for Coexistence
Spectrum:
So that experience led to your idea for what you call a blueprint for
coexistence with AI, in which the use of AI gives people more time to
love each other. You write that we must “forge a synergy between
artificial intelligence and the human heart.” Can you give me an example
of how this synergy might manifest in the job market? Lee: One
of my favorite examples is in medicine. Imagine a future clinic, in
which the room is enhanced with all sorts of sensors that take readings
of your body and give the human doctor lots of information. The doctor
will help tease out information like family history and specific
symptoms.
AI can make a great diagnosis and suggest the
treatment, the prescription, and so on. In early days, AI will give
statistics and the doctor will make the final choice. But in time, it
will be very rare that the doctor overrides the system. So the AI will
do the diagnosis, then the doctor will deliver the message in a way that
feels caring and warm. The doctor will also let the patient tell his or
her story. In many countries, each person gets only five minutes of
doctor’s time—but while the doctor may only need five minutes, the
patient needs much more to feel heard, to ask questions, and to be
reassured.
If each doctor spends more time with each patient,
there will need to be more doctors. Maybe they don’t need to be full MDs
with 10 years of education and internship, since they no longer need to
memorize all the symptoms and treatments. Instead they could get
four years of education to become caring, compassionate caregivers,
similar to nurse practitioners. Then the cost of health care will come
way down, people will get better care, and the number of caregivers will
go way up.
La Chine veut lancer dans l'espace d'ici 2020 une "Lune artificielle", qui réfléchirait sur Terre la lumière du soleil durant la nuit et permettrait de réaliser des économies d'éclairage, a annoncé vendredi un média d'Etat.
Ce satellite équipé d'une pellicule réfléchissante serait chargé d'illuminer la grande ville de Chengdu (sud-ouest) et devrait être huit fois plus lumineux que l'astre lunaire, rapporte le journal China Daily.
Un premier exemplaire devrait d'abord être envoyé dans l'espace, suivi en cas de réussite de trois autres en 2022, a expliqué au quotidien Wu Chunfeng, le chef de la Tian Fu New Area Science Society, l'organisme responsable du projet.
"La première Lune sera principalement expérimentale, mais les trois envoyées en 2022 constitueront le véritable produit fini. Elles auront un grand potentiel en termes de services à la population et d'un point de vue commercial", selon M. Wu.
En renvoyant sur Terre la lumière du soleil, le satellite, qui évoluerait à 500 km d'altitude, est censé pouvoir se substituer partiellement à des lampadaires. Il pourrait ainsi faire économiser environ 1,2 milliard de yuans (150 millions d'euros) d'électricité par an à la ville de Chengdu s'il arrive à illuminer une superficie de 50 km2.
La source de lumière artificielle pourrait également être utilisée après des catastrophes naturelles, en déviant les rayons solaires vers des zones terrestres où l'alimentation électrique a été coupée, a souligné Wu Chunfeng.
L'AFP n'a pas pu contacter directement M. Wu ni son institution.
Pékin mène depuis de nombreuses années un ambitieux programme spatial pour rattraper son retard sur les Etats-Unis et la Russie. Le pays prévoit notamment d'envoyer un petit robot nommé Chang'e-4 sur la face cachée de la Lune d'ici fin 2018.
La Chine n'est pas le premier pays à tenter de réfléchir les rayons du soleil sur la Terre. Dans les années 1990, des scientifiques russes avaient mis au point un projet similaire baptisé Znamya ("Bannière"), arrêté après quelques essais.
Une fiction américaine qui vient de sortir, dans le genre « alternative
history ». Il s’agit d’une sorte d’uchronie projetée dans le futur proche.
Et si une guerre nucléaire était déclenchée en 2020 entre la
Corée du nord et les USA ?
Le texte prend une certaine distance avec les événements, du
fait qu’il s’agit d’un rapport de commission qui cherche à comprendre comment
les événements atroces se sont succédé. La réponse tient à trois mots :
bêtise, malchance, incompétence.
Trump n’est pas plus épargné que Kim Jung Un dans son
attitude face aux tensions internationales.
Un thriller qui donne à réfléchir sur l’avenir (proche) du
monde, compte tenu des dirigeants contemporains…
Sortie le 29 août en Suisse, distribué en France et en Belgique. C'est un recueil de nouvelles sur les robots qui dysfonctionnent d'autant plus qu'ils sont dotés d'un module d'émotions artificielles. Pour plus de détails: https://www.helicehelas.org/les-voleurs-d-absurde
Comme sur des roulettes, le robot livreur débarque en Chine
Publié leà Pékin (AFP)
Ils sont prêts à remplacer les livreurs en chair et en os. En Chine, des petits robots autonomes sur roues, équipés de GPS, de caméras et de radars commencent à livrer colis, courses et repas aux destinataires.
A Pékin, ces engins cubiques jaunes et noirs de la taille d'une petite machine à laver parcourent depuis quelques jours les allées de la cité résidentielle "Kafka", sous le regard étonné des passants. A une vitesse d'environ 3 km/h, ils acheminent boissons, fruits ou chips depuis une supérette attenante.
"Le point faible, c'est qu'ils ne peuvent pas livrer directement à la porte de l'appartement comme les livreurs humains", déclare à l'AFP une cliente ravie, qui vient de réceptionner un sachet de noix de cajou dans ce quartier de la grande banlieue est de la capitale chinoise. "Mais ça reste pratique. Le robot livre relativement rapidement".
Comment ça marche? Via une application sur smartphone, le consommateur sélectionne les produits à livrer, indique son adresse, puis paie en ligne. L'employé de la supérette place la marchandise dans le robot, qui arrive en 3 ou 4 minutes au pied des immeubles situés à environ 200 mètres.
Le destinataire, sur son téléphone, n'a plus qu'à cliquer sur un lien pour déclencher l'ouverture du coffre et récupérer sa commande.
En Chine, plus grand marché mondial du commerce en ligne, 52% des habitants font un achat via smartphone au moins une fois par semaine, selon une étude du cabinet d'audit PwC, contre 14% ailleurs dans le monde. Un phénomène dopé par l'exceptionnel boom du paiement mobile, beaucoup plus développé qu'en Occident.
- "Petits chevaux jaunes" -
Les Chinois n'ont qu'à tapoter sur leur smartphone pour se faire livrer à domicile, parfois dans la journée, d'innombrables articles: vêtements, produits électroniques, papier toilette, mais aussi aliments -- des avocats aux steaks, en passant par les crevettes surgelées.
"A l'heure actuelle, 100 millions de colis sont livrés chaque jour en Chine. Ils devraient être un milliard à l'avenir", souligne Liu Zhiyong, PDG et fondateur de Zhen Robotics, l'entreprise qui fabrique les robots livreurs, dénommés "Petits chevaux jaunes".
"Les livreurs humains ne seront pas assez nombreux. Il faudra donc de plus en plus de robots pour combler le manque de main-d'oeuvre. Et aussi pour réduire les coûts", dit-il.
Ceux-ci sont particulièrement élevés sur le dernier kilomètre de livraison, celui où un service individualisé est nécessaire pour arriver jusqu'à la porte du client.
Munis de six roues, hauts d'environ un mètre, les "Petits chevaux jaunes" pèsent 30 kilos, évoluent à la vitesse maximale théorique de 12 km/h et peuvent fonctionner 24 heures sur 24.
Ils sont équipés de quatre caméras (pour visualiser leur environnement), d'un radar et d'un système de télédétection par laser (pour se positionner et éviter les piétons et les obstacles). Pour l'instant, les robots n'en rencontrent pas beaucoup: ils n'ont qu'à longer un large trottoir peu encombré et passer la porte du complexe résidentiel -- une zone fermée où ne circule aucune voiture.
- Quel avenir ? -
Mais comment éviter que l'engin soit volé ou vandalisé? "Avec le GPS, on peut le suivre à la trace, les caméras filment et le robot peut émettre une alarme. Et puis qu'en ferait un voleur? Ce n'est pas revendable", assure Liu Zhiyong.
Parmi les clients de l'entreprise figure Suning, "le Darty chinois", spécialiste de la vente de produits électroniques et d'électroménager, qui possède aussi un réseau de supérettes.
Ces engins ont-ils un avenir? Pour Shao Zhonglin, ancien vice-secrétaire général de l'Association chinoise de livraison express, "ils peuvent être utiles dans un petit rayon d'action". "Pas sûr cependant que ça puisse devenir une solution à grande échelle pour le dernier kilomètre de livraison. Car le client doit tout de même descendre chercher son colis. Et les frais restent élevés: achat et maintenance des robots, coûts de fonctionnement, etc."
Zhen Robotics assure que les coûts des équipements technologiques du robot baisseront avec le temps. Et que son "cheval jaune" pourra bientôt déclencher à distance le bouton d'appel des ascenseurs, afin d'acheminer la marchandise directement à la porte du client.
En attendant, les premiers drones de livraison sillonnent déjà le ciel chinois. Plusieurs entreprises ont obtenu ces derniers mois le feu vert des autorités pour faire voler ces engins. Objectif: accélérer les délais de transport entre deux entrepôts, voire livrer directement au destinataire.
Comment l’omniprésence de machines dotées d’une intelligence artificielle (IA) dans notre quotidien va-t-ellemodifierle psychisme humain ?
Les robots vont modifier la psychologie humaine autant que les progrès de l’alimentation et de la médecine ont modifié nos corps. Notre taille et notre corpulence ont changé, notre résistance aux maladies et à la douleur aussi, mais nous ne nous en rendons pas compte car ces changements nous sont devenus naturels. Il en sera de même avec les machines intelligentes, qui vontbouleversernon seulement notre quotidien mais aussi notre manière d’être au monde.
Quatre domaines, au moins, seront profondément modifiés. D’abord, notre capacité àdifférerla satisfaction de nos désirs. Le téléphone, puis le mail, ont déjà commencé àaltérernotre capacité de résistance à l’attente relationnelle : avec la livraison quasi instantanée par drone, nous allons aussidevenirintolérants à l’attente des objets. Le degré suivant sera probablement l’intolérance à nos attentes de reconnaissance, car nos robots de proximité pourront nousgratifierde quantité de félicitations et gentillesses. Dès lors, serons-nous capables desupporterque la société humaine qui nous entoure soit moins aimable avec nous ? Aurons-nous seulement envie decontinuerà la fréquenter ?
Le deuxième changement concerne le rapport à la solitude et au discours intérieur. Avec nos « chatbots »[« agents conversationnels »], nous allonsdévelopperune tendance à nousraconteren permanence. Contrairement à la plupart des humains, ces machines nous feront constammentrebondirpar des questions, des plaisanteries et des gentillesses. Pour une raison simple : la capture de nos données personnelles… Mais, du coup, la notion de solitude changera : la compagnie ne se définira plus seulement par la présence d’un humain, mais aussi d’une machine. Que deviendra la possibilité de setenirà soi-même un discours intérieur, sans interlocuteur, lorsque nous serons habitués à enavoirun à demeure, prêt à nousécouteraussi longtemps que nous le voudrons ?
Les deux autres domaines dans lesquels l’IA va modifier notre psychisme sont notre mémoire et notre relation à l’espace. Demain, notre smartphone ne sera pas seulement en mesure destockerquantité de nos données personnelles, il pourra lesclasserà notre place, participant ainsi en permanence à la construction de notre biographie.
Quant aux outils de géolocalisation, ils nous permettront bientôt de nousdéplacerdans l’espace sans en avoir la moindre compréhension. Si la téléportation, aujourd’hui banale dans les jeux vidéo, existe un jour dans le monde réel, elle sera perçue comme totalement naturelle, car nous avons déjà perdu la représentation des espaces intermédiaires entre le point dont nous partons et le point où nous arrivons !
Les robots vont-ilsobligerl’homme àredéfinirl’idée qu’il se fait de lui-même ?
Dans toutes les technologies inventées jusqu’alors, les objets étaient à mon service : je les mettais en route quand j’en avais besoin, comme un chef d’orchestre. Ce qui sera nouveau avec les objets dotés d’IA, c’est qu’ils pourront m’interpeller et meproposerleurs services comme des partenaires à part entière. Lorsque je rentrerai dans ma voiture autonome – Ford prévoit sa commercialisation pour 2021 –, je serai accueilli par une voix couplée à une petite caméra, qui me dira par exemple :« Avoirton visage ce matin, j’ai l’impression que tu as mal dormi ! »
Si j’ai oublié mon parapluie avant desortir, ce ne sera pas ma femme ou mes enfants qui me le ferontremarquer, mais mon assistant personnel qui me morigénera :« Rappelle-toi, je t’ai dit ce matin qu’il allait pleuvoir ! »Nous serons de plus en plus confrontés au fait que les machines ont des compétences que nous n’avons pas,c’est-à-dire à notre incomplétude humaine. Avec le risque d’une certaine honte face à nos insuffisances… Et celui d’une confiance de plus en plus aveugle dans leurs capacités. Nous serons ainsi graduellement enfermés dans une dépendance affective croissante vis-à-vis d’elles.
Comment la psychologie peut-elleétudierces nouveaux phénomènes ?
Il va luifalloirintégrer notre relation aux objets comme un élément d’appréciation de la qualité de notre relation au monde – autrement dit de notre santé mentale. On estime aujourd’hui que celle-ci est bonne lorsqu’on a un bon réseau social, une sexualité satisfaisante, un travail à peu près stable… Il faudra yajouterla reconnaissance d’une dépendance affective saine aux objets. Elle pourrait en effet devenir pathologique, comme c’est le cas pour ceux qui souffrent de manque quand ils sont privés de jeux vidéo, de réseaux sociaux ou d’alcool. Un autre risque étant deglisserdu bonheur de l’anthropomorphisme (je projette mes émotions et mes pensées sur un objet ou un animal, mais je sais qu’il s’agit d’une projection) aux illusions de l’animisme (je prête à l’objet en question des capacités cognitives et émotionnelles identiques aux miennes).
Pourquoi les machines intelligentes vont-ellesaugmenterce risque d’animisme ?
Parce qu’elles pourrontprendrel’initiative de la relation, et aussi parce que leurs fabricants alimenteront l’illusion qu’elles ont des émotions. Cela aggravera le phénomène constaté, il y a plus d’un demi-siècle, par l’informaticien Joseph Weizenbaum. Il avait écrit un programme baptisé Eliza, un précurseur des chatbots destiné àsimulerun psychothérapeute dont la méthode consiste àreformulerles propos du patient en se concentrant sur ses réactions émotionnelles. Weizenbaum s’aperçut que certains des étudiants qui l’aidaient dans cette tâche avaient tendance àpenserque la machine les comprenait vraiment ! Il eut alors cette phrase, qui devraitêtreinscrite au fronton de tous les laboratoires de recherche en IA :« Je n’aurais jamais cru qu’un programme aussi simple puisseprovoquerchez des gens normaux de tels délires. »
C’est ce qu’on appelle un phénomène de dissonance cognitive : on a beausavoirque ce sont des machines, on ne peut pas s’empêcher de développer avec elles la même relation qu’avec des humains, etcroirequ’elles ont des émotions. Plus récemment, l’état-major américain a découvert que certains soldats envoyés en Irak et en Afghanistan s’attachaient de manière déraisonnable à leur robot démineur : les dommages que subissait celui-ci les affectaient gravement, et ils voulaient absolument qu’on le leur répare plutôt que derecevoirun robot tout neuf sorti de l’usine. Pendant le combat, certains pouvaient mêmemettreleur vie en danger pour luiéviterdes dommages.
Vous écrivez dans votre dernier ouvrage : « Si j’étais plus jeune, je créerais un laboratoire d’étude de la psychologie des IA. »Inventerune psychologie des machines, est-ce vraiment nécessaire ?
J’ai été conforté dans cette évidence par ce qui s’est passé avec Tay, une IA censéejouerle rôle d’une adolescente capable d’interagir sur les réseaux sociaux. Mise au point par Microsoft et « lâchée » surTwitteren mars 2016, elle avait été programmée pourapprendrepar imitation et renforcement. Résultat : après une journée et plus de 96 000 Tweet, des internautes mal intentionnés lui avaient fait tenir des propos misogynes, racistes et antisémites, contraignant Microsoft àsuspendreen urgence son compte Twitter. Ce qu’il fautretenirde cette expérience désastreuse, c’est que les machines douées d’apprentissage évolueront différemment au contact de leurs utilisateurs.
S’agit-il à proprementparlerde psychologie ? D’une certaine façon, oui. Si l’on s’en tient à ce qui est observable, des machines élevées dans des environnements différents se distingueront les unes des autres par leurs comportements, par leurs propos, voire par les émotions qu’elles simuleront. Il nous faudra donc étudier la manière dont ces IA se transformeront au fil des interactions avec les humains. Et aussi au fil de leurs propres interactions !
Car on l’oublie trop souvent, les communautés de robots vont prendre une importance croissante : ils pourront par exemple seconnecterla nuit à un serveur central, une sorte d’école du soir qui corrigera leurs apprentissages les plus antisociaux. Cette interconnexion est le grand défi que nous poseront les objets dotés d’une IA. Les informaticiens nous présentent leurs créatures comme des objets « autonomes », mais leur puissance d’apprentissage et de stockage des données sera basée sur leur interconnexion permanente.
Les robots, dites-vous, vontchangernotre rapport à la culpabilité. De quelle manière ?
D’une part en nous culpabilisant, de l’autre en nous déculpabilisant. Les machines vontpouvoirnousculpabilisercar nous allons leurdonnerle droit de nouspunir. Reprenons l’exemple de la voiture autonome, dans laquelle le conducteur est censéresterdisponible en cas de nécessité. Pour s’enassurer, le véhicule vous envoie régulièrement un signal, auquel vous devezrépondreen mettant la main sur le volant. Si vous ne répondez pas au signal – parce que vous dormez, ou êtes plongé dans un film sur la banquette arrière –, que se passe-t-il ? L’algorithme vous sanctionne en vous obligeant, la prochaine fois que vous prendrez votre véhicule, à conduire vous-même, à l’ancienne.
Accepterons-nous de telles punitions comme relevant d’un pacte social ? Certains se sentiront-ils persécutés par leur machine ? C’est à ce genre de questions que les psychologues de demain seront confrontés. Mais les machines auront aussi le pouvoir dedéculpabiliser, avec le risque derendrecertains d’entre nous de plus en plus inhumains. Les « robots tueurs », ces machines militaires programmées pourouvrirle feu sur telle ou telle cible, présentent déjà ce danger. Apartirdu moment où l’homme sort de la boucle des décisions, il lui devient plus facile de se déresponsabiliser et d’accepter pour son propre intérêt des « dommages collatéraux » plus importants, autrement dit un plus grand nombre de morts civils.
Même si leurs fabricants font tout pour nous en donner l’illusion, les robots n’éprouvent ni émotion ni souffrance. Cela pourrait-il changer un jour ?
Il n’y a aucune raison de donner des émotions aux robots, bien au contraire. Rappelez-vous HAL, dans2001 l’Odyssée de l’espace, et son fameux « J’ai peur » : c’est à partir de là que tout tourne mal. Mais une grande rupture surviendra probablement quand les robots combineront des matériaux inertes et biologiques. A ce moment-là, les humains eux-mêmes seront probablement transformés. Il n’y aura plus alors que des créatures métissées, des cyborgs. Certains plutôt humains, d’autres plutôt machines, sans que la limite entre les deux soit peut-être très claire.
