Home / High Tech / Intelligence Artificielle - IoT / Les dilemmes moraux de la quatrième révolution industrielle

Les dilemmes moraux de la quatrième révolution industrielle


 

Votre voiture sans conducteur apprécie-t-elle votre vie sur celle d’un piéton?Votre activité Fitbit doit-elle être utilisée contre vous dans un procès? Devrions-nous permettre aux drones de devenir les nouveaux paparazzi? Peut-on breveter un gène humain?

Les scientifiques sont déjà aux prises avec de tels dilemmes. Alors que nous entrons dans le nouvel âge de la machine, nous avons besoin d’un nouvel ensemble de morales codifiées pour devenir la norme mondiale. Nous devrions mettre autant d’emphase sur l’éthique que nous mettons sur des termes à la mode comme la perturbation.

Cela commence à arriver. L’année dernière, l’université américaine Carnegie Mellon a annoncé un nouveau centre étudiant l’ éthique de l’intelligence artificielle; sous la présidence d’Obama, la Maison Blanche a publié un document sur le même sujet; et les géants de la technologie, notamment Facebook et Google, ont annoncé un partenariat pour élaborer un cadre éthique pour l’IA. Les risques et les opportunités sont vastes: Stephen Hawking, Elon Musk et d’autres experts ont signé une lettre ouverte appelant à des efforts pour s’assurer que l’IA est bénéfique pour la société:

« Les bénéfices potentiels sont énormes, puisque tout ce que la civilisation a à offrir est un produit de l’intelligence humaine, nous ne pouvons prédire ce que nous pourrions réaliser lorsque cette intelligence est amplifiée par les outils que l’IA peut fournir, mais l’éradication de la maladie n’est pas insondable. En raison du grand potentiel de l’IA, il est important de rechercher comment tirer parti de ses avantages tout en évitant les pièges potentiels.  »

Qui sauver? Une simulation du dilemme d’une voiture sans conducteur
Image: Machine Morale du MIT

Ce sont de grands noms et de grands idéaux. Cependant, de nombreux efforts manquent de coopération mondiale. De plus, les implications de la quatrième révolution industrielle vont au-delà de l’internet et de l’intelligence artificielle.

Le professeur Klaus Schwab, fondateur du Forum économique mondial, estime que cette phase sera construite autour de «systèmes cyber-physiques» avec leflou du physique, du numérique et du biologique . En adoptant cet âge de la machine, nous devrons être confrontés à de nouveaux défis éthiques, appelant à de nouvelles lois. Dans certains cas, le code moral entier peut devoir être redémarré. Telle est la nature des percées technologiques. Nous croyons que l’humanité sera bientôt sur le point de repenser la morale – une éthique 2.0.

Les origines de l’éthique

L’éthique dérivée de la philosophie ou de la religion ne s’intègre pas facilement dans le monde de la technologie. Tout d’Aristote aux Dix Commandements nous donne la navigation morale – mais n’importe quel ensemble de règles établies tend à se heurter à des dilemmes. Le monde de la science a aussi sa part de tentatives, des trois lois d’ Asimov pour les robots au travail de Nick Bostrom sur l’éthique . Cependant, les humains ont suffisamment de mal à développer des vertus pour leur propre conduite, et encore moins à développer des vertus pertinentes dans les nouvelles technologies.

Les implications éthiques vont de l’immédiat (comment les algorithmes derrière Facebook et Google influencent tout de nos émotions à nos élections?) À l’avenir (que se passera-t-il si les véhicules sans conducteur signifient qu’il n’y a plus d’emplois pour les camionneurs?). Voici un échantillon, nullement exhaustif, des décisions éthiques auxquelles nous serons confrontés:

Sciences de la vie. Le montage génétique devrait-il être légal pour manipuler la race humaine et créer des «bébés design»? Le chercheur en cancérologie Siddhartha Mukherjee, dans son livre acclamé par la critique The Gene, a mis en lumière les questions éthiques profondes que posera la science du génome. La liste des questions éthiques est longue: que se passerait-il si un test prénatal prédisait que votre enfant aurait un QI de 80 points, bien en deçà de la moyenne, à moins que vous ayez entrepris une petite révision? Et si ces technologies étaient limitées à seulement un peuple riche?

AI, apprentissage automatique et données. Au fil du temps, l’intelligence artificielle nous aidera à prendre toutes sortes de décisions. Mais comment pouvons-nous nous assurer que ces algorithmes sont bien conçus? Comment pouvons-nous éliminer les biais de ces systèmes, qui seront éventuellement utilisés pour déterminer les promotions d’emploi, les admissions dans les collèges et même notre choix d’un partenaire de vie?

La police locale devrait-elle utiliser un logiciel de reconnaissance faciale? La police prédictive basée sur des algorithmes devrait-elle être légale? Quel impact cela aura-t-il sur notre vie privée? La technologie de pointe entre les mains des forces de l’ordre locales marquera-t-elle l’ère de l’état de surveillance?

Médias sociaux et gadgets. Que se passerait-il si nos Kindles étaient intégrés à un logiciel de reconnaissance faciale et à des capteurs bio-métriques, afin que l’appareil puisse déterminer comment chaque phrase influençait notre fréquence cardiaque et notre pression artérielle?

Bots et Machines. Comment pouvons-nous décider quelles voitures sans conducteur peuvent décider? Comment décidons-nous ce que les robots peuvent décider? Y aura-t-il un besoin pour le robot équivalent d’une déclaration des droits? Qu’en est-il du droit des humains d’épouser des robots et des robots de posséder des biens? Un Cyborg très avancé devrait-il être autorisé à briguer un poste politique?

Le chemin à parcourir

Généralement par le passé, les marchés libres ont décidé du sort de la nouvelle innovation et avec le temps, les gouvernements locaux interviennent (Uber est interdit au Japon mais opérationnel en Inde). Cependant, dans ce cas, une telle approche pourrait être désastreuse.

Nous ne sommes pas favorables à ce que le gouvernement fasse obstacle à l’innovation: nous appelons à un dialogue mondial cohérent autour de l’éthique au XXIe siècle. Le dialogue doit aller au-delà des revues académiques et des articles d’opinion pour inclure les comités gouvernementaux et les organismes internationaux tels que les Nations Unies.

Jusqu’à présent, nous avons adopté une approche cloisonnée – de l’interdiction mondiale du clonage humain à des restrictions partielles sur les aliments génétiquement modifiés. Différentes régions ont également pris des vues divergentes et n’ont pas réussi à orchestrer une réponse unifiée: l’approche de l’UE en matière de gestion de l’impact sociétal des nouvelles technologies est nettement différente de celle des États-Unis. La Chine, d’un autre côté, a toujours adopté une vision à long terme. La technologie est comme l’eau – elle trouvera ses espaces ouverts. Dans un monde interconnecté, les décisions locales ne sont efficaces que lorsqu’elles sont rendues possibles par un consensus international.

Un forum international structuré est nécessaire pour constituer une liste de technologies qui ont besoin de gouvernance, pour évaluer chaque technologie et dégager un schéma directeur pour son code de conduite. Par exemple, un organisme gouvernemental international pourrait établir des règles spécifiques telles que l’obligation de libérer la logique derrière certains algorithmes d’IA.

Le monde de la science possède des exemples réussis de coopération internationale. Le Protocole de Montréal de 1987 (pour s’attaquer au problème de l’appauvrissement de la couche d’ozone) et la conférence d’Asilomar de 1975(pour réglementer la technologie de l’ADN) me viennent à l’esprit.

 

Conclusion

L’humanité fera face à des questions auxquelles elle n’a pas encore répondu.Nous devons commencer à avoir la conversation maintenant.

Si nous ne nous préparons pas à l’avance, nous sommes confrontés à plusieurs risques. Nous risquons de perdre énormément d’énergie pour les machines. Nous risquons de changer le cours de l’humanité sans en comprendre pleinement les conséquences. Nous risquons de créer une inégalité massive entre les «techno super-riches» et une forte sous-classe.

Quiconque a vu un seul épisode de la série télévisée primée Black Mirror devrait s’inquiéter de l’avenir dystopique qui pourrait nous attendre – si nous n’abordons pas les questions philosophiques et juridiques les plus ardues.

Ce n’est pas la première révolution technologique. Les préoccupations ne sont pas nouvelles. Ils existent depuis plus de 200 ans depuis la révolution industrielle.Mais, comme le dit l’historien et philosophe Yuval Harari, le garçon (qui criait loup) a finalement raison.

Traditionnellement, les progrès de la technologie dépassent le processus politique: nous avons déjà manqué de rédiger la charte morale pour l’Internet, et nous continuons à rattraper ce retard jusqu’à ce jour. Nous ne pouvons pas nous permettre d’être aveuglés par les prochaines frontières, que ce soit en biotechnologie ou en IA. Notre avenir est de plus en plus scénarisé par des ingénieurs et des entrepreneurs, qui ne sont pas forcément tenus pour responsables.

La société sait s’adapter au changement – de la machine à vapeur à l’iPhone en passant par des durées de vie nettement plus longues. Comme Bill Gates l’a dit,« la technologie est amorale ». C’est à nous de décider comment l’utiliser et où tracer la ligne.


Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *