Notre futur et l'éthique numérique dans un monde connecté
«Le développement d'une intelligence artificielle totale (IA) pourrait signifier la fin de l'espèce humaine» selon Stephen Hawking, le spécialiste mondialement reconnu de physique théorique qui a récemment prononcé ces mots à la BBC. «L'intelligence artificielle est la menace la plus grave pour l'espèce humaine depuis l'avènement du nucléaire». Ce sont les mots prononcés par Elon Musk, un investisseur incontesté de haute technologie et PDG de Tesla. Si Hawking et Musk sont inquiets, ne devrions-nous pas l'être également ? Le développement technologique accélérant sans cesse, comment pouvons-nous être sûr qu'un jour nous ne serons pas totalement submergés par ses produits? Et, quel rôle devra jouer l'éthique pour nous guider dans ce nouveau monde? Au début de ce mois, le futurologue Gerd Leonhard a abordé ces questions lors d'une conférence Conférence du TEDx Bruxelles: «Digital ethics and the future of humans in a connected world». Imaginez un instant ce tableau: Des nanorobots qui corrigent le taux de cholestérol de notre sang; une puce dans votre corps qui contrôle votre état de santé et partage ces informations avec votre médecin, mais aussi votre compagnie d'assurance; presque tout, la musique, les films, les dossiers de santé, les relevés bancaires, etc. est digitalisé ou automatisé et tout ce que vous mangez, buvez, regardez ou communiquez peut être pisté. Toutes ces choses peuvent améliorer votre bien-être ou votre sécurité, mais elles peuvent aussi compromettre toute idée de solitude ou de confidentialité. «Est-ce inquiétant ou pratique?», a demandé Gerd Leonhard au public du TEDx. C'est exactement la question à laquelle nous devons répondre rapidement car la technologie progresse à une «vitesse astronomiquement exponentielle» et qu'à l'horizon 2029, les machines auront une intelligence similaire voire supérieure à la nôtre. «Quand Google retrace chacun de vos mouvements, est-ce utile ou effrayant ?», a demandé Gerd Leonard. «De fait, tout dépend de votre éthique. Le débat entre sécurité et vie privée est la clé qui nous permet d'expliquer pourquoi l'éthique est si importante. Mais qui doit décider de ce qui est acceptable d'un point de vue éthique quand il s'agit de notre vie privée? Nos gouvernements?» Gerd Leonhard a ensuite souligné les antécédents de certains gouvernements sur la question : «Le directeur du FBI a déclaré que ce que faisait Apple en ce moment, autoriser les utilisateurs à se cacher derrière les codes de chiffrement de leurs nouveaux iPhones (potentiellement), devrait être interdit». Le directeur du GCHQ (services de renseignements britanniques) a également déclaré «la vie privée n'a jamais été un droit absolu», et le président Obama «qu'il était important d'accepter qu'il n'est pas possible d'avoir 100 % de sécurité et 100 % de vie privée». Qu'en est-il des intermédiaires de plus en plus puissants comme Facebook et compagnie, a également demandé Gerd Leonhard: «Devons-nous laisser ces décisions morales à ceux qui contrôlent l'accès à internet, les plateformes, les outils, les applications, les sites web? Est-ce vraiment une bonne idée? Eh bien, cela dépend de qui il s'agit, mais ce n'est sûrement pas une simple alternative entre blanc et noir». Dans le futur, quand trois autres milliards de personnes auront accès à l'internet, l'éthique digitale deviendra une question essentielle, a insisté Gerd Leonhard: «Aujourd'hui, nous avons la prochaine génération d'assistants personnels intelligents comme Siri et Cortana et des intelligences artificielles dans le nuage»: Est-ce que l'humanité deviendra une entité traçable, facilement manipulée, télécommandée et impersonnelle? Est-ce que l'avenir sera synonyme de croyance absolue dans la technologie? La technologie peut-elle réellement tout réparer ? «La technologie nous envahit et nous pénétrons la technologie», a-t-il poursuivi, «c'est ce que l'IA veut réellement dire, un morceau d'humanité à l'intérieur de la machine». Gerd Leonhard a appelé cette réalité qui approche à grands pas l'Helven, pour Heaven, le paradis et Hell, l'enfer - selon la façon don’t vous l'observez. «La question», a-t-il ajouté, «n'est plus de savoir si nous pouvons faire quelque chose pour l'empêcher, la réponse est oui, tôt ou tard. Les questions qu'il faut maintenant se poser sont pourquoi, qui et quand». Après avoir posé toutes ces nombreuses questions morales, Gerd Leonhard a ensuite proposé quelques orientations bienvenues : «Nous avons besoin d'un équilibre. Nous devons poursuivre notre humanité et la technologie, permettre l'inefficience et rechercher l'efficience. Exponentiel parle de vitesse, de puissance et d'effet de réseau. J'aimerais proposer un néologisme intitulé «humanentiel» qui parle de profondeur, de signifiance et de réalisation de soi. Toutes ces choses convergent». Il a souligné les trois règles de base que la Société du monde futur (World Future Society) recommande quand on parle de l'éthique de notre réalité future: L'humanité ne doit pas devenir la technologie; L'homme ne doit pas être sous la domination des intelligences artificielles et ne devrait pas construire de nouvelles créatures. «Sans un travail approfondi sur l'éthique numérique», a averti Gerd Leonhard en guise de conclusion, «nous pourrions très bien être menacés d'anéantissement par nos propres inventions». Pour plus d'informations, veuillez consulter: TEDx Bruxelles http://www.tedxbrussels.eu
Pays
Belgique