Le blog de Klaus-Gerd Giesen


Intelligence artificielle: comment les multinationales de Silicon Valley tentent de dépolitiser le débat

 

16 octobre 2016

 

Les procédés et dispositifs nourris par l’intelligence artificielle commencent déjà à envahir notre vie quotidienne, alors que nous n’en sommes que tout au début de cette révolution technologique : assistants vocaux, moteurs de recherche sur le web, voitures autonomes, drones militaires, robots, chatbots, reconnaissance faciale, pour ne citer que quelques exemples. Dans les décennies à venir on passera à une intégration homme-machine de plus en plus prononcée, et cela va très certainement bouleverser notre existence, aussi bien sur le lieu du travail que dans nos vies privée et en société. Un marché aux potentialités énormes s’ouvre aux entreprises à la pointe dans ce domaine.

 

Simulant le réseau de neurones de notre cerveau, l’intelligence artificielle (IA) mobilise des méthodes algorithmiques et la puissance de calcul exercée sur des masses absolument gigantesque de données, et va de par là peut-être un jour dépasser nos facultés humaines. Certains spécialistes estiment possible l’émergence, vers 2050, de machines programmées de telle façon qu’elles seront capables de penser de façon autonome, d’apprendre par elles-mêmes, de développer des projets, voire d’avoir conscience d’elles-mêmes. Mais même si l’on ne devait pas atteindre ce niveau, il est évident que les mutations à venir seront tellement profondes – d’aucuns évoquent un changement de civilisation - qu’il faut de toute évidence réfléchir et publiquement débattre des enjeux éthiques et sociétaux : quel rôle souhaitons-nous confier aux robots et quelles doivent être les limites de leur activité, par exemple dans les soins à l’hôpital ou à domicile ? Jusqu’où peut-on accepter la déshumanisation du travail ? Peut-on laisser se développer des combats militaires presque entièrement automatisés ? Comment appréhender l’arrivée de l’intelligence artificielle à l’école et à l'université ? Dans quels cas des puces électroniques implantées dans le cerveau sont acceptables ? Quelles libertés sommes-nous disposés à sacrifier sur l’autel de la « sécurité » procurée par des systèmes de surveillance fonctionnant à l’IA? Les interrogations et craintes abondent.

 

Il est à parier que tôt ou tard les populations prendront conscience du monde transhumaniste glaçant qui s’annonce, ne serait-ce que par le chômage de masse qui risque de se produire lorsque les machines prendront en charge des métiers entiers, notamment dans les services (assurances, logistique, enseignement, banques, professions juridiques, mutuelles de santé, agences de voyage, services de traduction, d’éducation et de soins médicaux, création et production de musique et de textes, etc.). Une résistance de type luddite pourrait se former et politiquement empêcher le déploiement de certaines nouvelles technologies issues de l’intelligence artificielle. Or, un tel enraiement ne serait évidemment pas au goût des grandes firmes multinationales de Silicon Valley qui investissent des sommes absolument colossales dans la recherche portant sur l’IA. L’oligarchie des géants américains constituée par Google, Amazon, Facebook, Apple, IBM, et Microsoft, nous concocte déjà le monde de demain. Leur surinvestissement en la matière les rend vulnérables aux éventuels rejets, par la société, des artefacts en construction. De leur point de vue, il importe donc d’anticiper et de contrer toute résistance collective. C’est la raison pour laquelle cinq d’entre elles viennent de lancer il y a deux semaines le projet commun Partnership on AI.

 

Concurrentes dans le développement de l’intelligence artificielle, les grandes firmes multinationales américaines partagent néanmoins un intérêt commun pour la plus grande acceptation sociale possible des futures technologies. Le Partnership on AI est destiné à réfléchir sur les enjeux éthiques et à faire des propositions. Et on y met le paquet : un financement très conséquent, que l'on imagine à la hauteur de, voire nettement supérieur au projet concurrent OpenAI autour d’Elon Musk (Tesla, SpaceX), fondé en décembre dernier et doté de la coquette somme de plus d'un milliard de dollars. Des milliards de dollars pour "l'éthique"? On croit rêver! Parmi les grandes, seule la firme Apple reste pour l’instant à l’écart, mais négocie son entrée dans l’un des deux clubs selects (qui pourraient fusionner à terme).

 

L’écran de fumée déployé autour de ces deux nouveaux think tanks fait naturellement état de leur volonté d’agir pour un monde meilleur et au bénéfice de tous, de rendre transparentes les avancées en matière d’intelligence artificielle, de faire participer des organismes et experts indépendants, et même la population, dans la définition des objectifs. Il n’en reste pas moins qu’avec une telle force de frappe financière les géants américains vont sans doute être en mesure de largement orienter dans le sens souhaité, voire de manipuler, les débats éthiques et sociétaux, tout en s’abritant derrière le cache-sexe de l’éthique. La ficelle est un peu grosse, mais quoi qu’il en soit, le jeu est désormais pipé. En réalité, en s’appropriant le label « éthique », jusqu’alors réservé aux spécialistes en la matière qui se sont d’ailleurs retrouvés ce week-end à l’occasion d'un grand congrès à New York, le Partnership on AI tentera de dépolitiser les choix de société, entre autres par le financement massif de certaines recherches universitaires au détriment d’autres, par la diffusion à grande échelle de rapports et d’autres publications auprès des médias et de l’opinion publique, par le lobbying massif auprès des gouvernements et parlementaires. Ainsi, il est à craindre qu’à l’avenir, les voix dissidentes ou opposées à l‘IA, comme celle de Stephen Hawkins, seront moins audibles dans l’espace public, et les discussions porteront sur des risques relativement mineurs. Une profonde remise en cause de certaines technologies ne pourra peut-être plus avoir lieu, ou restera tout à fait marginalisée. Un cas classique d’ingénierie sociale, mais cette fois-ci avec un montage financier encore jamais atteint.

 

Dès lors, il importe que les citoyens, les acteurs de la société civile et les chercheurs académiques réellement indépendants montent rapidement au créneau et investissent pleinement le débat public. La partie s’annonce difficile face au « valium pour le peuple » administré de force par l’oligarchie des firmes multinationales de l’IA, mais pas forcément perdue d’avance. Des nouvelles formes de discussion et de mise en réseaux sont à inventer. De toute façon, tout un chacun peut d’ores et déjà se désinvestir des six géants, et ainsi leur couper un peu l’herbe sous les pieds : pour pouvoir faire tourner leurs machines elles ont besoin de bases de données pharamineuses. Il s’agit de nos données, stockées à notre insu sur des millions de méga-ordinateurs leur appartenant. Dès lors, le premier acte de résistance peut consister tout simplement à ne plus leur donner ce dont elles ont désespérément besoin : utiliser Ecosia, Qwant ou DuckDuckGo (qui ne collectent pas de données) au lieu du moteur de recherche Google ; ne plus acheter ses ebooks sur le site d’Amazon mais par exemple chez Chapitre ; abandonner son compte Gmail au profit de Tutanota, de Openmailbox, ou d’autres prestataires indépendants; recourir au traitement de texte Open Office à la place de Word de Microsoft ; se servir des navigateurs Epic, Opera ou Vivaldi plutôt que de Chrome, Safari ou Internet Explorer; s’inscrire au réseau social décentralisé Diaspora et y associer Twitter (sans donner à celui-ci ses données) ; effectuer ses sauvegardes en nuage (gratuites) chez MEGA ou HubiC au lieu de ICloud Drive d’Apple ou de OneDrive de Microsoft ; échanger des messages sur Telegram ou Signal plutôt que sur WhatsUp récemment racheté par Facebook (ce qui lui permet de mieux croiser les données); recourir à un VPN pour surfer sur le web de façon plus anonyme. La collecte de données tous azimuts représente l’une des clés de l’intelligence artificielle et, partant, un levier possible pour affaiblir quelque peu le cartel des multinationales américaines de l’IA. Cela ne remplacera évidemment pas les expertises neutres et indépendantes, ni les vrais débats éthiques et politiques en société, ni surtout la sortie de l’immobilisme de nos gouvernements pour réguler, avec la force du droit, l’intelligence artificielle.