Le Meilleur des Mondes ou les dérives de la société

Une mise en garde (I)

En 1932, dans son roman d'anticipation "Le Meilleur des Mondes" (Brave New World), Aldous Huxley (1894-1963) décrit un monde totalitaire divisé en castes et régit par une technologie au pouvoir absolu donnant l'illusion que la population est libre et épanouie. En fait, derrière la beauté et le plaisir d'un monde soi-disant parfait, se cache un monde déterministe dans lequel les libertés n'existent plus, où tout est sous contrôle dès la naissance des individus.

Interrogé à propos de l'avenir de notre société dans 25 ans ou un siècle qui montrait déjà après la Deuxième guerre mondiale des tendances inquiétantes, Huxley exprimait sa crainte de voir la société évoluer dans le sens de son roman. Il mettait clairement sur la table la question de la liberté des citoyens à savoir jusqu'à quel point chacun accepterait un pouvoir absolu et que ferait-on dans le cas contraire pour empêcher que cela se concrétise ou pour y échapper.

Après la guerre, son alter ego George Orwell (1903-1950) décrit dans son roman "1984" publié en 1949 un monde futur tout à l'opposé, une société où l'information est contrôlée par un gouvernement totalitaire et dans laquelle la population est surveillée par "Big Brother".

Soulignons que si les deux auteurs proviennent de milieux différents, ils eurent un parcours universitaire commun, tous les deux ont également connu la guerre et ont échangé leurs idées. Mais ayant écrit son roman avant l'ascension d'Hitler, Huxley reste néanmoins plus optimiste qu'Orwell, ce dernier vivant pratiquement un cauchemar éveillé.

Si Orwell critique vertement le monde agréable qu'imagine Huxley, ce dernier considéra le récit austère d'Orwell comme "une bonne caricature de l'utopie édoniste, dont la réalisation semblait possible et même imminente avant l'entrée en scène d'Hitler, mais qui est pourtant sans rapport aucun avec l'avenir réel. Ce vers quoi nous nous acheminons en ce moment tient d'avantage de l'Inquisition espagnole en pire, vraisemblabement grâce à la radio et la police secrète". 

Finalement, le temps donnera raison aux deux auteurs; on sait d'expérience par les abus qu'ils ont entraîné dans certains pays que ces deux dystopies sont des mondes à éviter.

Si nous transposons à l'époque actuelle ces thèmes dystopiques qui ont déjà été déclinés à maintes reprises dans la littérature et au cinéma, concrètement posons-nous cette question : sommes-nous d'accord pour mettre indirectement voire volontairement notre vie privée entre les mains d'autrui y compris celles de robots à travers les informations que nous échangeons avec les politiciens, les entreprises privées et les services publics ou celles que nous laissons involontairement traîner derrière nous sur Internet ou qui sont exploitées à notre insu ?

A lire : Le meilleur des mondes, Aldous Huxley

1984, George Orwell

L'intuition et les craintes d'Huxley et d'Orwell se sont malheureusement avérées prémonitoires des dérives actuelles. En effet, les deux scénarii sont aussi dangereux l'un que l'autre et pourtant des gouvernements contemporains s'en inspirent pour diriger leur pays (cf. les dictatures dont la Chine et même une démocratie comme les Etats-Unis sous l'administration Trump).

Nous allons prendre quelques exemples concrets en décrivant d'abord l'origine du concept ou de l'invention, puis sa mise en application pour terminer par insister sur les difficultés rencontrées ou les dérives et les abus auxquels ces nouvelles technologies nous exposent. Nous reviendrons dans un autre article sur les Avantages et inconvénients de l'intelligence artificielle.

L'automatisation et la robotique

Le concept d'automatisation est très ancien. L'invention du moulin à vent remonte à plusieurs milliers d'années (on le retrouve en Perse au VII^e siècle avant notre ère) mais son usage ne s'est généralisé en Europe qu'à partir du XII^e siècle, d'abord le long des côtes maritimes des pays nordiques. Durant le siècle des Lumières (XVIIII^e), on considérait déjà qu'il s'agissait d'une automatisation d'une tâche humaine.

Le plus grand progrès fut accompli au XX^e siècle lorsqu'Alan Turing inventa sa fameuse machine éponyme, le premier calculateur mécanique programmé. Il prouvait ainsi que certaines tâches humaines pouvaient être réalisées par des machines exécutant une procédure programmée. Depuis, les progrès en électronique, cybernétique, robotique et informatique n'ont plus jamais faibli.

L'automatisation de l'industrie débuta avec les chaînes de montage chez Ford notamment en 1913 puis avec les premiers calculateurs au milieu du XX^e siècle. Si Ford était une société privée, le développement des calculateurs fut entièrement financé par les gouvernements et même par l'armée quand il s'agit de développer les premiers microprocesseurs et le réseau ARPANET, l'armée américaine (DARPA) ayant bien compris l'intérêt de cette technologie de pointe bien avant que le public y comprenne quelque chose.

Ensuite avec l'aide d'IBM et d'autres grands constructeurs informatiques, des usines et des entrepôts ont progressivement été gérés par des robots infatiguables et costauds. En parallèle, l'exécution de nos transferts et ordres bancaires furent pris en charge par des programmes et furent automatisés ainsi que les caisses de nos magasins de quartier puis des supermarchés.

Demain dans les grandes entreprises, des robots sélectionneront peut-être le personnel qualifié après un screening approfondi. On peut même envisager d'ici quelques décennies que le candidat à l'emploi dialoguera avec un robot qui serait piloté à distance par un recruteur équipé de lunette à réalité augmentée et consultant un logiciel d'IA d'évaluation (ce qui se fait déjà parfois).

Entre-temps, les robots font leur timide apparition dans certains lieux publics en commençant par les hôpitaux, les gares, les aéroports et les grands lieux d'expositions, sans oublier le rôle de plus en plus important des robots autonomes au sein des armées.

Après l'automatisation des chaînes de montage au XX^e siècle, depuis les années 2000 nous voyons concrètement s'ouvrir progressivement la voie vers l'industrie 4.0, c'est-à-dire un secteur technologique de pointe combinant le domaine de l'information (l'informatique au sens large y compris l'IA), des communications mobiles et de la robotique, en accordant une place de choix aux technologies numériques.

Selon une estimation faite en 2016 par Klaus Schwab, fondateur du Forum de Davos, la robotisation de notre société entrainerait la suppression nette de 5.1 millions d’emplois en 2020, dont les deux tiers dans les secteurs des emplois de bureau et de l'administration.

Selon une étude du bureau d'experts de PwC publiée en 2017, au début des années 2020 environ 3% des emplois actuels risqueraient d'être automatisés, 20% à la fin de la décennie et jusqu'à 30% vers 2035. 

Selon le rapport de Forrester publié en 2023 (lire aussi le résumé sur The Register), l'IA pourrait remplacer 2.4 millions d'emplois aux États-Unis. Les auteurs prédisent également que l'IA générative qui est l'une des dix technologies émergentes en 2023 entraînera une perte de 9.3% des emplois à cause de l'automatisation, cette proportion atteignant 30.4% d'ici 2030. Mais les auteurs soulignent que d'autres formes d'automatisation auront un impact plus important.

Certains pays comme la France pourraient être plus affectés. À long terme, les hommes (41%) seraient plus affectés par l'automatisation que les femmes (32%). Conséquence directe, nos gouvernements seront confrontés à un chômage stucturel croissant et une augmentation des inégalités sociales, tandis que les entreprises verront leur marché se contracter.

Nous voyons déjà les effets de cette automatisation depuis quelques décennies dans le secteur bancaire notamment. Aujourd'hui seules quelques personnes vont encore retirer de l'argent liquide à un guichet automatique car la plupart d'entre nous paye ses achats par carte bancaire. Il y a quelques décennies, on passait régulièrement déposer ou retirer de l'argent et des documents à la banque, assurant du travail à plusieurs employés. Aujourd'hui, il n'y a presque plus de clients dans les banques, les succursales ont soit disparu soit furent réorganisées car chacun peut interroger sa banque et obtenir ses documents par Internet.

Concernant le support informatique de premier niveau par exemple (service client, helpdesk et service desk), là où en 1990 ou même encore en 2020, des employés de banque passaient leur temps à réinitialiser le mot de passe des investisseurs, leurs transmettaient des copies de leurs données par FTP ou sur clé USB, généraient des rapports financiers, configuraient leur profil d'investisseur ou vérifiaient leurs transactions, donnant du travail à plusieurs employés qualifiés (Bac+3, Bac+5), aujourd'hui ce travail est réalisé par le client lui-même à travers une interface client-serveur accessible par Internet via un canal hautement sécurisé. Même le travail de contrôle effectué au sein de la banque est effectué par des "robots", des logiciels, et l'humain intervient seulement parfois à la fin de la chaîne pour valider les actions les plus sensibles.

Même dans les PME et le secteur du transport par la route, la gestion des stocks et la logistique sont simplifiées car beaucoup de processus ont été automatisés. Cette automatisation qui permet d'être plus productif se paye par un investissement dans des produits informatiques complexes et le licenciement du personnel peu qualifié et son remplacement par moins de personnel mais très qualifié et parfois polyvalent.

Illustrations de robots humanoïdes réalisant des tâches spécialisées ou manuelles simples dans l'industrie et les PME tels que prévu d'ici 2040; c'est-à-dire demain. Mais cette date estimée par les analystes paraît trop optimiste. En revanche, vers 2100, ils assisteront probablement les salariés. Si les robots prennent en charge des tâches complexes, cela signifie qu'ils remplacent des emplois qualifiés. Documents D.R. et Javier Pierini/Getty Images.

Enfin, malgré des investissements très onéreux qui exigent le remplacement complet des chaînes de montage, le secteur de l'automobile n'a pas hésité à automatiser ses processus les plus simples et routiniers dès la première heure. Aujourd'hui, les bras robotiques équipent toutes les usines et font la moitié du travail des ouvriers qualifiés. Progrès oblige, demain, malheureusement, on peut craindre que des emplois qualifiés seront remplacés par des robots autonomes.

Des robots chez Audi, Amazon et Mercedes-Benz

Si les ouvriers des usines d'assemblages de voitures n'ont jamais beaucoup apprécié les robots-peintres et autres robots-soudeurs qui les épaulaient, en revanche chez Audi ils apprécient le remplacement de ces robots de première génération par des versions à "visage humain", c'est-à-dire dont le haut de la machinerie est équipé d'un écran affichant deux yeux et un sourire. Même si l'aspect reste naïf, ce nouveau type de robot donne l'impression d'avoir des sentiments et de comprendre les ordres de son interlocteur, ce qui renforce le lien entre l'homme et la machine et la bonne volonté du personnel qualifié. Depuis, en collaboration avec des roboticiens, l'industrie 4.0 fait déjà beaucoup mieux.

Comme illustré ci-dessous à gauche, en octobre 2023 Amazon lança les premiers tests visant à utiliser des robots Digit fabriqués par la société américaine Agility Robotics pour effectuer des tâches "banales et répétitives" comme ramasser et collecter les paniers vides des travailleurs.

A gauche, fin 2023 Amazon débuta les premiers tests visant à utiliser des robots Digit fabriqués par Agility Robotics pour ramasser et collecter les paniers vides des ouvriers. Document Jason Redmond/AFP. D'autres photos sont disponibles sur la page Instagram d'Agility Robotics. A droite, Mercedes-Benz teste depuis 2024 des robots humanoïdes Apollo d'Apptronik pour effectuer des tâches simples comme aller chercher et transporter des objets sur les chaînes de montage afin de soulager le travail des ouvriers humains qui peuvent ainsi s'occuper de tâches plus importantes.

Le 15 mars 2024, la société Apptronik, une spinout issue du Human Centered Robotics Lab de l'Université du Texas à Austin, annonça la signature d'un accord avec le constructeur allemand Mercedes-Benz pour leur livrer des robots humanoïdes Apollo capables d'effectuer des tâches simples comme aller chercher et transporter des objets sur les chaînes de montage, contribuant ainsi à alléger la charge de travail des ouvriers humains. Selon Apptronik, "les robots seront également utilisés pour effectuer d'autres tâches peu qualifiées comme l'assemblage de base. Cela permettra aux ouvriers humains de se concentrer davantage sur des tâches plus importantes et de réduire le risque de microtraumatismes répétés et d'autres problèmes de santé et de sécurité liés aux tâches manuelles."

Dans ces deux exemples, si de fait les robots soulagent le travail des ouvriers, ils occupent aussi des emplois à temps plein. Si actuellement cela n'a pas d'impact sur le nombre d'ouvriers engagés par ces entreprises ni sur la masse salariale, à terme, dès que ces robots auront prouvé leur efficacité, il est probable qu'il y aura un impact sur le personnel, comme le fait d'avoir remplacé certains d'entre eux pas des bras robotiques (ou robotisés). 

A l'inverse de ce que certains prédisent, ces entreprises ne vont jamais remplacer tous leurs ouvriers par des robots. En revanche, d'ici quelques années, à mesure que les robots se perfectionneront, il risque d'y avoir des pertes d'emploi.  Etant donné que les chaînes de montage ou lignes d'assemblage se numérisent tous les jours un peu plus, il est impératif que les ouvriers soient spécialisés en commandes numériques (dans l'industrie y compris automobile, beaucoup d'ouvriers qualifiés travaillent déjà sur des écrans tactiles) et soient formés aux nouvelles technologies au risque d'allonger les files de chômeurs et d'assistés sociaux.

De nos jours, pour des raisons à la fois techniques, économiques et sociales, il est inimaginable que des robots humanoïdes autonomes remplacent les humains sur les chaînes de montage des voitures (à gauche et au centre) où assurent la maintenance de notre propre véhicule dans un garage (à droite). Mais sachant qu'on ne peut pas arrêter le progrès au risque de perdre des marchés, grâce à l'intelligence artificielle, ces usines et garages 4.0 pourraient bien exister avant l'an 2100, au grand dam des ouvriers et des syndicats. Documents T.Lombry.

Enfin, n'oublions pas non plus la présence des robots bien que plus discrète et sous une version plus banale mais non moins invasive à notre domicile à travers les détecteurs et autres caméras de la domotique, dans notre voiture et bien entendu dans notre ordinateur et notre smartphone ou notre tablette qui communiquent sans cesse la position de son propriétaire à l'opérateur de téléphonie qui conserve ces données quelques mois à toute fin utile d'enquête.

Magasin automatisé et commerce en ligne

En 2016, Amazon ouvrit le premier magasin d'alimentation sans caisse dans sa ville natale de Seattle, aux Etats-Unis, sous l'enseigne "Amazon Go". C'était une version "beta" exploitant la technologie Just Walk Out (JWO) réservée aux employés d'Amazon afin d'évaluer si le concept était pratique, viable et satisfaisait la clientèle avant qu'elle soit exportée dans d'autres villes et d'autres pays début 2017.

Le succès fut au rendez-vous car depuis Amazon Go a ouvert 22 autres magasins aux Etats-Unis (San Francisco, Silicon Valley, etc). En revanche, l'Amazon Go installé à Dalston, dans le nord de Londres en 2021 ferma ses portes en 2023. Mais Amazon a l'intention d'installer de nouveaux Amazon Go en Grande-Bretagne. La surface de ces mini-supermarchés sans caisse varie entre 42 et 214 m².

Depuis 2017, des magasins d'alimentation Amazon Go sans caisse ont été ouverts aux Etats-Unis (Seatlle à droite). L'idée a été reprise par des dizaines d'autres enseignes à travers le monde.

Depuis l'idée a été copiée par de nombreuses enseignes dont Zippin and Standard Cognition installée à San Francisco et Giant Eagle, Inc. de Pittsburgh qui a déjà installé 400 magasins aux Etats-Unis. Aujourd'hui, le concept a conquis le monde. Ainsi, en Chine 750 magasins "Auchan minute" ont été ouverts à Pékin et Shanghai en 2017 et un magasin fut ouvert à Villeneuve d’Ascq en France en 2019 (cf. cette photo).

Les "Auchan minutes" ont une superficie variant entre 18 et 60 m² et n'ont besoin que d'un seul opérateur qui vient réassortir le magasin depuis un autre point de vente de la marque. L'avantage pour le client est multiple; ce type de magasin est ouvert en permanence, il n'y a pas de file d'attente et les produits sont proposés en fonction des goûts du client. Avantage pour l'enseigne, elle fait des économies d'échelle, elle est à l'abri du risque de grève et gère son stock à flux tendu. Enfin, parfois la boutique est mobile et peut être réinstallée dans le quartier le plus fréquenté.

Sur le plan commercial, l'existence de supermarchés sans personnel où le client paye avec son smartphone annonce la possibilité de totalement automatiser le secteur du commerce de proximité. Seule restriction, dans les "Auchan minutes" qui font la taille d'un container, pour l'instant le client doit se contenter de 400 ou 500 références.

Désavantage sur le plan social, chaque magasin automatisé supprime 3 ou 4 emplois dans un secteur déjà en crise où le personnel est peu qualifié et aurait bien besoin d'un coup de pouce. L'ouverture de 750 magasins Auchan-minute ne représente pas 750 nouveaux emplois mais tout au plus une dizaine de nouveaux emplois d'opérateurs, c'est-à-dire de personnel non qualifié. Mais cela supprime virtuellement quelque 3000 emplois d'une enseigne classique. On comprend l'intérêt de ce concept pour le directeur financier de l'enseigne.

L'enseigne Carrefour s'est également lancée dans cette expérience en ouvrant la même année un point de vente automatisé "Carrefour express" au Marché aux Herbes, à Bruxelles, dans lequel les clients sont servis par un robot (à ne pas confondre avec les franchises "Carrefour express" qui sont des magasins de proximité traditionnels). Mais pour des raisons techniques et logistiques, Carrefour annonça en août 2019 qu'elle abandonna ce concept de "magasin robotisé" car "le format ne répond pas aux besoins des clients ni aux exigences de qualité du groupe".

En parallèle, en France et en Belgique l'enseigne Carrefour propose des caisses en libre-service. Les clients scannent eux-mêmes les codes-barres des articles qu'ils achètent au moyen d'un scanner portatif (une douchette) et payent dans un espace séparé des caisses traditionnelles via leur carte de débit ou de crédit. C'est également une manière de supprimer les caisses tout en accélérant le flux des clients et en leur permettant d'éviter les attentes aux caisses. Conséquence directe de ce libre-service automatisé, chez Carrefour c'est une perte nette d'emploi pour la moitié des employers de caisse.

Après le code barre que tous les magasins ont adopté à l'exception de certains artisans et petits commerces de proximité, beaucoup d'enseignes ont adopté le système RFID pour ne citer que les magasins Saturn mais en général le client doit encore présenter ses articles à une caissière.

Chez Decathlon un système RFID automatisé fut installé à partir de 2018 où les caisses manuelles traditionnelles ont tout simplement disparu et autant d'emplois. Elles sont remplacées par un système de libre-service électronique automatisé (la solution Openbravo Web POS) où le client dépose ses articles munis d'un tag ou étiquette RFID (il se cache derrière le code barre) dans un bac qui est scanné dès qu'on y pose une marchandise. La lecture des étiquettes RFID peut se faire jusqu'à un mètre de distance, par centaines à la seconde et même à travers des emballages en carton. Le ticket de caisse suit dans la seconde. Comme alternative, Decathlon propose également aux clients d'utiliser un scanner portatif et leur smartphone pour valider leurs achats.

Ces caisses automatiques incorporent de l'intelligence artificielle et réalisent en 10 secondes ce qu'une caissière manuelle fait en plus d'une minute. Pour le client, le gain de temps est appréciable et peut diviser par deux le temps qu'il passe dans le magasin.

Non seulement cette nouvelle façon de payer ses achats accélère le temps passé aux caisses mais cette solution offre de nombreux avantages : elle permet un inventaire automatique en temps réel, d'avoir un meilleur suivi logistique, de mieux gérer les temps de production, les rebuts et les expéditions, d'analyser les habitudes d'achats et l'étiquette RFID sert d'antivol. Dans certains Decathlon l'inventaire se fait également de nuit par des robots qui parcourent les travées.

Comme les Carrefour et Auchan, les magasins Leclerc en France ont également installé des caisses en libre-service automatisées. Mais elles restent en nombre limité et ne vont pas remplacer le personnel de caisse.

Mais avec un recul de quelques années, certaines enseignes font marche arrière. Selon CNN, en 2023 les chaînes de supermarchés Target et Walmart aux États-Unis et Booths au Royaume-Uni ont réduit leurs caisses automatiques. Ces magasins reprochent à ce système une certaine lenteur, l'inefficacité et des problèmes de vol à l'étalage (ce que le webzine australien "The Conversation" avait déjà noté en 2018). 

Comme les terminaux de paiment, la lenteur des caisses automatiques dépend de l'infrastructure informatique, du débit du réseau et des serveurs qui assurent la gestion de ces systèmes. Leur mise à jour représente donc un investissement pour l'entreprise qu'il faut amortir. Quant au vol, si un client peut oublier de scanner un article, se trompe de code barre ou d'article lorsqu'il le sélectionne sur l'écran tactile, des contrôles aléatoires sont prévus, mais ils ne remplaceront jamais l'oeil scrutateur du personnel. Certaines enseignes ont donc mis du personnel supplémentaire aux caisses automatiques. Encore faut-il qu'il surveille les clients. Le contrôle reste l'un des points faibles de cette automatisation. C'est surtout vrai pour les petits commerces qui garderont donc du personnel de caisse car le risque de vol y est plus élevé que dans les grandes enseignes, ces dernières pouvant également plus facilement amortir les pertes.

Une enquête réalisée en 2021 auprès de 1000 consommateurs américains révèle que 60% d'entre eux préfèrent utiliser le paiement en libre-service plutôt qu'une caisse avec du personnel, mais 67% ont connu des problèmes avec cette technologie. Ceci dit, ceux qui ont investi dans cette technologie vont la conserver mais ne vont pas agrandir leur nombre de caisses automatiques et donneront toujours le choix aux clients d'aller vers une caisse "humaine" ou en libre-service.

À une autre échelle, le e-commerce et ses millions de webmarchands ont le vent en poupe depuis près d'une génération. Selon e-commerce Europe, en 2015, 43% des Européens avaient acheté au moins un article sur Internet. Cette proportion est passée à 92% en 2023.

Le succès des boutiques en ligne affecte la survie des petits commerces locaux ayant pignon sur rue au point que ce n'est plus la gestion qui tue ces PME mais la concurrence d'Internet qui les conduit à la faillite. À grande échelle, cette nouvelle manière dont la population achète affecte l'économie du pays dont les gouvernements doivent prendre la mesure du risque. Malheureusement, s'ils peuvent évaluer son impact et sa probabilité et prendre certaines mesures protectionnistes, personne ne peut enrayer cette tendance, même un État totalitaire qui censurerait l'accès à Internet comme la Chine ou la Corée du Nord. Ce qui pose justement la question du rôle du monde politique à l'heure d'Internet et de l'automatisation de tous les processus et services. On y reviendra.

Les biotechnologies

Les progrès réalisés en robotique, en médecine bionique (cf. les prothèses bioniques) et le génie génétique (cf. le clonage et les OGM) nous font croire ou espérer qu'un jour l'homme sera capable de créer un être vivant synthétique, un cyborg voire même un clône de lui-même.

Même si on écarte la possibilité ou le risque diront certains de voir les humains se transformer en cyborgs, il reste que le progrès influence déjà notre espérance de vie en éloignant le spectre de la mort. Là où il y a 50 ans on mourait d'une malformation cardiaque aujourd'hui on peut vivre avec un coeur artificiel, et ce n'est qu'un exemple.

On estime qu'un enfant sur deux qui naît aujourd'hui sera centenaire. Google qui investit beaucoup dans les biotechnologies (pour des raisons d'intérêts personnels liées aux problèmes de santé de leurs dirigeants) créa en 2013 la startup Calico, dirigée par Arthur D. Levingston, dont le but est de combattre les effets de la vieillesse et d'augmenter l'espérance de vie de 20 ans d'ici 2035.

Selon le docteur Oliver Curry de l'Ecole d'Economie de Londres (LSE), sans faire appel à la technologie nous vivrons 120 ans en l'an 3000. On reviendra sur sa théorie à propos de l'avenir de l'Homme. Grâce aux nanobiotechnologies, selon le docteur Laurent Alexandre de DNAVision nous pourrions vivre 1000 ans ! Y gagne-t-on quelque chose ? La question reste ouverte.

On peut toutefois déjà émettre un bémol en ce qui concerne les maladies dites de civilisation et liées à la vieillesse (cancers, maladies cardio-vasculaires, diabète, Alzheimer, etc.) dont la proportion augmente dans tous les pays développés à mesure que la population vieillit et devient oisive. Bien sûr, on espère beaucoup de la thérapie génique et d'outils comme CRISPR pour supprimer ces maladies, mais cette technologie est encore embryonnaire même si on réalise déjà des tests cliniques mais uniquement sur certaines pathologies graves.

Des entreprises essayent également de transposer les facultés de notre cerveau sur un support de silicium, cherchant peut-être un moyen de se passer de l'être humain. Mais à vouloir tout automatiser et robotiser, un jour le peuple devenu oisif, sans pouvoir et sans réelles libertés se révoltera contre les machines et le pouvoir ayant autorisé ces dérives.

Comme on le constate, qu'on soit actif ou passif sur Internet, "geek" ou simple utilisateur occasionnel d'outils informatiques, toutes ces hautes technologies ont un impact sur notre style de vie et sur la vie tout court. En effet, à l'heure où certains biologistes prétendent avoir créé le premier chromosome artificiel (Craig Venter), que notre ADN a été décodé, qu'on peut créer des molécules artificielles, que les cellules souches peuvent reconstituer des organes fonctionnels, que les scientifiques prétendent créer des robots dotés d'intelligence et que l'IA envahit tous les domaines, on peut se demander que restera-t-il bientôt dans ce fatras d'objets artificiels, de tissus de synthèse et d'images virtuelles pour la vie et le naturel ?

La délégation du pouvoir de décision à l'IA

Concernant l'intelligence artificielle (IA) dont les performances ne sont plus à démontrer, aux Etats-Unis, la Food and Drug Administration (FDA, l'Agence du Médicament) autorisa pour la première fois en 2018 une IA à formuler un diagnostic : "Le IDx-DR est le premier système autorisé à la commercialisation qui fournit une décision de dépistage sans qu'un clinicien interprète l'image ou les résultats, ce qui le rend utilisable par des professionnels de santé qui ne sont normalement pas impliqués dans les soins oculaires". Ce nouveau système informatique cible avant tout la rétinopathie diabétique qui est une grave complication du diabète touchant un patient diabétique sur deux.

Globalement il faut reconnaître que la recherche et en particulier en IA semble aller dans le bon sens, c'est-à-dire vers plus de connaissances, de meilleurs diagnostics et des prédictions plus précises pour une société mieux informée et plus autonome , bref vers le progrès de l'humanité. Mais ces avancées technologiques cachent une face obscure.

Depuis que l'informatique est entrée dans les entreprises et les instituts de recherche, dans certains métiers faisant appel à des processus complexes ou de grandes quantités de données (nucléaire, informatique, finance, logistique, transport, sciences et parfois la médecine), l'homme se repose déjà sur l'analyse d'un système expert pour établir un diagnostic ou une cartographie des résultats. En théorie, car ce n'est pas toujours vrai, c'est toujours l'homme qui finalement décide et valide l'action à prendre. Seuls des processus secondaires, simples ou routiniers sont totalement automatisés pour accélérer le traitement des informations et autres commandes des clients. De nouvelles professions (surtout aux Etats-Unis) ont également tendance à utiliser l'IA comme la police, la justice, et parfois même les ressources humaines, trois secteurs où cela frise la pseudoscience.

Ceci dit, à part des objets du quotidien comme la tondeuse à gazon, le smartphone ou la caméra de surveillance, il n'est pas certain que notre société soit prête à accepter la présence de créatures disposant d'intelligence artificielle parmi nous. En effet, la plupart des chercheurs en IA pensent que si les gens accepteront facilement des implants bioniques, y compris dans le cerveau - et certaines personnes en ont déjà - ils n'accepteront jamais de confier leur conscience à un support artificiel ou d'être commandés par une machine. Mais en sont-ils si certains ?

Il faut nuancer cette affirmation car c'est déjà le cas quand nous écoutons notre GPS et suivons ses indications routières. L'argument disant que c'est sans risque n'est même pas recevable. En effet, d'abord le système GPS peut être piraté et plusieurs constructeurs ont dû rappeler leurs véhicules pour une mise à jour de sécurité.

Ensuite, certains conducteurs écoutent si bien la voix sensuelle de leur GPS qu'ils font demi-tour sur l'autoroute ou empruntent sans scrupule des voies privées ! Cela signifie que certaines personnes délèguent leur pouvoir de décision à la machine et perdent tout sens critique au point de mettre leur vie en danger ! Et ce n'est que le début des interactions entre l'homme et la machine. Mais cela indique aussi clairement les limites de ces soi-disant "assistants intelligents" comme celles des voitures autonomes qui se crashent ou sèment la mort sur leur passage ! Ce n'est pas très rassurant et dénote une fuite en avant des chercheurs et des autorités civiles tout à fait inconscients des risques réels de leurs inventions ou décisions. Nous reviendrons sur cette délégation du pouvoir de décision à l'IA qui donne le faux sentiment à leur propriétraire de se déresponsabiliser. C'est commode mais totalement faux et irresponsable.

A priori, nous n'accepterions pas non plus d'être influencés inconsciemment par des informations venues de l'extérieur, par exemple si d'aventure notre corps était connecté à des systèmes artificiels. Mais où s'arrête la conscience et commence l'inconscient ? Nous savons tous qu'en étant bien éveillé et l'esprit alerte on peut être influencé inconsciemment par des messages publicitaires qu'ils soient écrits, verbaux, sous forme d'images voire suggérés dans des perceptions gestaltiennes.

Contrairement aux fictions qu'on voit au cinéma, en informatique la réalité virtuelle et augmentée est concrète et parfaitement maîtrisée par les ingénieurs, les militaires et les pilotes, y compris les astronautes. Google et de nombreuses startups exploitent déjà cette technologie à travers des interfaces visuelles ou tactiles, y compris dans des jeux de simulations ou de rôles. Il existe même des implants neuronaux ou des lentilles de contact assurant l'interface entre l'homme et la machine. Les utilisateurs concernés sont donc parfois physiquement connectés à un ordinateur, certains handicapés moteur n'ayant pas d'autre alternative pour communiquer avec le monde extérieur. Cette technologie fait donc déjà partie de notre quotidien même si son usage est loin d'être généralisé. Personne ne s'y oppose car la technologie nous semble actuellement inoffensive, offrant plus d'avantages que d'inconvénients.

Plus près de nous, plus d'un internaute est déjà connecté en permanence à Internet via son appareil mobile ou son ordinateur et peut facilement se laisser influencer par les commentaires ou les publicités ciblées qu'il consulte ou qu'on le force presque à consulter, notamment quand il visionne des vidéos sur les réseaux sociaux ou consulte sa messagerie ou ses SMS. On y reviendra.

En e-commerce, certaines personnes disposent déjà d'un implant remplaçant la validation des commandes passées via une interface web ou portent en permanence une bague connectée qui remplace leur smartphone. Ces personnes sont a priori favorables à une interconnection physique avec le monde virtuel sans même imaginer les effets secondaires physiologiques et psychologiques qu'entraînerait une telle activité, sujet qui n'a évidemment encore jamais été étudié.

Mais ce n'est que le début de l'histoire. En effet, si on peut accéder à des données virtuelles d'un clin d'oeil ou d'un signe de la main, on peut tout aussi bien consulter des données confidentielles ou privées si le programme le permet ou si le cyberpirate est suffisamment expérimenté. La violation de la vie privée avec tous les abus potentiels que cela sous-entend n'est pas loin. Ce n'est pas de la fiction puisque certains gouvernements étudient la question (sans parler des risques liés à la cybercriminalité organisée).

Jusqu'où la Science peut-elle aller trop loin ? On ne peut le dire franchement sans mettre d'obstacles au progrès, n'en conviennent aux plus conservateurs. Mais l'éthique a un rôle certain à jouer dans cette aventure et la question des OGM, des manipulations génétiques et de l'utilisation de l'IA ont déjà soulevé bons nombreuses questions éthiques. Notre société doit effectivement avoir des garde-fous et définir clairement les limites entre l'imagination et la folie, la rationnalité et la démagogie, la science et la fiction, le progrès et la décadence. Visiblement certains pays d'Asie n'en on cure et s'engouffrent dans ce flou juridique sans même mesurer les conséquences de leurs actes.

Pour éviter ces dérives, tout le monde se dit qu'un jour le législateur devra réglementer les interactions entre l'homme et la machine, définir dans quelles conditions (jusqu'à quel niveau "d'intégration", combien de temps et avec quels risques) l'être humain peut s'interconnecter physiquement avec une machine intelligente sans risquer d'y perdre le sens des réalités et surtout sa santé mentale et, surtout, définir les limites éthiques à ne pas franchir.

Face aux abus que certaines entreprises et gouvernements font de l'IA et de ses dérives éventuelles, soyons heureux d'apprendre qu'en 2024 le Parlement européen adopta la première loi sur l'IA qui encadre son utilisation et fixe les limites à ne pas dépasser. Ce Pacte de l'IA s'applique à toute entreprise, produit et service disponible en Europe et donc y compris aux développeurs de logiciels et gestionnaires des réseaux sociaux non-européens.

Deuxième partie

L'impact pervers des réseaux sociaux