Aujourd’hui, j’ai ouvert Facebook et découvert que deux de mes meilleurs amis dans un autre pays se mariaient. Ca semblait bizarre, parce qu’ils sont ensemble depuis de nombreuses années, ont de grands enfants et n’avaient rien annoncé. Mais le message sur Facebook semblait exact, des photos appropriées l’accompagnaient ainsi que des félicitations. J’ai donc envoyé un message à « l’épouse » qui m’a confirmé qu’ils ne se mariaient pas mais que, lorsqu’elle avait voulu envoyer un email, Facebook lui avait demandé si elle était mariée, à qui, puis il avait créé les messages lui-même.
Nous avons pris l’habitude d’ignorer toutes sortes de fausses nouvelles diffusées sur Facebook, qu’elles y soient par méchanceté, naïveté ou d’autres raisons obscures, mais nous pouvons en général distinguer une intention humaine derrière elles.
Le fait que Facebook peut produire de fausses nouvelles par l’accident d’un algorithme est un autre problème. J’ai suivi avec intérêt le débat entre Mark Zuckerberg et Elon Musk sur le futur des intelligences artificielles.
« Les bases de l’affrontement le plus réservé aux fans d’informatique au monde, furent jetées par Musk, le PDG et Tesla et SpaceX, au début du mois, quand il a développé un nouveau plaidoyer en faveur de la la régulation proactive de l’intelligence artificielle car il croit que cela pose un risque fondamental pour l’existence de la civilisation… Je continue à donner l’alerte, mais tant que les gens ne verront pas des robots dans les rues tuant des gens, ils ne sauront pas comment réagir parce que c’est tellement diffus, a-t-il déclaré. Interrogé sur son opinion à ce sujet, Zuckerberg a déclaré ceci : j’ai une opinion arrêté à ce sujet. Je suis optimiste. Et je pense que les défaitistes qui tentent de diffuser des scénarios apocalyptiques – je ne comprends pas cela. C’est vraiment négatif et d’une certaine manière je pense que c’est plutôt irresponsable. » The Guardian.
Mais il semble qu’avant que les robots viennent prendre le contrôle du monde, nous subirons quelques accidents inquiétants simplement par le fait que les algorithmes qui gèrent la plupart des tâches automatisées des géants du web, se voient confier des tâches de plus en plus complexes qu’ils pourraient être incapables de gérer. De petits exemples sont déjà visibles, cette fausse nouvelle à propos de mes amis reste sans gravité, mais qui sait quel genre de confusion peut amener des « informations » moins anodines à influencer le comportement de ceux qui croient tout ce qu’ils voient dans les réseaux sociaux ?
Un autre problème informatique s’est produit dans Facebook lorsque les noms des personnes qui en régulent le contenu fut rendu public :
« Révélation : Facebook a révélé les identités des modérateurs à des personnes soupçonnées de terrorisme. Cette faille de sécurité a affecté plus de 1.000 travailleurs et a forcé l’un des modérateurs à se cacher ; il craint en permanence pour sa sécurité. » The Guardian.
L’intentionnalité humaine, la façon dont la conscience structure les données provenant des sensations et de la mémoire, a une direction et un ton émotionnel. Toute l’humanité s’efforce de s’éloigner de la souffrance et de se rapprocher du bonheur. Même lorsque les choses vont mal (par exemple la violence croissante), il est possible d’appréhender les causes du mal : la peur, la frustration, l’injustice, l’endoctrinement, la cupidité.
Si des algorithmes organisent leur propre structuration, nous ne pouvons leur attribuer une intentionnalité. Seuls les humains peuvent donner du sens. Les machines suivent une certaine logique, donnée par leurs créateurs humains, mais la recherche d’une intelligence artificielle introduit nécessairement la possibilité de relations aléatoires, une certaine « liberté » qui marque la différence avec de simples calculateurs.
Depuis qu’Alan Turing, le père de l’informatique moderne, a défini le test de Turing (qui a pour objet de détecter le moment où il devient impossible de différencier les réponses données par un humain et celles d’un ordinateur), la course pour sortir du contrôle par l’homme est lancée. Plus inquiétant encore, l’éthique humaine a perdu beaucoup de terrain dans la recherche, au sein d’une société qui place le profit comme valeur suprême. Et dans cette ère de cyberespace transnational, aucune nation ne peut espérer appliquer des règles et réglementations développées par ses institutions démocratiques, aussi imparfaites soient-elles. En d’autres termes, un nouveau type de régime totalitaire décide quel type de technologie va déterminer nos vies.
Donc il ne s’agit pas de se demander si nous allons devenir des Luddites (1) ou des technophobes paranoïaques, craignant les robots. Le danger actuel réside dans l’intention humaine qui décidera si l’intelligence artificielle ou la stupidité artificielle prévaudra. Seule une humanisation des valeurs de notre société peut orienter la technologie dans le bon sens.
(1) Ouvriers anglais du textile du 19ème siècle détruisant les nouvelles machines pour protéger leur emploi.
Traduction de l’anglais, Serge Delonville
