Le scientifique américain John Hopfield, qui a récemment reçu le prix Nobel de physique pour ses recherches pionnières dans le domaine de l’intelligence artificielle (IA), a lancé un avertissement inquiétant concernant les progrès rapides de cette technologie. M Hopfield, professeur émérite à l’université de Princeton, s’est inquiété de la méconnaissance qui entoure encore le fonctionnement des systèmes d’IA modernes et a mis en garde sur le danger potentiel qu’ils représentent s’ils ne sont pas correctement contrôlés.

Dans une vidéo enregistrée depuis la Grande-Bretagne à l’occasion d’une réunion de l’université du New Jersey, le chercheur de 91 ans a comparé les progrès de l’IA à d’autres technologies puissantes dont il a été témoin au cours de sa vie, telles que l’ingénierie biologique et la physique nucléaire. Ces deux technologies ont eu des effets à la fois bénéfiques et dévastateurs. Pour M Hopfield, la clé réside dans la compréhension : « En tant que physicien, cela m’inquiète beaucoup de voir quelque chose qui n’est pas contrôlé, quelque chose que je ne comprends pas suffisamment pour savoir quelles limites pourraient être imposées à cette technologie ».

Les systèmes d’IA d’aujourd’hui, avec leur puissance de traitement impressionnante et leur apprentissage en profondeur, sont décrits par Hopfield comme des « merveilles absolues ». Le problème, cependant, c’est que malgré leurs avancées, les scientifiques ne comprennent toujours pas complètement leur fonctionnement interne. Ce manque de compréhension remet en question la capacité de l’humanité à contrôler les limites de l’IA et à garantir que ses utilisations sont éthiques et sûres.

Le développement de l’IA, en particulier des réseaux neuronaux et de l’apprentissage profond, a connu une croissance explosive depuis les années 1980, grâce au travail de pionnier de Hopfield et de son collègue Geoffrey Hinton, également lauréat du prix Nobel. Tous deux ont jeté les bases des systèmes d’IA actuels, qui ont eu un impact considérable dans de nombreux domaines, allant de la médecine à l’industrie, mais ont également suscité des inquiétudes quant à leurs implications futures.

Hopfield et Hinton, surnommés les « pères » de l’IA, ont critiqué l’expansion rapide de la technologie qu’ils ont contribué à créer. Ils s’inquiètent du fait que l’IA évolue plus vite que les scientifiques ne peuvent la maîtriser, ce qui accroît le risque que son développement échappe à tout contrôle.

M Hopfield plaide, à l’instar de M. Hinton, en faveur d’une intensification de la recherche afin de mieux comprendre les limites et les risques de l’IA, avant que ses capacités ne dépassent la supervision humaine. Alors que les entreprises et les gouvernements s’affrontent dans une course à la maîtrise de cette technologie, le besoin de limites et de réglementations se fait de plus en plus pressant.

L’avertissement de M Hopfield s’ajoute aux préoccupations mondiales croissantes concernant l’impact de l’IA sur la société. Si cette technologie promet de révolutionner de nombreux aspects de notre vie, elle soulève également des questions fondamentales sur le contrôle, l’éthique et la responsabilité de son développement.