À peine le prix Nobel de physique reçu pour ses recherches sur l’intelligence artificielle, Geoffrey Hinton partage ses inquiétudes. Lors d’une interview, l’expert a partagé sa crainte : le fait qu’un jour, la technologie échappe au contrôle humain.
Geoffrey Hinton, qui a partagé ce prix avec John J. Hopfield pour leurs travaux sur les réseaux de neurones, pense que l’IA évolue à une vitesse telle qu’elle pourrait devenir un danger. L’expert estime qu’il y a entre 10 et 20 % de chances que l’IA pose de vrais risques pour l’humanité. C’est un point de vue que partage aussi Elon Musk. D’ailleurs, selon certains employés d’OpenAI, on serait déjà proches de créer une IA qui fonctionnerait comme un cerveau humain.
À lire > Ces métiers ont de grandes chances d’être remplacées par l’IA
Les entreprises doivent se concentrer sur la sécurité de l’IA
Geoffrey Hilton en a aussi profité pour critiquer OpenAI et son dirigeant ,Sam Altman. L’expert souligne que l’objectif initial de la société était de créer une IA « sûre », mais qu’elle est désormais focalisée sur la rentabilité maximale.
Pour Geoffrey Hilton, le problème ne vient pas de la manière dont l’IA est aujourd’hui utilisée, mais plutôt de la façon dont elle est développée. L’expert pense qu’il ne faudra que 5 à 20 ans pour que la technologie dépasse l’intelligence humaine. Et le prix Nobel de physique ajoute que, dans l’histoire, il est très rare qu’une entité moins intelligente puisse garder le contrôle sur une entité plus intelligente.
Geoffrey Hilton appelle donc les gouvernements à obliger les entreprises à investir beaucoup plus dans la sécurité des IA. Le prix Nobel propose qu’un tiers du budget soit consacré à cet aspect, alors qu’aujourd’hui, ce n’est même pas 1 %.
Mais l’IA reste un bel outil dans de nombreux domaines
Malgré ces inquiétudes, Geoffrey Hilton reste optimiste sur les bénéfices que l’IA pourrait apporter. L’experts pense qu’elle pourrait améliorer notre qualité de vie, notamment dans le domaine médical où elle a déjà montré des résultats impressionnants pour la détection de certaines maladies. Pour rappel, les ingénieurs logiciels pourront se reposer dessus pour s’améliorer.
En gros, cette interview montre bien les deux faces de l’IA : un potentiel énorme, mais aussi des risques qu’il faudra vraiment maîtriser.
