Après Elon Musk et Steve Wozniak, c’est maintenant l’un des plus grands pionniers de l’intelligence artificielle qui avertit de ses dangers pour l’humanité. Pour Geoffrey Hinton, les chatbots pourraient bientôt devenir plus intelligent que les humains.
Ce n’est pas le premier à avertir des dangers de l’intelligence artificielle, mais le poids de sa voix dans le domaine de l’intelligence artificielle est sans doute inégalé. En mars, c’était Elon Musk, Steve Wozniak et des experts qui appellaient à mettre en pause les recherches, citant des “risques graves pour l’humanité”. C’est maintenant l’un des « parrains » de l’IA, Geoffrey Hinton, qui avertit de ses dangers et a préféré démissionner de son poste chez Google.
Le pionnier de l’IA déclare dans les pages du New York Times qu’il regrette maintenant son travail. Il explique notamment que certains des dangers liés aux chatbots étaient “assez effrayants“. “Pour l’instant, ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils pourraient bientôt le devenir” : des propos qui rappelleront aux fans de Terminator les heures les plus sombres de l’humanité, après la prise de conscience de Skynet.
Geoffrey Hinton, le parrain de l’intelligence artificielle
Cependant, le scientifique justifie aussi sa décision de démissionner du poste à responsabilité qu’il tenait chez Google par son âge : “J’ai 75 ans, il est temps de prendre ma retraite“. Il affirme que Google a toujours eu une approche responsable dans ses recherches sur l’IA. Ses regrets viennent surtout de la possibilité que des personnes mal intentionnées, “comme Vladimir Poutine“, pourraient utiliser l’IA pour de funestes desseins.
Formé à la psychologie expérimentale, Geoffrey Hinton est devenu docteur en intelligence artificielle à l’université d’Edimbourg en 1978. Ses recherches en réseaux de neurones artificiels ont pavé la voie au machine learning des IA comme ChatGPT et l’ont fait connaître comme l’un des “parrains” de l’intelligence artificielle. Il partageait son temps depuis 2013 entre son travail chez Google et ses cours à l’université de Toronto.
Les déclarations de Geoffrey Hinton rappelleront aux férus d’histoire les regrets similaires qu’avait eu Einstein à propos de la bombe nucléaire, regrettant la force destructrice qu’il avait permis de créer en découvrant la théorie de la relativité. Heureusement, les gouvernements commencent à prendre des mesures, comme l’UE qui va imposer de nouvelles règles aux IA selon leur dangerosité.
