Après ChatGPT, OpenAI travaille sur la création d’une intelligence artificielle générale. Son projet serait très avancé et surtout performant, à tel point que des chercheurs alertent sur le danger qu’il pourrait représenter pour l’humanité.
OpenAI va-t-il encore se retrouve dans la tourmente après le feuilleton Sam Altman ? Rappelons que la semaine dernière, le conseil d’administration d’OpenAI avait décidé de se séparer de Sam Altman. Face à la pression d’une centaine d’employés qui menaçait de démissionner au soutien au créateur de ChatGPT, la décision a été révisée et l’homme a finalement repris sa place cette semaine.
Alors que tout semble rentrer (temporairement) dans l’ordre, l’entreprise détentrice de ChatGPT inquiète à cause de projet Q*, une intelligence artificielle générale qui aurait atteint un stade de développement trop dangereux pour l’humanité.
Après ChatGPT, la nouvelle IA d’OpenAI menacerait l’humanité
Projet Q* pourrait-il causer la disparition de l’espèce humaine ? Peu de temps avant que Sam Altman soit évincé, plusieurs chercheurs ont écrit une lettre au conseil d’administration pour l’avertir d’une importante découverte en matière d’intelligence artificielle qui, selon eux, pourrait menacer l’humanité. Ce courrier aurait justement précipité le départ de Sam Altman, en plus d’autres motifs.
Projet Q* serait une intelligence artificielle générale (AGI), une technologie encore plus développée que l’IA générative ChatGPT, puisqu’elle est capable d’effectuer n’importe quelle tâche cognitive comme un être humain. Sam Altman ne s’est jamais caché de vouloir mettre au point une AGI capable de surpasser les humains dans la plupart des tâches économiquement utiles. De quoi susciter de l’inquiétude, car cela ouvrirait réellement la porte au remplacement de l’humain par la machine comme beaucoup le craignent.
Si les chercheurs ont alerté le conseil d’administration, c’est parce que le développement de l’AGI avancerait à une vitesse fulgurante. À ce stade, l’intelligence artificielle générale conçue par OpenAI serait déjà capable de résoudre des problèmes mathématiques du niveau de l’école primaire, selon les deux sources de Reuters. De plus, les générateurs de contenus comme DALL-E ou Sora, sont des composantes supplémentaires, qui renforcent cette idée, notamment dans le domaine de la création artistique.
À lire aussi > Intelligence artificielle : un patron vire ses employés pour un chatbot et suscite l’indignation générale.
Visiblement, le bouleversement du marché de l’emploi par l’AGI n’est pas leur seule crainte. D’après eux, un groupe « étudie les moyens d’optimiser les modèles d’IA existants afin d’améliorer leur raisonnement et, à terme, d’effectuer des travaux scientifiques ».
L’intelligence artificielle pourrait donc atteindre, voire dépasser les capacités de l’être humain sur le plan de la recherche. Lors du sommet de l’Apec à San Francisco, quelques jours avant son éviction, Sam Altman attestait lui-même des progrès fulgurants de Projet Q*. Bien sûr, il faudra sûrement beaucoup de temps avant que ce dernier soit au point.
