À la tête d’OpenAI, l’entreprise derrière ChatGPT, Sam Altman a confié ses craintes concernant les technologies alimentées par l’intelligence artificielle. Le dirigeant a peur que l’IA soit détournée par des régimes totalitaires et des pirates ayant des desseins malveillants.
ChatGPT commence déjà à bouleverser les usages. L’agent conversationnel et ses homologues sont capables de répondre précisément aux requêtes des utilisateurs en générant automatiquement toutes sortes de textes. Une véritable révolution qui permettra de nous décharger de certaines tâches pour gagner sensiblement en productivité, selon les plus optimistes. Mais d’autres craignent que les chatbots soient exploités par des individus malveillants.
Les IA comme ChatGPT peuvent être exploitées par les régimes totalitaires et les pirates
C’est le cas de Sam Altman qui n’est autre que le PDG d’OpenAI, l’entreprise derrière… ChatGPT. Interrogé par ABC News, le dirigeant confie avoir “un peu peur” des technologies d’intelligence artificielle tout en saluant leurs bienfaits pour l’humanité. Il craint notamment que des chatbots soient développés à des fins politiques. “Je suis particulièrement inquiet que ces modèles puissent être utilisés pour la désinformation à grande échelle”, reconnaît-il.
Et de citer une déclaration de Poutine datant de 2017. Le président russe avait assuré à des étudiants que celui qui deviendra le leader de la technologie de l’IA “sera le maître du monde”. Une déclaration “glaçante”, selon Sam Altman qui craint également l’utilisation des chatbots par les pirates informatiques. “Maintenant qu’ils s’améliorent dans l’écriture de code informatique, [ils] pourraient être utilisés pour des cyberattaques offensives”, explique-t-il. Des pirates russes se sont notamment déjà rués sur ChatGPT pour mener leurs opérations.
ChatGPT risque-t-il de propager de la désinformation ?
Altman reconnaît aussi le problème de la désinformation causée par les “hallucinations” des IA. Après avoir assuré que GPT-4 parvenait à mieux raisonner que GPT-3,5, il explique qu’il faut considérer avant tout les chatbots comme des moteurs de raisonnement. Et non comme des agrégateurs de faits même s’ils peuvent aussi assurer cette fonction.
Plus que nous fournir une réponse parfaitement fiable, ChatGPT et consorts doivent dans l’idéal nous aider à affiner notre raisonnement. Il ne faut donc pas les utiliser comme sources uniques et principales d’information, selon Altman qui exhorte les utilisateurs à vérifier les données avancées par les programmes.
À lire > ChatGPT : vous ne voulez pas payer pour GPT-4 ? Bing le propose déjà gratuitement
ChatGPT va-t-il nous piquer nos emplois ?
Enfin, le patron d’OpenAI n’a pas éludé l’impact de ChatGPT sur le marché de l’emploi. Face à l’intégration fulgurante de l’IA dans la société, il estime qu’elle remplacera probablement certains emplois prochainement. Il martèle toutefois que ChatGPT doit être considéré comme un outil et non comme un substitut. “La créativité humaine est illimitée et nous trouverons de nouveaux emplois. Nous trouverons de nouvelles choses à faire”, promet-il.
