ChatGPT, c’est ce célèbre outil d’IA qui permet de générer du texte (et des images). Mais il est aussi et de plus en plus utilisé par les cybercriminels pour diverses fins. Kaspersky sonne l’alarme et révèle l’ampleur du phénomène.
ChatGPT est un outil d’intelligence artificielle (IA) capable de générer du texte à partir de n’importe quelle entrée. Il a été présenté au public il y a plus d’un an, et depuis, il suscite un vif intérêt dans la communauté des cybercriminels, selon un nouveau rapport de Kaspersky.
Le rapport révèle que les forums clandestins regorgent de discussions sur ChatGPT et d’autres modèles de langage de grande taille (LLM), et sur la façon dont ils pourraient être utilisés dans des campagnes cybercriminelles. Les chercheurs ont identifié près de 3 000 messages traitant du sujet sur des forums du dark web.
ChatGPT, c’est aussi un outil d’IA détourné par les cybercriminels
En s’adressant à Infosecurity Magazine, Alisa Kulishenko, de Kaspersky, a déclaré que sur ces forums, les cybercriminels parlent de toutes sortes d’utilisations avec ChatGPT, comme faire écrire du code malveillant par l’outil, traiter des données d’utilisateurs volées, analyser des fichiers provenant d’appareils infectés, et plus encore.
Ces cybercriminels discutent aussi de projets de ChatGPT alternatifs et malveillants, comme XXXGPT ou FraudGPT. Ils parlent aussi de déverrouiller les outils, en utilisant des commandes spécifiques qui permettent de débloquer des fonctionnalités supplémentaires.
Enfin, les pirates sont toujours à la recherche de vendre ou d’acheter des comptes ChatGPT volés. L’outil d’IA générative populaire dispose d’une version gratuite et d’une version commerciale, cette dernière offrant beaucoup plus de fonctionnalités. Kaspersky a trouvé 3 000 autres messages proposant de tels comptes à la vente.
De la cybermalveillance de plus en plus dure à détecter
Depuis l’introduction de ChatGPT, il y avait des inquiétudes quant à son détournement par les criminels. Comme pour toute autre technologie (nouvelle), les pirates ont trouvé des moyens de l’implémenter dans leurs activités.
Avant ChatGPT, l’un des moyens les plus simples de repérer un e-mail de phishing était de chercher des fautes d’orthographe et de grammaire, ainsi que des incohérences dans le langage, car de nombreux criminels ne faisaient pas trop attention à leur niveau d’anglais. Avec ChatGPT, les e-mails de phishing sont devenus indiscernables des messages légitimes à cet égard.
