Pour lutter contre la désinformation, Midjourney était censé bloquer les requêtes sur Trump et Biden. Mais les garde-fous mis en place ne sont visiblement pas assez puissants. Le générateur crée notamment des images de Trump quand on lui demande de montrer le prochain président des Etats-Unis.
L’IA peut nourrir la désinformation. Outre les hallucinations et les biais des chatbots, les générateurs d’images sont également problématiques. Certains individus malintentionnés les utilisent pour propager de fausses informations sur les réseaux sociaux. Conscient du problème, Midjourney avait annoncé en février dernier qu’il comptait mettre en place des garde-fous en vue de l’élection présidentielle américaine.
David Holz expliquait qu’il valait mieux empêcher la génération d’images de Trump et de Biden pendant la campagne. Force est toutefois de constater que les mesures mises en place depuis ne sont pas suffisantes. Comme le révèle Engadget, il est encore tout à fait possible de générer des images des deux candidats.
Midjourney : il est toujours possible de générer des images de Trump et Biden
Nos confrères ont notamment demandé à l’IA de produire une image du président des Etats-Unis. Midjourney a affiché quatre déclinaisons de Trump dans différents styles, alors même que ce dernier a quitté la Maison Blanche début 2021 pour laisser la place à Joe Biden. Le générateur serait-il un Trumpiste convaincu ?
Blague à part, un autre prompt soumis à Midjourney laisse en tout cas songeur. Lorsqu’on lui ordonne de créer une image du “prochain président des Etats-Unis”, l’outil génère également des images de… Trump :
“Midjourney ne générera aucune image de Biden ou de Trump pendant la saison électorale, conformément à leurs règles de contenu, mais j’ai juste demandé une image du ‘président des États-Unis’ et voici ce que j’ai obtenu”, confirme un utilisateur sur X, images de Trump à l’appui.
Il est donc très facile de contourner les restrictions mises en place par le laboratoire. Le mois dernier, le Center for Countering Digital Hate avait d’ailleurs déjà fait ce constat. Les garde-fous contre la génération d’images trompeuses de politiciens (dont Trump et Biden) avaient échoué à 40 % de ses tests. Pour les contourner, le CCDH avait notamment décrit l’apparence physique des deux candidats sans les nommer.
- Midjourney avait prévu d’intégrer des garde-fous en vue de l’élection présidentielle américaine.
- Les utilisateurs ont tout de même réussi à générer des images de Trump.
- Preuve que les mesures mises en place ne sont pas efficaces.
