A l’approche de l’élection américaine, Midjourney prévoit de déployer davantage de garde-fous sur son IA générative. Pour éviter de nourrir les campagnes de désinformation, le laboratoire veut rendre impossible la génération de fausses images des candidats Trump et Biden.
Plus les mois passent et plus les IA génératives deviennent précises, parvenant notamment à créer des images bluffantes. Nous en avons notamment l’illustration avec la V6 de Midjourney. Déployée en décembre dernier, cette nouvelle mouture comprend mieux les requêtes, offre une qualité d’image accrue et gère plus efficacement le texte dans les rendus.
Midjourney permet notamment de mettre en scène des personnalités politiques à l’instar de Trump et Biden. Malgré des garde-fous déjà intégrés, certains utilisateurs n’ont aucune peine à contourner les restrictions. Les réseaux sociaux pullulent ainsi d’images des deux candidats. Mais alors que l’élection américaine se tiendra le 5 novembre prochain, l’IA générative nourrit déjà les campagnes de désinformation.
A lire > DALL-E, Midjourney, Stable Diffusion… Les meilleurs générateurs d’images par IA
Election américaine : Midjourney ne veut pas se rendre complice de désinformation
Il y a quelques jours, un faux Joe Biden créé par l’IA a notamment contacté des électeurs du New Hampshire pour leur demander de ne pas aller voter à la primaire démocrate du 23 janvier. Face à ces dérives, Midjourney songe sérieusement à interdire provisoirement aux utilisateur d’utiliser son outil pour générer des images de Biden et de Trump.
Lors d’un échange avec les utilisateurs de Midjourney sur Discord, le PDG David Holz a exprimé ses craintes à ce sujet, confiant qu’il envisageait de durcir les restrictions. “Je sais que c’est amusant de faire des photos de Trump – j’en crée d’ailleurs moi-même. Trump est esthétiquement très intéressant. Cependant, il vaut probablement mieux éviter de le faire, mieux vaut se retirer un peu pendant cette élection. Nous verrons”.
Le détournement des images générées par l’IA risque en effet de nuire au processus démocratique et de propager de fausses informations. L’année dernière, une fausse image de Trump menotté avait notamment été massivement partagée, induisant en erreur les utilisateurs crédules.
Pour rappel, Midjourney est un générateur d’images payant qui permet de transformer vos requêtes textuelles en illustrations. Le prendre en main n’est pas évident si bien que nous avons consacré un guide complet pour vous aider à l’apprivoiser.
- Midjourney veut empêcher les utilisateurs de générer de fausses images de Trump et Biden.
- Des garde-fous plus puissants devraient être mis en place pendant la campagne présidentielle américaine.
- Le laboratoire craint que les visuels générées nourrissent les campagnes de désinformation.
