Firefly, l’intelligence artificielle (IA) générative d’Adobe ne serait pas aussi éthique que le clame l’entreprise. Ce générateur d’images aurait été formé à partir de contenu généré par d’autres IA comme Midjourney, elles-même formées ingérant du contenu protégé par le droit d’auteur.
Il y a un peu plus d’un an, nous vous rapportions qu’Adobe se lançait aussi dans la course à l’IA avec Firefly. L’entreprise derrière Photoshop ou After Effects affirmait que son intelligence artificielle était bien plus éthique que d’autres générateurs d’images comme DALL-E Journey. En effet, Adobe indiquait que la base de donnée sur laquelle Firefly avait été formé était tirée d’images libres de droit ou lui appartenant.
Selon un article de Bloomberg publié ce jour, Adobe aurait menti par omission sur Firefly. En effet, pour former son IA générative d’images, la firme aurait en partie employé des images elles-mêmes générées par d’autres IA comme Midjourney ! Adobe n’avait jamais précisé ce gros détail, plutôt gênant pour l’image de son nouvel outil qui accompagne Photoshop.
Adobe Firefly s’est formé sur des images générées par Midjourney
Au moment où Adobe Firefly était dévoilé, ses concurrents étaient ciblées pour leur non-respect du droit d’auteur. Par exemple pour former GPT, OpenAI a ratissé tout internet, sans autorisation des auteurs des images et textes digérées par son grand modèle de langage. Depuis l’éclatement du scandale, certains refusent ce vol de données comme le New York Times.
L’argument “éthique” présenté par Adobe avait du sens : la société dispose en effet d’un énorme stock d’images et de vidéos propriétaires à travers ses logiciels de PAO. Seulement, du contenu généré par IA se serait retrouvé dans ce stock d’images, parce qu’il cache en réalité une place de marché.
Les utilisateurs peuvent y uploader des images pour les vendre à d’autres utilisateurs. En contrepartie, Adobe s’est permis de se servir dedans pour former son IA. Manque de bol, certaines de ces images étaient générées artificiellement et se sont ainsi retrouvées dans les données d’entraînement de Firefly. Adobe estime ainsi que 5 % du corpus d’entraînement est d’origine artificielle.
À lire > Adobe Firefly, la nouvelle IA de Photoshop, rend le design accessible au premier-venu
Selon la jurisprudence américaine, les images générées par IA ne sont pas protégées par le droit d’auteur. Adobe n’a donc pas utilisé d’œuvres protégées, toutefois les images générées par les autres IA ne sont pas aussi éthiques. En les digérant, Firefly s’est donc indirectement servi de contenu protégé.
La faute n’est pas seulement morale, car c’était aussi un argument publicitaire pour Adobe. L’usage de DALL-E ou Midjourney peut potentiellement exposer à un procès, si un artiste affirme voir son œuvre dans une image générée par IA servant à des fins commerciales. L’entreprise mettait ainsi ses clients à l’abri de poursuites avec Firefly.
- L’IA générative Adobe Firefly aurait été entraînée en partie sur des images générées par une autre IA, Midjourney.
- Adobe affirmait pourtant que son IA est plus éthique, notamment en ne se servant pas d’images protégées.
- Commercialement c’est aussi un mensonge, puisque Firefly offrait soit-disant cette garantie de ne pas être exposé à des poursuites.
