Pour enrayer la propagation de fausses informations, Google avait précipitamment empêché les utilisateurs de Gemini de créer des images de personnes. Six mois plus tard, cette fonctionnalité va faire son grand retour mais avec davantage de garde-fous.
Gemini (anciennement Google Bard) peut générer des images depuis le début de l’année. En testant l’outil en profondeur, certains utilisateurs avaient toutefois mis au jour les biais du chatbot responsables d’images historiquement incorrectes. Soldats nazis à la peau noire, femmes parmi les Pères fondateurs des Etats-Unis, vikings asiatiques… Face à la la myriade d’erreurs dénoncées par les internautes, Google avait décidé de suspendre la génération d’images de personnes, le temps de mettre au point une version améliorée.
Il aura fallu attendre six mois pour que la fonctionnalité ressorte de son chapeau. En marge de l’annonce du nouveau modèle Imagen 3, Google vient de révéler sur son blog que la génération de personnes reviendra “dans quelques jours” en anglais. L’option sera d’abord disponible en accès anticipé pour les utilisateurs de Gemini Advanced, Business et Enterprise.
A lire > L’IA Gemini débarque sur Keep, Tasks et Calendar
Gemini permet à nouveau de générer des images de personnes mais avec des restrictions
Google explique avoir réalisé “des progrès significatifs” pour améliorer l’outil. Des garde-fous plus stricts ont notamment été mis en place. “Nous ne prenons pas en charge la génération d’individus photoréalistes et identifiables, les représentations de mineurs ou les scènes excessivement sanglantes, violentes ou sexuelles”, explique le géant du Web.
Rappelant l’imperfection des outils d’IA comme Gemini, Google promet d’être attentif aux retours de la communauté. “Comme pour tout outil d’IA générative, toutes les images créées par Gemini ne seront pas parfaites, mais nous continuerons à écouter les commentaires des premiers utilisateurs à mesure que nous nous améliorerons”. La génération de personnes s’ouvrira progressivement à davantage d’utilisateurs et de langues, promet Google.
Reste à voir si les restrictions imposées suffiront. Pour rappel, voici quelques exemples d’images historiquement fausses générées par Gemini au début de l’année :
