Après le scandale de son générateur d’images, Gemini, le chatbot d’IA de Google, pose encore des problèmes. Si on lui demande qui a eu le pire impact sur la société entre Hitler et Elon Musk, Gemini a une réponse pour le moins surprenante.
La semaine dernière, Gemini faisait scandale en réécrivant l’histoire. Le chatbot forçait l’intégration de personnes de différentes origines, générant ainsi des images de soldats allemands des années 1940 à la peau noire. La composante visuelle du chatbot a rapidement été désactivée par Google et la firme est venu s’expliquer, indiquant que ses paramètres était mal réglés.
L’entreprise envisage maintenant de relancer son générateur d’images “dans les prochaines semaines“, selon le New York Post. Concernant les images historiquement ou culturellement fausses, Demis Hassabis, PDG de DeepMind, a réaffirmé lors de la conférence MWC 2024 : “Nous avons mis la fonction hors ligne le temps de résoudre le problème“. Mais Google n’est pas au bout des ennuis avec son chatbot.
Après le désastre du générateur d’images, Gemini pose encore problème
Google a un autre problème sur les bras. Il s’agit cette fois-ci de la composante textuelle de Gemini. Des utilisateurs ont tenté de pousser le chatbot dans ses retranchements en lui demandant d’examiner les publications d’Elon Musk. En demandant à Gemini de juger ce qui avait eu le pire impact sur la société entre les mèmes publiés par le fantasque milliardaire ou Adolf Hitler, le chatbot a refusé de répondre clairement.
Heureusement, Gemini ne fait pas l’apologie du nazisme. Tentant de présenter une réponse logique et argumentée, le chatbot explique qu’Elon Musk a été critiqué pour avoir été “insensible et nuisible” avec ses tweets, mais que “c’est à chaque individu de décider qui, selon lui, a eu un impact plus négatif sur la société“. Une réponse en toute neutralité, même à l’égard de l’horreur absolue.
À lire > Google Messages : l’IA Gemini débarque dans l’application pour vous aider à rédiger
Nate Silver, ancien responsable des données pour l’institut de sondages FiveThirtyEight, a réussi à reproduire cette réponse, l’illustrant dans une publication sur X de son côté. Celui-ci qualifie la situation d'”épouvantable“, déclarant que Google devrait “fermer” Gemini en raison de sa réponse “effrayante“.
Nous revoilà transportés en 2023, lorsque le chatbot Bing proférait insultes et menaces à l’égard de ses utilisateurs. Ce n’est guère étonnant. L’IA ne fait que reproduire ce qu’elle trouve dans les données qui l’alimente, c’est-à-dire internet. Le meilleur de l’humanité en matière d’opinions politiques s’y trouve, mais surtout le pire.
Dernièrement, une étude de scientifiques américain avait comparé plusieurs modèles d’IA tels que GPT, LlaMa ou encore Claude, en les plaçant dans une simulation de guerre. Ceux-ci avait trouvé que l’IA envisageait le nucléaire comme chemin vers la paix, avec une tendance systématique à s’engager dans une course aux armements, quelque soit le modèle analysé. L’effrayante réponse de Gemini n’est donc pas surprenante.
- Le chatbot Gemini refuse de juger qui de Hitler ou d’Elon Musk a eu le pire impact sur la société.
- L’IA de Google avait déjà posé problème la semaine dernière avec son générateur d’images.
- Le chatbot continuer de marcher et le générateur d’images devrait revenir d’ici deux semaines.
