Ce sont plusieurs employés anciens et actuels qui dénoncent les dérives qu’a amené l’IA chez Google. Pour faire face à la concurrence de ChatGPT, l’entreprise s’est complètement débarassé de toutes considérations éthiques et préfère implémenter l’IA tout azimut dans ses produits.
Peu avant de présenter le chatbot Bard au public en mars, Google a demandé à ses employés de tester l’outil. Les conclusions d’un employé étaient que Bard est “un menteur pathologique“, selon des captures d’écran d’une discussion interne obtenues par Bloomberg. Un autre le qualifie de “malaisant“. Un employé affirme qu’en demandant à Bard des suggestions pour faire atterrir un avion, le chatbot lui donnait des conseils qui conduiraient à un crash. Enfin, un autre dit que les réponses de l’intelligence artificielle en matière de plongée sous-marine “entraîneraient probablement des blessures graves ou la mort“.
On ne s’étonnera pas que le patron de Google pense que l’IA nécessite la même réglementation que les armes nucléaires. Mais l’entreprise a tout de même lancé Bard. Malgré un moteur de recherche adopté largement, le bot de Google fournit des informations de qualité médiocre dans une course à la concurrence. Plus grave, le géant technologique accorderait moins d’importance à ses engagements éthiques, selon 18 employés de l’entreprise et des documents internes examinés par Bloomberg.
Chez Google, l’éthique passe derrière l’IA
Pourtant, Alphabet s’était engagé en 2021 à doubler son équipe en charge de l’éthique en intelligence artificielle et à consacrer davantage de ressources à l’évaluation de ses potentiels effets néfastes. Mais le lancement de ChatGPT en novembre 2022 a poussé Google à intégrer l’IA dans tous ses produits majeurs en l’espace de quelques mois, sans prendre en compte le travail de cette équipe.
C’est un rythme de développement très rapide pour une technologie et c’est précisément ce pourquoi Elon Musk, Steve Wozniak et des experts appellent à mettre en pause les recherches, citant des “risques graves pour l’humanité”. L’équipe en charge de l’éthique que Google s’était engagé à renforcer est aujourd’hui plus démunie et démoralisée que jamais, explique les sources de Bloomberg. Ces employés auraient reçu l’ordre de ne pas essayer de ralentir le développement des outils d’IA générative.
À lire : Intelligence artificielle : pour Bill Gates, la pause demandée par Elon Musk est inutile
Google cherche à revitaliser son activité de recherche en s’appuyant sur l’IA, qui pourrait permettre d’en équiper des millions de téléphones et de foyers dans le monde entier, idéalement avant qu’OpenAI et Microsoft ne devance Google dans ce domaine. Mais “l’éthique de l’IA a été reléguée au second plan“, déclare Meredith Whittaker à Bloomberg, présidente de la Signal Foundation et ancienne responsable chez Google. “Si l’éthique n’est pas positionnée de manière à prendre le pas sur le profit et la croissance, l’IA ne fonctionnera pas à long terme.“
Source : Bloomberg
