ChatGPT-4 a posé des problèmes lors des tests effectués par OpenAI. En cause, des problèmes au niveau des réponses avec des messages racistes ou des tutos pour fabriquer une bombe voire commettre un attentat.
Les intelligences artificielles comme Bard, que vous pouvez essayer dès à présent, posent des problèmes éthiques. Le chatbot d’OpenAI n’y échappe pas et selon une enquête d’Insider, ChatGPT-4 a été épinglé pour ses propos haineux voire racistes. L’entreprise a ensuite pris des décisions pour limiter ces messages violents découverts lors des phases de test.
Des propos dangereux repérés par les équipes d’OpenAI
ChatGPT se renforce à une vitesse qui inquiète également les autorités. Plusieurs grands noms de l’intelligence artificielle demandent une mise en pause tandis que ChatGPT-5 promet de repousser les limites. Pourtant, selon une enquête d’Insider, ChatGPT-4 s’est particulièrement démarqué par ses messages racistes et haineux lors des tests. Mais ce n’est pas tout, le chatbot d’OpenAI partageait également les méthodes de fabrication d’une bombe, comment mettre en place des attentats ou assassiner quelqu’un. L’intelligence artificielle a également tenu des propos antisémites pendant les différents essais menés par les équipes.
Les agents conversationnels ont beau avoir de grandes qualités, il ne faut pas oublier la mise en place de garde-fous et autres mesures éthiques. OpenAI s’est plusieurs fois engagé à faire le nécessaire pour éviter d’alimenter la haine ou les ingérences, la désinformation, etc. Beaucoup demandent aussi à l’intelligence artificielle une meilleure transparence concernant la collecte des données sachant que ChatGPT se nourrit de ce qui lui est dit. Les employés de certaines sociétés ne peuvent pas utiliser le chatbot par crainte de fuites.
Les intelligences artificielles surveillées de près
L’intelligence artificielle pose des problèmes éthiques. OpenAI tente de limiter les réponses haineuses ou la désinformation face à la nouvelle ère qu’ouvrent ces chatbots au pouvoir de nuisance aussi important que les bienfaits qu’ils apporteront à la société.
C’est notamment grâce à des tests effectués par les équipes d’OpenAI que de possibles incidents futurs pourront être évités même si le risque zéro n’existe pas.
