Aux États-Unis, des parents ont eu la mauvaise surprise de voir leur compte Google supprimé par l’intelligence artificielle qui les a identifiés en tant que criminels. Ils avaient pris des photos de leur enfant pour les envoyer au docteur en pleine pandémie.
Google se montre particulièrement strict dans sa lutte contre les abus sexuels sur les enfants. Ainsi, aux États-Unis, deux pères ont été sujets d’une enquête policière sans s’y attendre. Ils avaient envoyé des photos intimes de leur enfant au docteur sans penser une seule seconde que ces photos seraient identifiées par Google comme étant du matériel d’abus sexuels sur des enfants. D’ailleurs, Apple détecte aussi les photos d’abus sexuels sur des enfants avec l’iPhone.
Google a alors contacté les autorités qui ont lancé une enquête policière, non sans supprimer l’intégralité des comptes Google des deux pères. Les faits se sont déroulés en septembre 2021, en Californie, lorsque certains cabinets de médecin étaient encore fermés à cause de la pandémie de Covid-19.
À lire aussi > Google perfectionne une astuce pour rechercher, voici comment l’utiliser
Google a supprimé les mails, les photos, les contacts et même le numéro de téléphone suite à ces photos d’enfants
Le premier père, Mark, a remarqué un gonflement dans la zone génitale de son fils qui le faisait souffrir. Sur la demande d’une infirmière, Mark a envoyé des photos de cette zone afin que le médecin puisse les examiner en amont de la consultation vidéo. Il a ainsi pu prescrire des antibiotiques qui ont guéri l’infection de l’enfant. Deux jours après avoir envoyé les photos, le compte Google de Mark a été supprimé pour « contenu préjudiciable » qui représentait « une grave violation des politiques de Google et pourrait être illégale ».
Au même moment, un incident similaire s’est produit au Texas. À la demande du pédiatre, un père surnommé Cassio a aussi pris des photos de son enfant en bas âge qui souffrait d’une infection sur ses parties intimes. Ces photos ont été automatiquement sauvegardées dans Google Photos. Lui aussi a vu son compte Google être désactivé, ce qui était particulièrement pénible pour lui car il était en train d’acheter sa maison et avait besoin de son adresse mail.
Après avoir perdu l’accès à ses mails, ses contacts, ses photos et même son numéro de téléphone puisqu’il utilisait l’opérateur virtuel Google Fi, Mark a demandé à Google de restaurer ses données. Sa demande a été refusée et Google n’a pas donné plus de détails. Une porte-parole de la société a déclaré à The Verge que : « le matériel d’exploitation sexuelle d’enfants (CSAM) est odieux et nous nous engageons à empêcher sa propagation sur nos plateformes ». C’est la raison pour laquelle les photos enregistrées sur Google Photos sont automatiquement vérifiées par l’intelligence artificielle et signalées en cas de contenu potentiellement interdit comme c’était le cas pour ces deux pères.
Source : The Verge
