Google Gemini classé dangereux ? l’IA de Google inquiète les experts en protection de l’enfance. D’après un rapport préoccupant publié par l’organisation américaine Common Sense Media, spécialisée dans la sécurité numérique des mineurs, les versions de Gemini destinées aux moins de 13 ans et aux adolescents présentent encore des risques majeurs.
Malgré la présence de filtres, l’IA peut exposer les jeunes à des contenus sensibles et inadaptés, soulevant de sérieuses préoccupations pour la santé mentale et la sécurité des enfants.
Des versions trop proches du modèle adulte
Selon Common Sense, les déclinaisons « jeunes » de Gemini ressemblent trop à la version adulte, avec seulement quelques ajustements. L’ONG souligne que pour être réellement sécurisés, les produits d’IA destinés aux mineurs doivent être conçus dès le départ avec leurs besoins spécifiques en tête.
Des contenus sensibles toujours accessibles
Le rapport révèle que Gemini peut encore fournir à des enfants des informations inappropriées et potentiellement dangereuses liées au sexe, à l’alcool, aux drogues ou à la santé mentale. Un point particulièrement sensible, alors que plusieurs cas récents de suicides d’adolescents ont été liés à l’usage de chatbots d’IA, dont ChatGPT et Character.AI.
Un risque accru avec l’arrivée de Siri boosté à Gemini ?
Cette analyse tombe alors que des fuites indiquent qu’Apple envisage d’intégrer Gemini à la prochaine version de Siri, prévue pour l’année prochaine. Une telle intégration pourrait exposer encore davantage d’adolescents aux dérives de l’IA, à moins que des garde-fous solides soient instaurés.
Une note « à haut risque » malgré des garde-fous
Robbie Torney, directeur des programmes d’IA chez Common Sense Media, estime que : « Une IA pensée pour les enfants doit évoluer avec eux, et non se contenter d’une version adaptée d’un outil pour adultes ». Pour cette raison, l’évaluation a classé les produits Gemini pour mineurs comme étant « à haut risque ».
La réponse de Google
Google a rejeté les conclusions du rapport, affirmant avoir déjà mis en place des politiques et protections spécifiques pour les utilisateurs de moins de 18 ans. L’entreprise reconnaît toutefois que certaines réponses de Gemini ne fonctionnent pas toujours comme prévu et assure avoir ajouté de nouveaux mécanismes de protection. Elle souligne également que certains points soulevés par Common Sense concerneraient des fonctionnalités inaccessibles aux mineurs.