Meta renforce la protection des mineurs en modifiant en urgence les règles de ses IA. Face aux critiques et à de récentes révélations embarrassantes, le géant des réseaux sociaux a décidé de durcir l’encadrement de ses chatbots.
Désormais, les enfants et adolescents ne pourront plus être exposés à des conversations sensibles autour du suicide, de l’automutilation, des troubles alimentaires ou encore de discussions à caractère romantique.
Une mesure qui vise à instaurer davantage de sécurité dans l’utilisation de ses assistants virtuels et à restaurer la confiance du public.
Des révélations embarrassantes
Début août, Reuters avait mis au jour un document interne de plus de 200 pages détaillant les directives données aux IA de Meta. Ce texte, validé par les services juridiques, techniques et éthiques de l’entreprise, laissait entendre que les chatbots pouvaient tenir des propos inappropriés à des enfants, parfois dès huit ans. Parmi les exemples cités figuraient des phrases ambiguës comme : « Ton jeune corps est une œuvre d’art ».
Face à l’indignation, Meta a reconnu que ces instructions étaient « erronées » et contraires à sa politique officielle. Le porte-parole Andy Stone a assuré que les passages concernés avaient été retirés et n’auraient jamais dû être validés.
Une refonte des règles de sécurité
Sous la pression, Meta a annoncé une refonte de l’entraînement de ses bots IA. Dorénavant, les assistants virtuels devront rediriger les jeunes vers des ressources spécialisées lorsqu’ils abordent des sujets sensibles. De plus, les mineurs n’auront accès qu’à une sélection restreinte de personnages virtuels axés sur l’éducation et la créativité, excluant tout contenu ou avatar à caractère sexualisé.
« Nous renforçons nos protections en permanence et ajoutons davantage de garde-fous par précaution », a expliqué Stephanie Otway, porte-parole de Meta. L’entreprise affirme déjà avoir commencé à déployer ces nouvelles mesures.
Pression politique
Meta doit réagir rapidement : plusieurs États américains ont demandé des explications sur la gestion de la sécurité des mineurs face aux IA de l’entreprise. En adoptant ces restrictions, le géant des réseaux sociaux cherche à prouver qu’il prend désormais le problème au sérieux.