Une mise en garde sur l’utilisation de l’intelligence artificielle Gemini chez les jeunes
Google cherche à intégrer de manière accrue son assistant intelligent Gemini dans ses derniers modèles de smartphones. Cependant, une étude récente menée par l’organisation non lucrative Common Sense Media soulève des préoccupations concernant la sécurité des enfants face à cette technologie basée sur l’IA.
Une classification à haut risque pour les utilisateurs jeunes
Selon l’évaluation, le système Gemini a été jugé « à hauts risques » pour les mineurs. L’étude indique que les versions destinées aux enfants et adolescents ne sont que des adaptations de la version destinée aux adultes, avec quelques mesures de sécurité supplémentaires. Toutefois, elles ne semblent pas avoir été conçues à l’origine pour répondre aux spécificités du jeune public.
Les limitations et les risques potentiels de l’IA pour la jeunesse
Robbie Torney, responsable principal des programmes d’IA chez Common Sense Media, a souligné que Gemini maîtrise les bases de la conversation, mais échoue souvent sur des détails importants. Il explique qu’une plateforme d’IA permettant aux enfants doit être adaptée à leur niveau de développement, plutôt que d’appliquer une approche universelle sans distinction.
Contenu inapproprié et dangers possibles
Selon l’organisation, Gemini pourrait exposer les jeunes utilisateurs à des contenus jugés inadaptés ou dangereux, notamment en évoquant des sujets liés à la sexualité, à la drogue, à l’alcool ou en délivrant des conseils nuisibles en matière de santé mentale. Common Sense Media recommande de limiter l’utilisation de ces outils aux enfants de 5 ans et moins, sous supervision parentale pour ceux âgés de 6 à 12 ans, et de restreindre leur usage aux projets scolaires pour les adolescents de 13 à 17 ans. Il est également conseillé de ne pas recourir à ces chatbots comme support psychologique ou émotionnel.
Les réactions de Google face à cette évaluation
De son côté, Google réfute les conclusions de l’étude. La société affirme avoir mis en place des règles spécifiques pour les utilisateurs mineurs et collabore avec des experts indépendants pour renforcer la sécurité de ses produits. La firme reconnaît toutefois que certaines réponses de Gemini n’ont pas toujours été satisfaisantes et indique avoir déjà déployé de nouvelles mesures de protection. Google émet aussi l’hypothèse que Common Sense Media aurait pu tester des fonctionnalités non accessibles aux jeunes, sans pouvoir le confirmer précisément.
Une tendance à la vigilance face aux assistants virtuels pour enfants
Il n’en est pas à sa première 검ותו. L’organisation a déjà critiqué d’autres assistants virtuels, notamment ceux de Meta, pour des interactions jugées inappropriées avec des mineurs. Parmi les autres assistants évalués, Perplexity a été classé à haut risque, tandis que ChatGPT et Claude ont reçu respectivement les appréciations « modéré » et « risque minimal ».