Google renforce les limites de son IA pour encadrer l’usage chez les jeunes

Google annonce un renforcement des mécanismes de sécurité de son assistant d’intelligence artificielle Gemini, afin de limiter les risques de dépendance, en particulier chez les adolescents.

Le groupe introduit de nouveaux garde-fous destinés à encadrer les interactions avec son IA générative. Parmi les principales mesures, l’interdiction pour l’assistant de se présenter comme un être humain ou de simuler des caractéristiques humaines. L’objectif est d’éviter toute confusion et de réduire les formes d’attachement émotionnel.

Ces évolutions visent également à empêcher l’usage de formulations pouvant suggérer une relation intime ou affective. Google indique avoir intégré des protections spécifiques pour limiter les comportements susceptibles de favoriser une dépendance émotionnelle à l’interface.

Cette initiative intervient dans un contexte de préoccupations croissantes autour des usages des intelligences artificielles conversationnelles par les jeunes. Plusieurs études montrent que ces outils sont parfois utilisés comme substituts à des interactions sociales, suscitant l’attention des parents, des associations et des régulateurs.

En parallèle, Google renforce les fonctionnalités liées à la santé mentale. Lorsque des signaux de détresse sont détectés, comme des propos liés au suicide ou à l’auto-mutilation, l’interface oriente désormais l’utilisateur vers des dispositifs d’aide, en ligne ou par téléphone.

L’entreprise rappelle toutefois que son assistant reste un outil d’information et d’apprentissage, et ne peut en aucun cas remplacer un accompagnement professionnel en matière de santé mentale.

À travers ces ajustements, Google cherche à mieux encadrer les usages de l’intelligence artificielle, en tenant compte des enjeux liés à la protection des utilisateurs les plus jeunes et à l’évolution des pratiques numériques.

Avec AFP