Roblox introduit un contrôle d'âge par IA via une photo de profil pour renforcer la sécurité

Roblox a dévoilé des mesures de protection innovantes spécialement conçues pour les utilisateurs adolescents âgés de 13 à 17 ans, intégrant une technologie révolutionnaire de vérification d'âge basée sur l'IA qui analyse les vidéos selfies soumises.

La plateforme renforce ses mesures de sécurité pour les adolescents

Le système nouvellement annoncé introduit plusieurs améliorations ciblant la protection des jeunes. Au cœur de ces améliorations se trouve un cadre spécialisé qui accorde aux adolescents un accès à la plateforme accru - bien que toujours supervisé - par rapport aux enfants plus jeunes, tout en maintenant des restrictions par rapport aux comptes adultes.

Les utilisateurs adolescents peuvent désormais établir des « contacts de confiance » sur Roblox, permettant des conversations sans filtre exclusivement avec des contacts pré-approuvés. Cette initiative vise à maintenir les communications en sécurité dans l'environnement surveillé de Roblox plutôt que de migrer vers des plateformes tierces non réglementées.

Mise en œuvre de systèmes de vérification avancés

Les contacts de confiance nécessitent une familiarité mutuelle entre les utilisateurs. À noter que les adolescents tentant de se connecter avec des adultes (18 ans et plus) doivent utiliser soit la fonction de scan de code QR, soit l'importation de contacts comme mesures de protection supplémentaires.

Allant au-delà de la vérification traditionnelle par pièce d'identité gouvernementale pour les fonctionnalités à accès restreint par âge, Roblox propose désormais un processus alternatif piloté par l'IA. Les utilisateurs peuvent soumettre des vidéos selfies que des algorithmes propriétaires analysent en les comparant à de vastes ensembles de données démographiques pour estimer l'âge.

La plateforme complète ces changements avec des contrôles supplémentaires, y compris des paramètres personnalisables de statut en ligne, une fonction « ne pas déranger », et des outils de supervision parentale améliorés pour les comptes de tuteurs liés.

Défis continus en matière de sécurité

Roblox a fait face à un examen constant concernant ses pratiques de protection des jeunes. Les incidents historiques incluent :

• Un cas en 2018 impliquant des interactions virtuelles inappropriées avec des mineurs
• Des enquêtes en 2021 alléguant des préoccupations potentielles d'exploitation du travail
• De multiples procès tout au long de 2022-2023 concernant la modération des contenus

De récents rapports indiquent des mesures d'application substantielles, comprenant plus de 13 000 cas d'exploitation signalés aux autorités et 24 arrestations de prédateurs facilitées par la plateforme en 2023 seulement.

« La sécurité reste la pierre angulaire des opérations de Roblox », a déclaré le Directeur de la Sécurité Matt Kaufman. « Nous nous engageons à être pionniers dans la création d'expériences numériques sûres et positives tout en faisant évoluer continuellement nos normes d'interaction communautaire. »