Roblox、自撮り写真を用いたAI年齢確認を導入し安全性向上

Robloxは、13歳から17歳までの青少年ユーザー向けに特別に設計された革新的な保護対策を発表した。提出されたビデオ自撮りを分析する、画期的なAI駆動の年齢確認技術が特徴となっている。

プラットフォーム、ティーンの安全対策を強化

新たに発表されたシステムでは、青少年保護を対象としたいくつかの機能強化が導入される。これらのアップグレードの核となるのは、より年少の子どもたちと比較して増加された（ただし依然として監視付きの）プラットフォームアクセスをティーンに許可する一方、成人アカウントに対する制限を維持する、専用のフレームワークである。

ティーンユーザーは現在、Roblox上で「信頼できる接続」を確立することができ、事前に承認された連絡先とのみ、フィルタリングなしのチャットが可能となった。この取り組みは、コミュニケーションが規制のないサードパーティプラットフォームに移動するのではなく、Robloxの監視下にある環境内で安全に保つことを目的としている。

高度な認証システムを導入

信頼できる接続には、ユーザー間の相互の知り合いであることが必要となる。特筆すべきは、成人（18歳以上）との接続を試みるティーンは、追加の安全対策としてQRコードのスキャンまたは連絡先インポート機能のいずれかを利用しなければならない点である。

年齢制限機能の伝統的な政府発行身分証明書による確認からさらに踏み込み、Robloxは現在、代替となるAI駆動のプロセスを提供している。ユーザーはビデオ自撮りを提出することができ、独自のアルゴリズムが広範な人口統計データセットと照合して分析し、年齢を推定する。

プラットフォームは、これらの変更に加えて、カスタマイズ可能なオンラインステータス設定、迷惑防止機能、リンクされた保護者アカウントのための強化された保護者監視ツールなどの追加制御を補完している。

続く安全面の課題

Robloxは青少年保護の取り組みをめぐり、一貫して精査に直面してきた。過去の事例には以下が含まれる：

• 2018年、未成年者に対する不適切な仮想空間内でのやりとりが関与した事例
• 2021年、潜在的労働搾取の懸念が指摘された調査
• 2022年から2023年にかけてのコンテンツモデレーションに関する複数の訴訟

最近の報告によれば、2023年だけで、当局に通報された13,000件以上の搾取事例や、プラットフォームによって助長された24件の犯罪者逮捕を含む、実質的な執行措置が取られていることが示されている。

「安全は、Robloxの運営の礎であり続けています」と、最高安全責任者マット・カウフマンは述べた。「私たちは、コミュニティのインタラクション基準を進化させ続けながら、安全で前向きなデジタル体験を開拓することにコミットしています」