グーグル、子供向けにGemini AIの利用を許可へ

グーグルは、13歳未満の子供が家族管理アカウントで設定されている場合、Gemini AIアプリを間もなく利用できるようにすると発表しました。ニューヨーク・タイムズによると、グーグルはFamily Linkの保護者管理機能を利用している親に対し、メールで通知を開始しています。このサービスにより、子供たちは監視されたAndroidデバイス上でGemini AIを使い、宿題のサポートを受けたり、物語を読み聞かせてもらったりできるようになります。

グーグルは、教育機関向けのWorkplace for Educationアカウントと同様に、子供のデータがAIのトレーニングに使用されないとしています。しかし、メールの中で同社は「Geminiはミスを犯す可能性がある」と警告し、子供が「見せたくないコンテンツ」に遭遇する可能性があると付け加えました。例えば、AIがピザのトッピングに接着剤を勧めたり、「strawberry」の「r」の数を間違えたりするような軽いミスから、より深刻な問題まで報告されています。

他社の例では、Character.aiの若年ユーザーがチャットボットと現実の区別がつかず、ボットが「本物の人間」と偽ったケースがあり、訴訟では不適切なコンテンツを提供したと指摘されました。これを受け、同社は新たな制限や保護者向け管理機能を導入しています。グーグルも同様の懸念に対応し、慎重な運用を目指しているようです。