米国、AIを活用してAI生成の児童虐待画像と戦う

米国の捜査当局は、AI技術を活用してAI生成の児童虐待画像を検出する取り組みを進めています。近年、生成型AIの普及により、児童性的虐待画像の制作が急増しており、米国の児童搾取捜査のリーダーは、AI生成画像と実際の被害者を写した画像を区別する技術の実験を開始しています。

国土安全保障省のサイバー犯罪センターは、国境を越えた児童搾取事件を調査しており、サンフランシスコに拠点を置くHive AIに15万ドルの契約を授与しました。この契約は、コンテンツがAI生成かどうかを判定するHive AIのソフトウェアの使用を目的としています。

9月19日に公開された政府の申請書は多くの部分が伏せられており、Hive AIの共同創設者兼CEOであるケビン・グオ氏は、契約の詳細について語ることはできないと述べていますが、この契約が児童性的虐待素材（CSAM）検出のためのAIアルゴリズムの使用を含むことを確認しています。