2025年3月3日、こども家庭庁は約10億円を投じて開発を進めてきた児童虐待判定AIシステムの導入を断念することを決定しました。このシステムは、児童相談所（児相）の業務負担軽減と虐待の早期発見を目的として開発されましたが、試験運用の結果、判定ミスが約6割に達したことから「実用化困難」と判断されました。
本記事では、このプロジェクトの概要、導入断念に至った理由、そして今後の展開について詳しく解説します。
虐待判定AIシステムの概要
こども家庭庁が2021年度から開発を進めてきたこのAIシステムは、以下の特徴を持っていました。
- 約5,000件の過去の虐待事例をAIに学習させた
- 傷の有無や保護者の態度など、91項目の情報を入力
- 入力情報を基に、虐待の可能性を0〜100点でスコア化
このシステムは、増加する児童虐待相談に対応するため、児相職員の判断を補助し、虐待リスクの早期発見を目指していました。
導入断念に至った理由
2023年度、10の自治体で100件の過去事例をAIに判定させたところ、以下の問題が明らかになりました。
- 62件の検出に留まり、「著しく低い精度」と評価された
- 重大な虐待事例でも、システムの判定が低いケースがあった
特に問題となったのは、子どもの重大な訴えにもかかわらず、システムが低い判定を下したケースです。例えば、「母に半殺し以上のことをされた」という証言があったにもかかわらず、システムの判定点数は「2〜3」という低いものでした。
AIによる虐待判定の限界
専門家らは、AIによる虐待判定が困難である理由として、以下の点を指摘しています。
- データ量の不足：AIの学習には膨大な量の記録が必要だが、今回の約5,000件では不十分だった可能性がある
- 入力情報の粒度：91項目の情報は該当の有無を入力するだけで、ケガの程度や範囲まで詳細に記入する仕組みになっていなかった
- 重要項目の欠落：子どもの体重減少など、重要な判断材料となる項目が抜け落ちていた
- 虐待の多様性：身体的虐待、心理的虐待、ネグレクトなど、様々な形態の虐待をAIが適切に判断することが難しい
- 文脈理解の限界：AIは個々のケースの複雑な背景や状況を十分に理解できない可能性がある
これらの要因が重なり、システムの精度が低くなり、結果として虐待を見逃す危険性が高まったと考えられます。
今後の展開と課題
虐待判定AIシステムの導入断念は、児童虐待対策におけるAI活用の難しさを浮き彫りにしました。しかし、こども家庭庁は児童虐待防止に向けた取り組みを継続しています。2025年度の予算では、総額7.3兆円のうち4,033億円を児童虐待防止や社会的養護に充てる計画です。
今後の主な施策としては以下が挙げられます。
- 児童相談所の職員増：2026年度までに910人の児童福祉司を増員
- 心理職の配置強化：心理的ケアを必要とする子どもへの支援を拡充
- デジタル技術活用：虐待リスクの早期発見のため、データ分析を活用
- 里親・養育家庭支援の拡充：里親制度の認知向上と支援体制の強化
- 児童養護施設の環境改善：人員配置の見直しと施設整備
- 地域支援団体やNPOとの連携：地域での見守り体制を強化
- 学校・医療機関との連携：教育・医療の現場から虐待リスクの早期発見を推進
これらの施策を通じて、人的リソースの確保と、現場の専門家による判断を重視した対策が進められる見込みです。
AIと人間の協働モデルの可能性
虐待判定AIの導入断念は、技術だけでは解決できない現場課題を浮き彫りにしました。しかし、それは同時に「技術と人間の協働」の重要性も示唆しています。
今後、AIを児童虐待対策に活用する場合、以下のようなアプローチが考えられます。
- AIを補助ツールとして活用し、人間による最終判断との併用
- データ量と質の向上：より多くの事例データの収集と、非身体的要素も含む詳細なデータ提供
- 入力項目と分析精度の再設計：重要な要素を反映し、多面的な情報収集を可能にする
- 継続的な検証と改善：実証実験と検証プロセスを繰り返し行い、精度向上につなげる
まとめ
こども家庭庁の虐待判定AIプロジェクトは、期待された成果を上げることができず導入が断念されました。しかし、この経験は児童虐待対策における技術活用の課題と可能性を明らかにしました。
今後は、AIなどのデジタル技術を活用しつつ、人的リソースの確保や専門家の判断を重視した総合的なアプローチが求められます。児童虐待という深刻な社会問題の解決に向けて、技術と人間の知恵を最大限に活かす方策を模索していく必要があります。
