2025年3月3日、こども家庭庁は約10億円を投じて開発を進めてきた児童虐待判定AIシステムの導入を見送ることを決定しました。この決定は、システムの試行段階で約6割の判定に疑義が生じたことを受けてのものです。

本記事では、この虐待判定AIシステムの概要、頓挫の原因、そして今後の対策について詳しく解説します。

目次 [ close ]
  1. 虐待判定AIシステムの概要
  2. 導入見送りの経緯
  3. 判定ミスの原因
  4. 今後の対策
  5. まとめ

虐待判定AIシステムの概要

こども家庭庁が開発を進めていたこのシステムは、児童相談所（児相）職員の判断を補助する目的で設計されました。主な特徴は以下の通りです。

  1. 約5,000件の実際の虐待事例をAIに学習させた
  2. 傷の有無や保護者の態度など、計91項目の情報を入力
  3. 入力情報を基に、虐待の可能性を0〜100の点数で表示

このシステムは、一時保護の判断の質向上や、児相職員の業務負担軽減を目指して開発されました。

導入見送りの経緯

システムの試作モデルが完成し、10の自治体の児相協力のもと、過去の虐待事例100件を用いて検証が行われました。しかし、その結果は期待を大きく下回るものでした。

  • 100件中62件で「著しく低い」などの疑義が生じた
  • 重大な虐待事例でも、システムの判定が低いケースがあった

特に問題となったのは、子どもの重大な訴えにもかかわらず、システムが低い判定を下したケースです。例えば、「母に半殺し以上のことをされた」という証言があったにもかかわらず、システムの判定点数は「2〜3」という低いものでした。

判定ミスの原因

専門家らは、AIによる虐待判定が困難である理由として、以下の点を指摘しています。

  1. データ量の不足：AIの学習には膨大な量の記録が必要だが、今回の約5,000件では不十分だった。
  2. 入力情報の粒度：91項目の情報は該当の有無を入力するだけで、ケガの程度や範囲まで詳細に記入する仕組みになっていなかった。
  3. 重要項目の欠落：子どもの体重減少など、重要な判断材料となる項目が抜け落ちていた。
  4. 虐待形態の多様性：身体的虐待だけでなく、心理的虐待やネグレクトなど、AIでは数値化が難しい要素が多く存在する。

これらの要因が重なり、システムの精度が低くなったと考えられます。

今後の対策

虐待判定AIシステムの導入見送りは、児童虐待対策におけるAI活用の難しさを浮き彫りにしました。しかし、この結果は必ずしもAI活用の可能性を否定するものではありません。

今回の経験を踏まえ、以下のような改善策が考えられます。

  1. データ量の拡充：より多くの事例データを収集し、AIの学習精度を向上させる。
  2. 入力項目の見直し：ケガの程度や範囲、子どもの体重減少など、重要な判断材料となる項目を追加し、より詳細な情報を入力できるようにする。
  3. 人間の判断との併用：AIの判定結果を参考情報の一つとして扱い、最終的な判断は人間が行う仕組みを構築する。
  4. 多様な虐待形態への対応：心理的虐待やネグレクトなど、数値化が難しい要素についても評価できるシステムの開発を目指す。
  5. 継続的な検証と改善：システムの精度を定期的に検証し、必要に応じて改善を行う体制を整える。

まとめ

こども家庭庁が約10億円を投じて開発を進めてきた児童虐待判定AIシステムは、試行段階で約6割の判定に疑義が生じたことにより、導入が見送られることとなりました。この結果は、児童虐待という複雑な問題に対するAI活用の難しさを示すものとなりました。

しかし、この経験は今後のAI開発や児童虐待対策の改善につながる貴重な教訓となるでしょう。技術の進歩と人間の専門知識を組み合わせることで、より効果的な児童保護システムの構築が可能になると期待されます。

児童虐待は深刻な社会問題であり、その対策には継続的な努力と改善が必要です。今回の結果を踏まえ、こども家庭庁をはじめとする関係機関が、より効果的な対策を講じていくことが求められています。