近年、AI技術は医療・金融・教育など幅広い分野で活用されています。政府もAI導入を進める中で、**「虐待判定AI」**が開発されました。しかし、こども家庭庁は導入を見送り、10億円をかけたプロジェクトは頓挫する形となりました。
なぜ、このAIは実用化できなかったのか？
10億円は無駄になったのか？
今後の改善や再開の可能性はあるのか？
この記事では、虐待判定AIの開発経緯・課題・今後の展望を詳しく解説します。
1. 虐待判定AIとは？
■ 開発の目的
児童相談所（児相）は全国的に慢性的な人手不足に陥っています。職員の負担を軽減し、虐待リスクのある子どもを迅速に保護するために、こども家庭庁がAIを活用した虐待判定システムの開発に着手しました。
AIは過去の虐待事例を学習し、傷の有無・保護者の態度・子どもの証言など91項目を基に、虐待の可能性を0〜100の点数で判定する仕組みでした。
■ 開発費用
このプロジェクトには約10億円が投入されました。
・データ収集・加工費
・AIモデル開発費
・システム構築・インフラ整備費
・実証実験費
AIを活用した社会問題解決の一環として、政府主導で進められましたが、結果的に導入は見送られました。
2. 導入見送りの理由｜なぜ失敗したのか？
こども家庭庁は、2024年度に全国10自治体の児相で実証実験を実施しました。しかし、その結果、AIの判定ミスが約6割にのぼり、「実用化は困難」と判断されました。
■ 具体的な問題点
① 精度が低すぎる（6割のケースでミス判定）
あるケースでは、子どもが「母に半殺し以上のことをされた」と証言し、詳細な虐待内容を述べたにもかかわらず、AIの判定は「2〜3点（ほぼ虐待リスクなし）」と評価されました。
→ 原因：AIは「傷の有無」を重視しすぎ、証言を適切に評価できなかった。
② 学習データの不足
AIの性能向上には、大量のデータ（数十万件以上）が必要ですが、今回の開発では約5000件の虐待事例しか学習できませんでした。
→ データ不足により、AIが適切な判定基準を学習できなかった。
③ 判定基準の設計ミス
AIは「虐待の有無」を機械的に判定する設計でしたが、虐待の態様は事例ごとに異なり、画一的な基準では判断が難しいことが判明しました。
→ 傷の程度や証言の重みを適切に考慮できない仕組みになっていた。
④ 人間の判断と合わない
AIが出したスコアを**児相の幹部が確認したところ、「著しく低い」などの疑義が62件（100件中）**発生。AIの判定が現場の感覚と大きくズレていることが問題視されました。
→ 現場の職員が「AIの判定を信頼できない」と判断。
3. 開発中止？それとも継続？
■ 「開発を保留して見送り」とは？
こども家庭庁は「開発を保留」としており、これは**「完全中止」ではなく、将来的な改善・再開の可能性を残している」**ことを意味します。
■ 2つのシナリオ
✅ ① 完全中止（10億円が無駄に）
・AI導入が困難と判断し、プロジェクト終了
・「AIでは虐待判定ができない」と結論づける
・人的リソース強化にシフト
✅ ② 追加開発（コスト増加だが成功の可能性）
・データを増やし、AIの学習精度を向上
・AIを「補助ツール」として活用する形に変更
・現場職員との連携を強化
今後、AI技術の進展や政策判断によって、再開の可能性もあります。
4. 海外の類似事例との比較
■ 米国の児童虐待予測AI
・ペンシルベニア州アレゲニー郡で「虐待リスクを予測するAI」導入
・開発費4億円超
・精度の問題により、一部地域で運用見送り
■ 英国の児童保護AI
・数十億円をかけたプロジェクト
・プライバシー問題と精度不足で導入困難
海外でも**「AIで虐待を判定する」試みは難しく、課題が多い**ことがわかります。
5. 今後の課題と改善策
✔ データの大幅増強
最低でも10万件以上の事例データを学習し、精度向上を図る必要があります。
✔ AIの役割を「補助」に変更
・AIが判断するのではなく、「注意すべき事例をピックアップ」する機能に限定
・最終判断は人間が行う仕組みにする
✔ 現場の意見を反映
児童相談所の職員と協力し、実際の現場で役立つシステム設計に改良することが重要です。
6. まとめ｜虐待判定AIは失敗だったのか？
✔ 10億円を投じたが、現時点では実用化困難
→ 精度不足（誤判定6割）、学習データ不足、判定基準の設計ミス が原因
✔ 完全中止か、継続開発かは未定
→ こども家庭庁は「開発保留」とし、今後の技術進展を見ながら判断
✔ AIの活用には慎重なアプローチが必要
→ 完全自動判定ではなく、「補助ツール」としての役割を検討すべき
虐待対策のためのAI活用は、今後も課題が多いですが、適切な運用方法を見出せば、児童相談所の業務改善に貢献できる可能性はあります。
動画ハッシュタグ
#虐待判定AI #こども家庭庁 #AI開発 #児童虐待 #社会問題 #AIの限界 #税金の使い道 #ITと社会 #政府プロジェクト #AI技術