然う然う

こども家庭庁は、虐待が疑われる子どもの一時保護の必要性をAIで判定するシステムの導入を見送ることを決定した。このシステムは全国の児童相談所（児相）の人手不足解消を目的に2021年度から約10億円をかけて開発が進められ、最終判断を職員が行う際の補助ツールとして期待されていた。しかし、試験運用で約100件中62件が判定ミスとなり、AIによる虐待判断は困難と判断された。システムは5000件の虐待記録を学習し、傷の有無や保護者の態度など91項目の情報を基に0〜100の可能性スコアを表示する仕組みだった。だが、入力項目が不十分で、ケガの程度や子どもの体重減少といった重要な情報が反映されていなかったことが精度の低さの原因とされた。専門家は、虐待の態様が多様であることや記録件数の不足がAI判定の難しさにつながったと指摘。また、AI活用には実現可能性の吟味や制度設計が不可欠であり、今回の失敗を今後の開発に生かすべきだと提言している。こども家庭庁が虐待判定AIの導入を進めた理由は、虐待の通告件数が増加するなか、職員の数が十分ではないにもかかわらず、迅速かつ正確な対応が求められていたためである。AIは膨大なデータを分析し、客観的なリスク判定の補助ツールとして職員の判断を支援することが期待されていた。また、虐待事例の蓄積データを活用することで、経験や知識の差を補い、対応の均質化を図る狙いがあった。

これらの着眼点は正当であるが、10億円程度の予算で虐待判定に特化した人工知能を開発しようという発想は非現実的である。汎用人工知能であるChatGPTのGPT-4モデルのトレーニングには約150億円以上の費用がかかったと報じられている。また、ChatGPTの運用には1日あたり約1億円以上の運用費がかかると推定される。さらに、OpenAIは2024年10月に約1兆6000億円の巨額資金を確保し、開発や運用に充てている。虐待判定に特化すれば多少は安価に開発できるかもしれないが、年間3億円程度では予算規模が桁違いに不足している可能性がある。虐待判定は時間との勝負であり、担当官の主観や環境バイアスを排除して判定することはAIの得意分野だと考えられる。また、積み上げた事例を人工知能に学習させることで、経験の浅い担当官のリスクを排除する効果も期待できる。これは医療AIにも同様のことが言える。対人サービスに携わる人間の質には「親切」か「不親切」か、能力が「高い」か「低い」かの組み合わせがある。民間の場合、不親切な人には寄り付きにくいが、公的サービスでは「不親切で能力の低い」担当者に巡り合うことがある。AIはこのリスクを低減する可能性がある。今回の虐待AIの問題は資金不足が大きな要因だが、平均的な対人サービスの質を向上させるには不可欠な技術である。ぜひ今後の再挑戦を期待したい。