IT 之家 3 月 4 日消息，近年來，随着人工智能（AI）技術的快速發展，日本企業和部分政府部門紛紛涉足這一領域，試圖通過技術手段提升效率、解決人手短缺等問題。然而，該國一項旨在保護兒童免受虐待的人工智能系統項目卻因技術缺陷而宣告失敗。
據《讀賣新聞》報道，日本兒童與家庭機構（Children & Families Agency）曾投入約 10 億日元（IT 之家備注：當前約 4850.6 萬元人民币），開發一套基于人工智能的系統，用于檢測兒童虐待行爲。該系統并非用于替代人類專家，而是協助負責臨時監護兒童的專家，判斷這些兒童是否适合返回父母身邊。系統通過分析 5000 起已确認的兒童虐待案例進行訓練，依據 91 個數據點（包括兒童的傷痕、父母的态度等）對新案例進行評分，判斷虐待的可能性。
然而，這套系統在實際測試中表現不佳。在對 100 起已确定存在虐待風險的案例進行分析時，系統僅正确标記了 38 起，其餘 62 起均被判定爲 " 風險極低 "。其中，一個孩子聲稱母親多次将其頭部撞擊地面，将其打得 " 半死 "，但系統卻給出了 2 到 3 分的極低評分（滿分 100 分）。專家指出，系統過于依賴物理證據，忽視了口頭證詞的重要性，同時 5000 個案例的數據量遠遠不足以充分訓練系統。此外，該機構承認系統在數據采集方面存在缺陷，例如無法準确記錄兒童體重下降或傷痕等關鍵信息。
基于上述問題，兒童與家庭機構最終決定放棄該項目。
日本目前正面臨人口老齡化和勞動力短缺的雙重挑戰，兒童保護機構也面臨着來自受害者權益倡導者的指責，認爲日本在處理兒童虐待問題時過于遷就父母，将孩子置于危險之中。随着大型語言模型（LLM）等生成式 AI 技術的興起，許多公司紛紛在其軟件系統中添加 "AI" 功能，但兒童與家庭機構的案例表明，缺乏高質量、高容量的數據是機器學習和 AI 應用的常見瓶頸。
